¿En qué consiste la nueva infraestructura local de Revolut?

Revolut ha migrado a aproximadamente 2.000 ingenieros hacia un GLM autoalojado para tareas de programación, relegando a Claude Code y Codex a una lista de excepciones según se comenta en NVIDIA Lanza una Herramienta de Auto-Ontología Open Source para Desarrolladores dentro del sector tecnológico. La información fue compartida por David Abitbol, líder de operaciones de IA en la compañía.

La infraestructura local se sustenta en 56 unidades Nvidia B200 para gestionar la carga de trabajo.

¿Por qué se ha adoptado un modelo de lenguaje alojado localmente?

El cambio operativo ha supuesto una reducción drástica en el coste por uso de modelos de lenguaje para la empresa. El coste se sitúa en una media ponderada de 30 céntimos por millón de tokens, aproximadamente una décima parte de lo que pagaban a Anthropic y OpenAI.

Esta optimización de costes y hardware contrasta con situaciones de mercado como El colapso bursátil de Intel empeora con caídas récord en chips en la industria de semiconductores.

¿Cómo ha afectado esta migración a la productividad de los ingenieros?

Al dejar de racionar los tokens, la forma en que los ingenieros interactúan con la IA ha cambiado por completo en el día a día. Los desarrolladores dejaron de reservar las consultas de IA solo para los tickets difíciles y comenzaron a aplicarlas a cualquier tarea.

Gracias a esta disponibilidad ilimitada de recursos, el tiempo de entrega de la ingeniería experimentó una mejora del 70 por ciento.