Inicio TecnologiaRevolut reduce diez veces el costo de IA y acelera desarrollo con modelo chino GLM 5.3

Revolut reduce diez veces el costo de IA y acelera desarrollo con modelo chino GLM 5.3

por editor
0 comentarios

Revolut, la fintech con más de 80 millones de usuarios, ha sustituido a Claude Code de Anthropic y a Codex de OpenAI por GLM 5.3, el modelo de inteligencia artificial de código abierto proveniente de la empresa china Z.ai. Según David Abitbol, director de operaciones e infraestructura de IA, la decisión permite que sus 2,000 ingenieros trabajen con una herramienta local, más barata y bajo control total de los datos. El cambio se anunció durante la GTC de Nvidia en Berlín, donde Abitbol explicó que el nuevo enfoque reduce la factura de IA a una décima parte del costo de los modelos de frontera.

El modelo GLM, cuyas ponderaciones están disponibles públicamente, se ejecuta en los propios servidores de Revolut, usando alrededor de 56 GPUs Nvidia. Cada millón de tokens generados cuesta aproximadamente 0.30 USD, y la tarifa es fija, sin incrementos por volumen. Esta estructura contrasta con los precios variables de OpenAI y Anthropic, que pueden escalar rápidamente según la demanda. Con GLM, la compañía ha logrado que el tiempo de programación caiga cerca del 60 % y el tiempo de entrega de incidencias se reduzca en un 70 %.

Revolut no abandonó por completo las soluciones de Google, Anthropic o OpenAI; las mantiene como reserva para problemas extremadamente complejos. Sin embargo, la mayor parte del trabajo cotidiano, como búsquedas en Confluence, gestión de tickets en Jira o consultas en Slack, ahora se atiende con GLM. Abitbol señaló que el cuello de botella real no era escribir código, sino la coordinación y documentación alrededor de él, tareas que el modelo gestiona de forma eficiente.

El proceso de adopción no fue inmediato. En junio, la latencia superaba los 10 segundos con cuatro solicitudes por segundo, lo que obligó a optimizar la configuración. Tras ajustes en la misma cantidad de GPUs, Revolut alcanzó más de ocho solicitudes por segundo con una latencia inferior a 1.8 segundos. Entre los trucos compartidos por Abitbol se encuentran limitar la ventana de contexto a 256,000 tokens, usar formatos FP4 de menor precisión y vigilar la tasa de aciertos de caché para evitar sobrecargar el hardware.

El uso de un modelo chino en una entidad financiera regulada genera dudas, pero Revolut aclara que solo emplea los pesos del modelo y los aloja en infraestructura propia o con proveedores de la UE y EE. UU., garantizando que ningún dato se envíe a servidores chinos. Esta arquitectura mejora la privacidad frente a soluciones externas, ya que el código y la información sensible permanecen bajo control interno.

Finalmente, GLM se limita a texto; para tareas de generación de imágenes, Revolut recurre a Gemini Flash, un modelo más económico. La estrategia demuestra que los modelos locales pueden competir con los de frontera, ofreciendo velocidad, ahorro y mayor seguridad para empresas que manejan grandes volúmenes de datos.

Fuente: Xataka

También te puede interesar

Focus Mode

Bloqueador de anuncios detectado

Apóyanos desactivando tu bloqueador de anuncios para este sitio.