En la conferencia conjunta de Microsoft y Nvidia en San Francisco, Satya Nadella recordó su propio inicio en la empresa y anunció una nueva estrategia: la “inteligencia híbrida”. Según el CEO, combinar modelos de IA en la nube con modelos locales permitiría que la inteligencia artificial llegue a cualquier escritorio y hogar, reviviendo el papel del PC como centro de productividad.
El concepto, explicado por el directivo Pavan Davuluri, consiste en usar la potencia de los servidores de Azure para tareas complejas y, al mismo tiempo, ejecutar modelos más ligeros directamente en el equipo del usuario. Microsoft mostró cómo GitHub Copilot, integrado con un “enrutador inteligente de modelos”, puede alternar entre tokens de pago (nube) y tokens generados localmente, que según la empresa son prácticamente gratuitos.
Kayla Cinnamon, otra ejecutiva de la firma, realizó una demo donde el ordenador permanecía encendido durante la noche y, sin costo adicional, seguía produciendo tokens mediante el modelo local. El atractivo es doble: ahorro en suscripciones a servicios como ChatGPT Plus o Claude Pro, y mayor privacidad, pues los datos no abandonan la máquina.
Sin embargo, el punto crítico señalado por Xataka es que los “tokens gratis” no lo son si se requiere un hardware costoso. Para ejecutar modelos locales de calidad, Microsoft propone su nuevo Surface Laptop Ultra, equipado con chips Nvidia RTX Spark y 24 GB de memoria unificada, a un precio base de 2 599 USD. La versión con 32 GB sube a 3 299 USD, una cifra que supera varios meses de suscripciones a los principales servicios de IA.
Comparativamente, un MacBook Pro con chip M5 Pro y 48 GB de memoria cuesta alrededor del mismo monto, pero ofrece mayor ancho de banda y soporte para modelos de mayor tamaño. La diferencia radica en la compatibilidad con CUDA, ventaja de los dispositivos Microsoft que favorece ciertos frameworks de IA.
A pesar de la crítica, la idea de una IA híbrida sigue ganando terreno. Smartphones ya emplean modelos locales para tareas rápidas y consultan la nube para operaciones más complejas, como Siri AI o Gemini. En el futuro, los PCs y otros dispositivos probablemente adopten la misma lógica: usar hardware potente para tareas rutinarias y recurrir a la nube cuando la carga supera sus capacidades.
En resumen, la promesa de tokens gratuitos depende de una inversión inicial significativa en equipos de alto rendimiento. La verdadera pregunta para los usuarios será si el ahorro a largo plazo compensa el gasto inicial, o si seguir suscribiéndose a servicios en la nube resulta más rentable.
Fuente: xataka