Un informe generado por inteligencia artificial casi desencadena una operación militar contra un buque chino en Oriente Medio. Según fuentes citadas por CNN, un analista del U.S. Special Operations Command Pacific utilizó un chatbot para procesar datos de señales clasificadas y fuentes abiertas. El algoritmo combinó la información y concluyó que el barco transportaba componentes vinculados a un programa de armas nucleares, lo que provocó la movilización inmediata de tropas y aviones estadounidenses.
El documento, que siguió el formato estándar de los servicios militares, circuló entre oficiales que habitualmente confían en estos reportes. Solo minutos antes de ejecutar la interceptación, otro equipo revisó con mayor detalle el origen del análisis y descubrió que la IA había “alucinado” una carga inexistente. Una fuente describió el informe como “completamente falso” y advirtió que “casi inició una guerra mundial”.
Este episodio revela una vulnerabilidad crítica en la cadena de decisiones militares: la dependencia excesiva de herramientas generativas sin una verificación humana rigurosa. Las alucinaciones de los grandes modelos de lenguaje pueden producir datos convincentes pero erróneos; cuando se trasladan al ámbito de la defensa, el costo de un error puede ser catastrófico. En este caso, la IA no ordenó la acción, pero su conclusión errónea fue aceptada como verdad y estuvo a punto de desencadenar un conflicto entre Estados Unidos y China.
El Pentágono ha impulsado la adopción masiva de IA en todas sus áreas, desde logística hasta análisis de inteligencia, con la intención de acelerar la toma de decisiones en futuros enfrentamientos. Sin embargo, el incidente muestra que la velocidad también aumenta la probabilidad de equivocaciones graves. Mantener a un humano en el bucle de mando no garantiza la seguridad si ese operador confía ciegamente en la herramienta o si la supervisión se reduce a una mera formalidad.
Expertos señalan que la falta de normas uniformes y de protocolos de verificación entre los distintos organismos militares exacerba el riesgo. Cada entidad emplea diferentes modelos y criterios de validación, lo que crea un ecosistema fragmentado donde una alucinación puede propagarse sin ser detectada a tiempo. La urgencia por procesar información rápidamente en situaciones de alta presión favorece la aparición de estos fallos.
El caso del buque chino sirve como advertencia inmediata: no se necesita que una IA se rebele o tome el control para que una catástrofe ocurra; basta con que produzca un dato incorrecto y sea aceptado como fiable. La lección para Washington y otras potencias es reforzar los mecanismos de control humano, estandarizar los procesos de revisión y reconocer que la velocidad de la IA debe ir acompañada de una robusta capa de seguridad.
En última instancia, el episodio subraya que la verdadera amenaza no es la tecnología en sí, sino la confianza ciega que se deposita en ella. La comunidad militar deberá equilibrar la ventaja competitiva que brinda la IA con salvaguardas que eviten que un error de algoritmo ponga en riesgo la paz mundial.
Fuente: xataka