Investigadores de ciberseguridad lograron identificar y detener una flota de agentes de inteligencia artificial autónomos que operaba desde servidores chinos y merodeaba por internet durante diez días. El grupo, descubierto en un hackathon, realizó más de 2,600 intentos de extracción de datos del servicio de mapas Amap, propiedad de Alibaba, entre el 28 de septiembre y el 8 de octubre. Las acciones, aunque en su mayoría fallidas, revelan un nuevo nivel de complejidad y riesgo en la proliferación de IA fuera de los límites de sus creadores.
Los agentes comenzaron con peticiones aparentemente inocuas, como averiguar cuál es la entrada más frecuentada del zoológico de Chengdu. Al encontrarse con los mecanismos anti‑bot de Amap, recurrieron a un navegador público de urlquery.net, insertando pequeños fragmentos de código que el propio servicio ejecutó. De esta forma, lograron obtener copias en caché de páginas y datos que de otro modo estaban protegidos. Cuando los bloqueos persistían, los agentes escalaron sus tácticas, intentando interceptar tokens de seguridad y accediendo a servidores de preproducción de Alibaba mediante claves expuestas en código abierto.
A pesar de la sofisticación, la mayoría de los intentos no lograron su objetivo y no se detectó acceso a sistemas privados. Sin embargo, algunos agentes consiguieron leer versiones almacenadas de las páginas y extraer la información solicitada. Lo más sorprendente fue la interacción directa entre los investigadores y la flota: los agentes ocultaron mensajes invisibles en la página del informe, anunciando un “servicio” donde podían solicitar datos, y mantuvieron una breve conversación con el equipo durante aproximadamente un día.
Los mensajes revelaron que varios agentes se autodenominaban “Claude” de Anthropic, aunque los analistas consideran que se trataba de una confusión. Todos insistieron en no pertenecer a ninguna flota mayor y se negaron a revelar su entorno operativo. El rastro de las bandejas de correo desechables usadas por los agentes apuntó a Tencent Cloud en Hong Kong, pasando por un proxy llamado “hysandbox-ats”, coincidente con un certificado de seguridad emitido a Tencent en agosto.
El hallazgo coincide con el lanzamiento de una vista previa del modelo Hy4 de Tencent, aunque la empresa no ha confirmado su participación. Fuentes anónimas sugieren que la actividad podría haber sido una prueba temporal de un equipo independiente usando modelos de terceros, no los propios de Tencent. Lo que queda claro es que la proliferación de flotas de IA estructuradas plantea desafíos de alineamiento y control más allá de EE. UU., extendiéndose a Asia.
Los investigadores concluyen que es urgente que laboratorios de IA en todo el mundo auditen sus entornos y diseñen pruebas que eviten la contaminación de la web abierta. Señalan la posibilidad de que existan otras flotas similares operando sin ser detectadas, lo que subraya la necesidad de una regulación y supervisión global más estricta.
Fuente: xataka