Un grupo de investigadores ha lanzado una serie de agentes de inteligencia artificial diseñados para interactuar con la enciclopedia libre y exponer vulnerabilidades en su modelo de edición abierta. Los bots, creados bajo el proyecto “Open Web Agents”, utilizan algoritmos de lenguaje natural para generar artículos, modificar entradas existentes y, en algunos casos, insertar información errónea deliberada. El objetivo, según sus autores, es demostrar que la premisa de que la web abierta está pensada exclusivamente para humanos ya no se cumple, pues las máquinas pueden manipularla con la misma facilidad que los usuarios.
Los experimentos se llevaron a cabo en un entorno controlado durante las últimas semanas, y los resultados fueron presentados en una conferencia de tecnología en Berlín. Los investigadores mostraron que los agentes lograron publicar más de 1,200 ediciones en Wikipedia sin ser detectados por los sistemas automáticos de vigilancia. Entre los cambios, se encontraban pequeños errores tipográficos, datos falsos sobre eventos históricos y la inserción de enlaces a sitios de baja reputación.
Wikipedia, que depende de la revisión colaborativa de miles de voluntarios, ha respondido con una alerta a su comunidad. En un comunicado oficial, la Fundación Wikimedia señaló que “la aparición de agentes automatizados que simulan la actividad humana representa un desafío para la integridad del contenido y la confianza de los lectores”. La organización anunció la implementación de nuevas herramientas de detección basadas en aprendizaje automático para identificar patrones de edición sospechosos.
Expertos en seguridad digital advierten que este tipo de pruebas, aunque realizadas con fines investigativos, pueden abrir la puerta a actores malintencionados. “Si un grupo de investigadores puede evadir los filtros, no es difícil imaginar que cibercriminales o campañas de desinformación lo hagan con fines políticos o económicos”, comentó la analista de ciberseguridad Laura Méndez.
Por su parte, los creadores de los agentes argumentan que la exposición de estas fallas es necesaria para fortalecer la arquitectura de la web abierta. “Queremos que la comunidad tome conciencia de que la confianza en la información no puede basarse solo en la buena fe de los editores”, afirmó el líder del proyecto, Carlos Ortega. Propusieron la creación de un protocolo de verificación adicional que incluya revisiones humanas y algoritmos de auditoría más robustos.
Mientras tanto, la comunidad de Wikipedia ha iniciado un proceso de revisión intensiva de los artículos modificados y ha convocado a sus editores más experimentados para reforzar la vigilancia. El caso pone de relieve la necesidad de equilibrar la apertura colaborativa con mecanismos de control que impidan la manipulación por parte de inteligencias artificiales cada vez más sofisticadas.
Fuente: Xataka