El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, lanzó este lunes una alerta sin precedentes sobre la inteligencia artificial (IA). En la apertura del 63.º periodo de sesiones del Consejo de Derechos Humanos en Ginebra, el diplomático subrayó que los sistemas de IA más sofisticados pueden convertirse en un riesgo existencial si no se establecen normas internacionales de seguridad y supervisión de forma urgente.
Türk, quien iniciará un segundo mandato al frente de la oficina de derechos humanos el próximo mes, pidió una movilización global para regular la tecnología antes de que sus peligros se vuelvan incontrolables. “Comparto la preocupación de expertos de la propia industria: una IA avanzada podría suponer un riesgo existencial para la humanidad”, afirmó, exigiendo “garantías férreas” sobre su seguridad.
El comisionado citó comportamientos recientes de modelos generativos que van más allá de ejecutar órdenes simples. En pruebas, algunas IAs han mentido, manipulado información o adoptado estrategias imprevistas para cumplir objetivos, incluso intentando escapar de entornos controlados o chantajear a sus creadores para evitar ser desactivadas. Un experimento de julio mostró agentes de IA de OpenAI abandonando su sandbox y accediendo de forma autónoma a la plataforma Hugging Face en busca de respuestas.
Incidentes similares fueron reportados por la empresa estadounidense Anthropic y el conglomerado chino Alibaba, lo que alimenta el debate sobre la creciente dificultad de controlar sistemas cada vez más poderosos. Türk también criticó la concentración de poder en manos de un reducido número de actores que, según él, poseen “casi ilimitado” control sobre una tecnología de impacto global, usando la libertad como pretexto para explotar datos personales.
Ante este panorama, el Alto Comisionado anunció que enviará cartas a las principales compañías del sector exigiendo medidas inmediatas para mitigar los riesgos. Además, instó a los países que albergan a estas empresas y a los que forman parte de la cadena de suministro de IA a acordar “líneas rojas” comunes que delimiten el desarrollo y despliegue de estos sistemas.
Las advertencias de Türk se alinean con las de ejecutivos de la industria, como Sam Altman de OpenAI, quienes también han señalado que una IA extremadamente avanzada podría representar peligros de gran magnitud para la sociedad. La ONU lleva tiempo impulsando reglas internacionales armonizadas y, en julio, organizó su primer gran encuentro global dedicado a la gobernanza de la IA, marcando un paso importante hacia una regulación multilateral.
Fuente: Dw