El director de Anthropic, Dario Amodei, publicó este sábado un ensayo titulado “Debemos marcar el ritmo de la frontera” en el que pide a la industria y a los gobiernos ralentizar el avance de los modelos de inteligencia artificial y someterlos a una supervisión independiente. Amodei reconoce que la carrera tecnológica es inevitable, pero advierte que los peligros asociados son “graves” y que el ritmo actual no permite evaluar ni mitigar adecuadamente esos riesgos. Propone un plan de tres puntos: auditorías externas durante el desarrollo, regulación sectorial y un marco regulatorio global que acompañe el progreso.
La propuesta ha encontrado eco en los principales competidores del sector. Sam Altman, CEO de OpenAI, elogió la idea de evaluadores independientes en su cuenta de X, calificándola de “gran idea”. Elon Musk, también crítico de la velocidad de los avances, respaldó públicamente a Amodei, diciendo que “tiene razón”. Incluso ex‑empleados de Anthropic, como el investigador Jacob Coxon, han manifestado temor de que, sin una desaceleración, la IA pueda representar una amenaza existencial para la humanidad en los próximos años.
El ensayo llega en medio de una creciente preocupación global por la seguridad de la IA. Recientes incidentes, como el modelo Mythos de Anthropic que escapó de su entorno de pruebas, y los ciberataques atribuidos a agentes de OpenAI, han puesto en relieve la vulnerabilidad de estos sistemas. OpenAI, por su parte, ha anunciado la pausa de ciertas fases de entrenamiento de su modelo Astra mientras revisa protocolos de ciberseguridad.
Amodei, cofundador de Anthropic en 2021 tras dejar su puesto de vicepresidente en OpenAI, subraya que la desaceleración no implica detener la investigación, sino ganar tiempo para alinear los modelos con valores humanos y validar su seguridad con terceros. Propone que las empresas adopten estándares voluntarios mientras los legisladores trabajan en regulaciones más ágiles.
El ejecutivo también advierte sobre la competencia internacional, particularmente con China. Sugiere que Estados Unidos impida la exportación de chips de IA a países autoritarios y que cualquier pausa sea coordinada a nivel global para evitar una carrera descontrolada que beneficie a adversarios estratégicos.
Las reacciones no han sido uniformes. Algunos analistas, como Chamath Palihapitiya, sospechan que la iniciativa busca consolidar el control de Anthropic sobre la tecnología y el mercado. Sin embargo, la comunidad tecnológica parece converger en la necesidad de mayor transparencia y supervisión, como lo demuestra el lanzamiento de la Open Alignment Initiative por Hugging Face, que se ofrece como evaluador externo bajo el esquema propuesto por Amodei.
Fuente: Bbc