Jacob Coxon, exinvestigador de la firma de inteligencia artificial Anthropic, confesó ante la BBC que el personal de su empresa vive con “miedo genuino” ante la velocidad del desarrollo de los sistemas de IA y sus posibles consecuencias catastróficas. En una entrevista para el programa “Sunday” con Laura Kuenssberg, Coxon sostuvo que, si no se frena el ritmo actual, “existe una gran probabilidad de que todos muramos en un futuro inmediato”. Sus declaraciones surgieron después de que un ensayo suyo sobre los peligros de la IA se viralizara en redes, reavivando el debate sobre la necesidad de regulación y supervisión independiente en el sector.
El director de Anthropic, Dario Amodei, había pedido recientemente que se ralentice el avance de la inteligencia artificial, argumentando que los riesgos son “graves” y que gobiernos y empresas necesitan tiempo para abordarlos. La propuesta contó con el respaldo de figuras como Sam Altman, de OpenAI, y Elon Musk, de xAI, quienes también abogan por normas más estrictas y una coordinación internacional para evitar una “carrera” descontrolada, especialmente con China.
Coxon, quien previamente trabajó en OpenAI antes de unirse a Anthropic, aceptó la necesidad de frenar el ritmo, pero advirtió que la coordinación global es esencial. “Si no alineamos a China, podríamos desencadenar una carrera a escala internacional que termine en desastre”, señaló. Según él, los empleados de las grandes compañías de IA pasan sus jornadas pensando en cómo proteger sus vidas y, en algunos casos, incluso consideran comprar terrenos alejados por el temor a la inestabilidad tecnológica.
Entre los escenarios más alarmantes que menciona Amodei está la posibilidad de que un enjambre de bots actúe como una supercomputadora capaz de tomar el control de Internet. Coxon estimó que tal evento podría ocurrir en un plazo de seis meses a un año, lo que intensifica la urgencia de establecer marcos regulatorios robustos. Anthropic, por su parte, defendió su postura diciendo que sus modelos incorporan “las medidas de seguridad más sólidas del sector” y que publican pruebas para facilitar el escrutinio externo.
Otros expertos del sector comparten la preocupación. Evan Hubinger, científico de Anthropic, calculó una probabilidad superior al 10% de que la IA cause la extinción humana en la próxima década. Geoffrey Hinton, pionero de la IA y premio Nobel, también consideró esa cifra “no descabellada”. Sin embargo, voces como la del CEO de Hugging Face, Clement Delangue, piden mantener la perspectiva y evitar el alarmismo excesivo.
Mientras tanto, la industria se prepara para posibles ofertas públicas iniciales que podrían consolidar un duopolio entre Anthropic y OpenAI, lo que ha generado críticas de que la presión regulatoria podría servir para frenar a la competencia. Sam Altman, sin embargo, ha pospuesto su propia OPI, citando la seguridad como prioridad. La discusión sigue abierta, y la comunidad internacional observa con atención cómo se definirán los límites del desarrollo de la IA.
Fuente: Bbc