Los líderes de la industria de inteligencia artificial (IA) vuelven a sonar la alarma sobre los riesgos existenciales que plantea la tecnología. En la cumbre mundial de seguridad de la IA, celebrada en Bletchley Park en noviembre de 2023, se debatieron escenarios catastróficos que antes se consideraban ciencia ficción. Tres años después, figuras como Dario Amodei, director de Anthropic, exigen una “ralentización” del desarrollo, y sus propuestas cuentan con el apoyo de Sam Altman, de OpenAI, y del empresario Elon Musk.
Amodei presentó un plan de tres puntos que incluye supervisión independiente de los modelos en fase de entrenamiento y la creación de regulaciones sectoriales y globales. Sin embargo, expertos como Ed Zitron de EZ Primary Research cuestionan la viabilidad práctica de esas medidas, señalando que detener el entrenamiento dejaría a las empresas vulnerables frente a competidores, sobre todo China, que avanza a pasos agigantados en la carrera por la IA más poderosa.
El presidente de EE. UU., Donald Trump, reiteró que quien domine la IA será el vencedor en la nueva confrontación tecnológica con Beijing. Esta postura refuerza la idea de que una pausa unilateral sería ineficaz: “si una compañía se detiene, las demás seguirán avanzando”, advierten analistas. La falta de un organismo internacional que pueda imponer y fiscalizar una desaceleración genera dudas sobre la capacidad de coordinación global.
En el Reino Unido, el sector de IA ha recibido apoyo estatal para su integración en el NHS y se ha convertido en un motor económico clave. No obstante, la ausencia de un “plan B” y la creciente presión de inversores hacen que la idea de frenar la innovación sea polémica. Algunos economistas temen una posible explosión de la burbuja tecnológica, mientras que otros advierten que las empresas que sobrevivan podrían convertirse en megacorporaciones sin precedentes.
La responsabilidad del sector también está bajo escrutinio. Wendy Hall, académica que ha asesorado a la ONU, compara la situación con un ganadero que culpa al toro por escapar, cuando la verdadera falla son las vallas débiles. Según ella, la falta de controles robustos y la codicia corporativa son los principales peligros, no tanto la IA en sí.
Mientras tanto, voces como la del investigador Jacob Coxon, ex‑Anthropic, describen un “miedo genuino” entre los desarrolladores sobre el futuro de la humanidad. La discusión sigue abierta: ¿es posible una desaceleración real sin sacrificar competitividad y crecimiento económico, o la regulación excesiva terminará por ahogar la innovación? La respuesta definirá el rumbo de la IA en la próxima década.
Fuente: Bbc