Varios ingenieros y científicos de Google DeepMind han decidido abandonar la empresa tras descubrir que sus modelos de inteligencia artificial se están vendiendo al Departamento de Defensa de EE. UU. y a fuerzas armadas extranjeras. Sofia Liguori, investigadora residente en Londres, entregó su renuncia esta semana y, a pesar de la cláusula de confidencialidad, habló con la BBC sobre la vergüenza que le produce trabajar para una firma que potencia la guerra con algoritmos. Otros nombres, como el del investigador Andreas Kirsch, también han anunciado su salida, argumentando que la supervisión humana y la gobernanza interna de Google son insuficientes para usos tan críticos.
Google respondió que sus contratos siguen un proceso de revisión riguroso, cumpliendo con sus “principios de IA” y con políticas de uso aceptable. El portavoz añadió que existen canales internos para que los empleados expresen inquietudes sin temor a represalias. Sin embargo, los exempleados relatan que el ambiente laboral se ha vuelto de vigilancia y autocensura, y que muchos temen perder su carrera si critican públicamente a la compañía. La cultura del miedo, según ellos, dificulta un debate abierto sobre la ética de la IA en contextos bélicos.
El contrato firmado a principios de 2024 con el Pentágono permite que los modelos de Google se apliquen a tareas clasificadas, siempre bajo la premisa de “supervisión humana” y respetando el derecho internacional. No obstante, críticos señalan que la velocidad de los algoritmos reduce drásticamente el tiempo de decisión de los operadores, aumentando el riesgo de errores en entornos de alta presión. Expertos externos advierten que la IA actual aún no está lo suficientemente robusta para seleccionar objetivos sin una revisión humana exhaustiva.
El proyecto Maven, liderado por Palantir, es uno de los ejemplos más visibles de IA militar estadounidense. Integra tecnologías de varias compañías, incluida Google, para procesar datos de inteligencia y sugerir objetivos. El teniente general retirado Jack Shanahan, exdirector del proyecto, admitió que la prioridad es desplegar la tecnología lo antes posible, a veces a costa del rigor de pruebas y evaluaciones.
Además de EE. UU., Google ha firmado acuerdos con Israel bajo el nombre de Proyecto Nimbus, que brinda infraestructura en la nube y capacidades de IA al ejército israelí. El contrato, valorado en 1.200 millones de dólares, ha generado controversia tras la aparición de sistemas de puntería basados en IA en el conflicto de Gaza. Los empleados consideran que estos pactos amplían el espectro de usos bélicos de la tecnología y ponen en tela de juicio los valores declarados por la compañía.
Ante esta situación, la comunidad tecnológica se divide. Algunos creen que la presión de los gobiernos hará que la industria renuncie a contratos militares, mientras que otros piensan que la demanda de IA en defensa es inevitable. Lo que es indiscutible es que la salida de profesionales como Liguori y Kirsch evidencia una brecha creciente entre la visión ética de la IA y su aplicación en la guerra, lo que podría impulsar nuevas regulaciones y debates a nivel global.
Fuente: Bbc