En los últimos años la industria de la inteligencia artificial ha vivido una auténtica carrera de velocidad: más datos, más potencia, más rapidez. Sin embargo, los gigantes que lideran ese impulso en Estados Unidos están empezando a plantear límites y a cuestionar la velocidad del desarrollo. Empresas como Anthropic, OpenAI y DeepMind ya habían adoptado directrices éticas, pero ahora Microsoft se suma con un borrador formal de su “Código de Conducta para Modelos de IA”, un documento que busca establecer reglas claras para el uso responsable de la tecnología.
El texto, presentado por el responsable de IA de la compañía, Mustafa Suleyman, se basa en la premisa de que “un gran poder conlleva una gran responsabilidad”. En él se define la idea de “IA humanista”, que coloca a las personas por encima de la tecnología y propone que cualquier modelo que no pueda mantenerse bajo control humano sea puesto en cuarentena. El código se estructura en diez mandamientos que, según Microsoft, deberían ser adoptados por todas las organizaciones que desarrollan IA para garantizar una evolución segura y transparente.
Entre los mandamientos destacan la prohibición de entrenar modelos sin mecanismos de control verificables, la obligación de evaluar riesgos de uso militar o biotecnológico y la exigencia de auditorías externas regulares. Además, el documento reconoce que los modelos actuales de Microsoft aún no cumplen con todas esas normas, lo que subraya la naturaleza provisional del código y la necesidad de una revisión colectiva dentro de seis semanas.
Esta iniciativa llega en un contexto de creciente preocupación global. En 2023 Anthropic había anunciado una política de escalado responsable, pero recientemente retiró la promesa de no entrenar modelos sin garantías de seguridad, alegando la presión competitiva. OpenAI, tras una carta interna de empleados que advertía sobre los peligros de escalar sin control, también adoptó restricciones. DeepMind, por su parte, lanzó en 2024 el “Frontier Safety Framework” para detectar capacidades peligrosas en sus sistemas.
La competencia internacional añade otra capa de complejidad. Estados Unidos y China están inmersos en una disputa por la supremacía tecnológica, y ambos países consideran la IA un elemento estratégico clave. Mientras Washington impulsa regulaciones que no frenen la innovación, Pekín busca crear un marco común sin detener el desarrollo. En medio de esta “guerra a tres bandas”, la propuesta de Microsoft podría convertirse en un referente, siempre que otras compañías y gobiernos la respalden.
Aun así, la efectividad del código depende de su adopción amplia y de la capacidad de los reguladores para hacer cumplir sus principios. La industria reconoce que la velocidad del progreso supera a la capacidad de los mecanismos de control interno, y la presión para lanzar modelos cada vez más potentes no muestra signos de disminuir. El debate está abierto: ¿será este código el inicio de una autorregulación real o simplemente una hoja más en el papel frente a una carrera sin frenos?
En cualquier caso, la publicación del documento marca un hito al formalizar, por primera vez, las expectativas éticas de un gigante tecnológico sobre la IA. Si logra consenso, podría sentar las bases para normas internacionales que equilibren innovación y seguridad, una tarea crucial en un momento en que la IA se vuelve cada vez más decisiva para la economía y la seguridad global.
Fuente: xataka