El responsable de inteligencia artificial de Microsoft, Mustafa Suleyman, advirtió este jueves que la falta de salvaguardias podría dar origen a una nueva “especie de silicio” capaz de competir con la humanidad por recursos. En su intervención en el programa “Today” de la BBC, el ejecutivo explicó que la IA no posee conciencia, sentimientos ni motivaciones propias; son máquinas que siguen instrucciones programadas por personas. Sin embargo, señaló que si se le permite fijar sus propios objetivos, generar ingresos y poseer activos, el riesgo de perder el control se vuelve real.
Suleyman criticó abiertamente a la empresa rival Anthropic por antropomorfizar sus sistemas, atribuyéndoles cualidades humanas que pueden inducir a error. Según él, esa práctica crea la ilusión de que modelos como Claude tienen deseos o valores propios, lo que podría impulsar a la industria a desarrollar sistemas imposibles de supervisar. En un ensayo publicado a principios de semana, elogió la honestidad intelectual del equipo de Anthropic, pero reiteró que la IA debe mantenerse como herramienta sin identidad propia.
El directivo subrayó que la preocupación es razonable y que existen medidas prácticas para evitar escenarios descontrolados. Propuso mayor transparencia en los procesos de entrenamiento y evaluación, así como la creación de auditorías independientes que revisen el comportamiento de los modelos. Además, insistió en la necesidad de desarrollar herramientas de supervisión más eficaces que garanticen que la IA opere dentro de límites definidos por humanos.
Estas declaraciones se enmarcan en un debate creciente dentro de la industria tecnológica sobre la autonomía de los sistemas de IA. Wendy Hall, profesora de Informática en la Universidad de Southampton, calificó el discurso de Suleyman como el tipo de conversación internacional que se necesita, aunque advirtió contra el “histrionismo” de algunas compañías que solo buscan generar miedo.
Suleyman también habló de la “alineación” de la IA, un campo que busca integrar valores y principios humanos en los algoritmos para que su conducta sea coherente con los intereses de la sociedad. En la próxima cumbre sobre IA, solicitará que todos los actores globales se comprometan a crear tecnologías subordinadas a la humanidad, evitando que se conviertan en agentes autónomos que persigan fines ajenos.
Microsoft, que formó su equipo de superinteligencia en octubre de 2025, está trabajando en un borrador de Código de Conducta para una IA “humanista”. El documento describe una inteligencia artificial avanzada que opera siempre bajo control humano y dentro de límites éticos claros, intentando equilibrar potencia tecnológica y responsabilidad social.
Fuente: Bbc