China está trazando una estrategia clara para regular los modelos de inteligencia artificial (IA) de “pesos abiertos”, una medida que busca contrarrestar la ventaja tecnológica de Estados Unidos. Los pesos son los valores numéricos que determinan la fuerza de cada conexión en una red neuronal; al publicar estos pesos, los laboratorios permiten que cualquier usuario descargue y ejecute el modelo localmente, sin depender de servidores centrales. Esta apertura facilita la personalización y el bajo costo, pero también reduce el control del creador sobre el uso del modelo.
En contraste, los gigantes estadounidenses como OpenAI, Anthropic y Google mantienen sus pesos bajo reserva, lo que les permite imponer filtros, limitar funcionalidades y modificar el modelo según convenga. China, por su parte, ve en la distribución masiva de IA de pesos abiertos una oportunidad para democratizar la tecnología, acelerar la adopción y, en última instancia, debilitar la posición económica de sus rivales norteamericanos. El objetivo es que los modelos sean más baratos, adaptables y ubicuos, impulsando su despliegue en sectores estratégicos.
Sin embargo, la apertura total plantea serios riesgos de seguridad. Un usuario puede descargar los pesos, alterar el código, eliminar barreras de protección y re‑entrenar la IA con datos propios, creando versiones potencialmente peligrosas. Conscientes de este peligro, investigadores chinos han presentado un informe que propone un proceso de seis etapas para certificar la seguridad de los modelos antes de su liberación. El esquema incluye evaluación de riesgos, identificación de vulnerabilidades, mitigación, pruebas de verificación y aprobación final.
Esta iniciativa revela la intención de Pekín de establecer estándares propios que regulen la IA de pesos abiertos, buscando equilibrar la innovación con la protección contra usos malintencionados. La medida también envía una señal al resto del mundo: la apertura no será indiscriminada, sino acompañada de protocolos de seguridad que garanticen que la tecnología no se convierta en un arma de desinformación o ciberataques.
El debate sobre la apertura versus el control se intensifica a medida que la IA se vuelve esencial en la economía global. Mientras los modelos cerrados ofrecen mayor seguridad y rentabilidad a sus creadores, los de pesos abiertos fomentan la investigación colaborativa y la adaptación a necesidades locales. China apuesta por una tercera vía, donde la apertura se combina con regulaciones estrictas, intentando crear un modelo de desarrollo que otros países podrían emular.
En resumen, la estrategia china de regular los pesos abiertos de IA representa un intento de nivelar el campo de juego frente a EE.UU., al tiempo que intenta mitigar los riesgos inherentes a una tecnología tan poderosa. El éxito de este enfoque dependerá de la efectividad de sus normas y de la capacidad de la comunidad internacional para adoptar marcos de seguridad similares.
Fuente: xataka