Dario Amodei, cofundador de Anthropic, lanzó recientemente su ensayo titulado “We must pace the frontier”, donde aboga por reducir la velocidad de desarrollo de la inteligencia artificial. La iniciativa cuenta con el respaldo de OpenAI y la unidad de IA de SpaceX, pero curiosamente no menciona en ningún momento la expresión “open weights” (pesos abiertos), elemento clave en el debate sobre modelos de IA accesibles.
El argumento central de Amodei se basa en la diferencia entre modelos cerrados y abiertos. Un modelo cerrado permite certificar su uso porque su propietario controla cada copia y puede imponer salvaguardas. En contraste, los modelos abiertos, al publicar sus pesos, quedan expuestos a cualquier usuario que pueda remover esas limitaciones, lo que dificulta su regulación.
VentureBeat comparó esta propuesta con la ley SB 1047 de California, vetada por el gobernador Newsom por su impacto negativo en desarrolladores pequeños y en el movimiento de código abierto. La normativa buscaba limitar la difusión de IA avanzada, pero se consideró que perjudicaría la innovación y la competencia, especialmente en el sector de startups.
En la práctica, los laboratorios estadounidenses que lideran la frontera tecnológica, como OpenAI y Google, podrían cumplir fácilmente con las restricciones propuestas, mientras que iniciativas abiertas, como DeepSeek, Qwen y Mistral, enfrentarían grandes obstáculos. Estas últimas ya tienen sus pesos distribuidos en millones de servidores alrededor del mundo, lo que complica cualquier intento de control centralizado.
Europa también está inmersa en la carrera. Mistral, empresa francesa, cerró recientemente una ronda de financiación de 3,000 millones de euros, valorándose en 21,000 millones, con el argumento de ofrecer una IA soberana basada en pesos abiertos. Sin embargo, la presión regulatoria podría limitar su capacidad para competir con modelos chinos, cuyos pesos ya están ampliamente disponibles.
El escenario se asemeja a la captura regulatoria vista en otras industrias, como la petrolera en la época de Rockefeller. En lugar de una pequeña empresa, el competidor excluido ahora es un modelo de IA que cualquiera puede descargar y ejecutar en un ordenador doméstico. Si la propuesta avanza, el debate dejará de ser “frenar o no frenar” y pasará a decidir quién define los límites y quién queda excluido del desarrollo.
En conclusión, la iniciativa de frenar la IA, aunque presentada como una medida de protección, podría convertirse en una herramienta para preservar el dominio de los grandes laboratorios estadounidenses, a costa de la innovación abierta y la competencia global.
Fuente: Xataka