OpenAI dio a conocer ayer un plan que busca establecer estándares técnicos comunes para los modelos de inteligencia artificial de frontera. En un comunicado titulado “Desarrollar los estándares para la próxima fase de la IA”, Sam Altman y el científico jefe Jakub Pachocki expresaron su preocupación por el ritmo acelerado del desarrollo y la amenaza de la mejora recursiva, es decir, la capacidad de una IA de autogenerarse versiones más potentes sin supervisión humana.
El documento señala que, hasta hace dos semanas, los principales laboratorios estadounidenses competían por liderar la carrera de los modelos más avanzados. Ahora, la prioridad parece ser frenar esa carrera y crear mecanismos de supervisión neutral que no dependan exclusivamente de las empresas ni de los países donde operan. La propuesta incluye una entidad internacional que coordine evaluaciones de seguridad, gestione incidentes y garantice la transparencia de los avances.
Uno de los pilares de la estrategia es el alineamiento de la IA, es decir, asegurar que los sistemas más capaces actúen conforme a los objetivos humanos y permanezcan bajo control directo. OpenAI advierte que la automejora recursiva, aunque aún no existe de forma totalmente autónoma, podría acelerar el progreso de la IA a velocidades peligrosas si no se regula adecuadamente. Por ello, la compañía insiste en que cualquier investigación que busque esa capacidad se posponga hasta que se demuestren protocolos de seguridad robustos.
El plan también contempla la creación de un protocolo de notificación de incidentes a autoridades competentes. Cada vez que un modelo de frontera cause un problema significativo, se deberá informar de manera inmediata, facilitando una respuesta coordinada entre gobiernos y laboratorios. Además, OpenAI hace un llamado a la cooperación internacional, subrayando la necesidad de que Estados Unidos y China, los dos mayores actores en IA, adopten los mismos estándares para evitar una carrera descontrolada.
Esta iniciativa llega en medio de un debate global sobre los riesgos de la IA avanzada. Mientras Anthropic y otros laboratorios también han emitido advertencias, la propuesta de OpenAI podría marcar un punto de inflexión si logra consenso entre los gobiernos y la industria. Sin embargo, los analistas señalan que la alineación de intereses entre EE. UU. y China sigue siendo un desafío complejo y que, a corto plazo, la implementación de estos estándares podría enfrentar resistencia.
En conclusión, OpenAI busca transformar la carrera por la IA de una competencia desenfrenada a un esfuerzo colaborativo y regulado, con el objetivo de que la inteligencia artificial beneficie a toda la humanidad sin comprometer la seguridad ni el control humano.
Fuente: xataka