Un equipo de investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha creado un método que permite a los agentes de inteligencia artificial anticipar si una modificación en su propio software empeorará su desempeño. La propuesta, publicada en arXiv, no consiste en re‑entrenar al modelo, sino en dotarlo de un predictor que evalúe los cambios antes de ejecutarlos, reduciendo la probabilidad de introducir nuevos fallos.
El sistema, llamado HyperAgents, funciona con dos agentes colaborando: uno se encarga de resolver tareas y el otro busca mejorar el código y las instrucciones que usan ambos. El agente de mejora puede incluso alterar su propio software, pero antes de aplicar cualquier ajuste consulta al Improvement Dynamics Model (IDM), un módulo que usa la experiencia acumulada para estimar el impacto de la modificación. Si el IDM anticipa un deterioro, se solicita una revisión adicional antes de probar la nueva versión.
En una prueba práctica, los investigadores introdujeron un error de sintaxis al omitir comillas en una instrucción. El agente detectó el problema pero agotó sus llamadas a herramientas sin corregirlo. Gracias al predictor, se identificó la posible falla y se realizó una segunda revisión que permitió arreglar el código y resolver once tareas, demostrando que la predicción puede salvar intentos de mejora que de otro modo fracasarían.
Para medir la efectividad del enfoque, se evaluó a los agentes en 166 tareas de programación nunca vistas durante el proceso de mejora. El agente original logró una tasa de éxito del 16%, mientras que HyperAgents sin predictor alcanzó alrededor del 22%. Con la ayuda del IDM, la tasa subió a casi el 30%, una mejora significativa confirmada en cinco ejecuciones por configuración.
El predictor mismo también puede aprender. Cada cinco rondas, el agente que sugiere cambios se actualiza si sus propuestas superan una verificación posterior. Tras entrenarlo con tareas de aceptación de artículos científicos y diseño de recompensas para robots simulados, los investigadores lo emplearon para guiar agentes que califican soluciones matemáticas, logrando una coincidencia del 55% con expertos, frente al 51% del predictor inicial y al 47% de HyperAgents.
Aunque los resultados son prometedores, el método implica un mayor consumo de recursos: aproximadamente 170 millones de tokens para 40 rondas, frente a los 49 millones de HyperAgents. Incluso igualando el presupuesto de tokens, la variante con predicción mantuvo una ventaja del 10,9% en rendimiento acumulado. Sin embargo, los autores advierten que estos experimentos aún no prueban la viabilidad en proyectos reales ni sustituyen la supervisión humana, pero sí evidencian que anticipar errores puede orientar mejor las mejoras de IA.
En conclusión, la capacidad de predecir fallos antes de que ocurran abre una nueva vía para que los agentes de IA optimicen su propio código, aunque todavía quedan retos de costo y fiabilidad antes de confiar plenamente en estas tecnologías.
Fuente: xataka