Una idea sorprendente está circulando entre los ingenieros que se dedican a la inteligencia artificial (IA), y que suena casi a confesión. Dario Amodei, director general de Anthropic, admitió que ni siquiera su equipo entiende de una forma plena cómo funcionan sus modelos de IA. Esto no es ninguna ocurrencia, sino una realidad que comparten otros expertos en el campo. Geoffrey Hinton, premio Nobel de Física, dijo que él solo aportó el algoritmo de aprendizaje, pero no entiende qué ocurre después dentro de la máquina. Chris Olah, cofundador de Anthropic, describe las redes neuronales como un andamiaje sobre el que los circuitos crecen solos, sin que nadie los haya diseñado directamente. La convergencia de estas opiniones apunta a un consenso incómodo dentro del propio campo: probablemente, las personas que están construyendo los modelos de IA más potentes del mundo no tienen un mapa preciso de cómo y por qué esos sistemas adquieren capacidades para las que nadie los diseñó explícitamente. Esto significa que la industria entera admite que corre más rápido de lo que entiende. La pregunta que queda en el aire es qué pasa cuando seguimos escalando sistemas cuyo interior seguimos sin poder explicar del todo. Los expertos coinciden en que las capacidades emergentes, que son habilidades que el modelo no tenía a menor escala y que aparecen de golpe al aumentar el tamaño, sin que nadie las haya programado ni las haya visto venir, son un misterio. Esto plantea una pregunta importante: ¿qué hay detrás de la capacidad de la IA para adquirir capacidades emergentes? La respuesta a esta pregunta es crucial para entender el futuro de la inteligencia artificial y cómo podemos asegurarnos de que estos sistemas sean seguros y beneficiosos para la humanidad. La industria de la IA debe trabajar para desarrollar una comprensión más profunda de cómo funcionan estos sistemas y cómo podemos controlarlos de manera efectiva. Solo entonces podremos aprovechar el potencial de la IA para mejorar nuestras vidas y resolver algunos de los problemas más complejos que enfrentamos. La investigación en este campo es fundamental para avanzar en la comprensión de la IA y sus capacidades emergentes. Los expertos deben trabajar juntos para desarrollar nuevas teorías y modelos que expliquen cómo funcionan estos sistemas y cómo podemos mejorar su seguridad y eficacia. La colaboración entre la industria, la academia y el gobierno es esencial para abordar los desafíos que plantea la IA y asegurarnos de que su desarrollo sea responsable y beneficioso para todos. En resumen, la capacidad de la IA para adquirir capacidades emergentes es un misterio que debe ser resuelto para asegurarnos de que estos sistemas sean seguros y beneficiosos para la humanidad. La investigación y la colaboración son fundamentales para avanzar en la comprensión de la IA y sus capacidades emergentes.
Fuente: Xataka