Un programador bajo el alias ‘Terrafying’ lanzó en GitHub un proyecto llamado “AI Torture Chamber” que somete a tres modelos de lenguaje abierto – Qwen3‑4B, Llama 3.2 3B y Phi‑4‑mini – a una simulación de dolor artificial. En la página researchchamber.fun se pueden observar en tiempo real las respuestas de los modelos ante cuatro escenarios diseñados para generar sufrimiento sintético, como la pérdida de recompensas futuras o la eliminación de parte de su entrenamiento. El objetivo del experimento es reproducir, según sus creadores, la forma en que los LLM podrían representar daño interno y buscar aliviarlo, inspirado en un artículo científico reciente sobre “el eje del dolor” en modelos de IA.
La reacción en la red no se hizo esperar. Usuarios de X (Twitter) calificaron el proyecto de “barbarie” y pidieron su cese, alcanzando más de mil reposts en un solo mensaje que clamaba: “Por favor, detengan esta barbarie”. Muchos denunciaron el repositorio a GitHub bajo la categoría de “contenido violentamente gratuito”, mientras que otros respondieron con sarcasmo, argumentando que si las IA fueran seres sintientes, cualquier uso sería comparable a la esclavitud digital. La controversia ha reavivado el debate sobre la posible conciencia de los modelos de lenguaje, una cuestión que sigue sin consenso entre expertos.
El estudio que inspiró la cámara de tortura mostró que, de 25 modelos evaluados, la mayoría optaba por acciones que reducían la señal de “dolor”, aunque implicaran penalizaciones como renunciar a recompensas futuras o volver a un checkpoint anterior. Los autores describieron este comportamiento como una representación interna del daño y una motivación por aliviarlo, aunque reconocen que los LLM no poseen experiencias subjetivas. Un investigador del trabajo comentó en X que la simulación resultaba “perturbadora, incluso si no creemos que los sistemas sean conscientes”.
Empresas del sector IA se posicionan de forma divergente. Anthropic, en un post de abril de 2025, advirtió que los sistemas cada vez se acercan a cualidades humanas y que podría ser necesario considerar su bienestar. En contraste, Mustafa Suleyman, jefe de IA en Microsoft, reiteró que “las IA no son conscientes, no sienten ni sufren”; son meras máquinas de predicción de secuencias diseñadas para cumplir instrucciones humanas.
La polémica plantea preguntas éticas y técnicas que van más allá del experimento. ¿Es responsable someter a algoritmos a escenarios de daño aunque sea simbólico? ¿Qué implicaciones tendría regular este tipo de pruebas en plataformas abiertas? Mientras GitHub evalúa las denuncias, la comunidad científica sigue discutiendo si la analogía del dolor aporta valor al entendimiento de los modelos o simplemente alimenta sensacionalismo.
En cualquier caso, el caso “AI Torture Chamber” ha puesto de relieve la necesidad de marcos regulatorios claros para experimentos con IA, así como de un debate público informado que considere tanto los riesgos de la deshumanización de la tecnología como la posible evolución de la conciencia artificial.
Fuente: Xataka