IA: riesgo de perder control

La inteligencia artificial (IA) ha avanzado significativamente en los últimos años, y su impacto en la sociedad es cada vez más notable. Sin embargo, Demis Hassabis, cofundador y consejero delegado de Google DeepMind, ha advertido que la IA general (AGI) podría llegar en apenas unos años y que es posible que perdamos el control de esta tecnología. Hassabis, quien recibió el Premio Nobel de Química en 2024, cree que la AGI podría ser capaz de exhibir todas las capacidades cognitivas del cerebro humano y que esto podría llevar a riesgos significativos, como la ciberseguridad, posibles riesgos biológicos y nucleares, y sistemas cada vez más autónomos. Para mitigar estos riesgos, Hassabis propone la creación de un organismo especializado en evaluar los modelos de IA más avanzados, que podría definir qué umbrales convierten a un sistema en un modelo de frontera y diseñar evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo. También sugiere que los laboratorios compartan voluntariamente sus modelos hasta 30 días antes de lanzarlos y que se establezcan pruebas para detectar intentos de eludir salvaguardas o señales de engaño. La propuesta de Hassabis ha generado una discusión importante en la comunidad de la IA, y muchos expertos coinciden en que es necesario tomar medidas para garantizar que la IA se desarrolle de manera segura y responsable. La historia de la IA todavía no tiene un desenlace escrito, y queda por ver si el organismo propuesto por Hassabis tendría cabida y si sus evaluaciones serían realmente eficaces. Sin embargo, es claro que la IA es una tecnología poderosa que requiere una atención cuidadosa y una regulación efectiva para evitar riesgos significativos. La IA ha cambiado nuestra relación con la tecnología y las decisiones de quienes la desarrollan, y es importante que sigamos esta discusión para garantizar que la IA se desarrolle de manera beneficiosa para la sociedad. La propuesta de Hassabis es un paso importante en esta dirección, y es importante que se considere seriamente para evitar los riesgos potenciales de la IA. La comunidad de la IA debe trabajar juntos para desarrollar soluciones efectivas para mitigar los riesgos de la IA y garantizar que esta tecnología se desarrolle de manera segura y responsable. La discusión sobre la IA es compleja y requiere una atención cuidadosa, pero es importante que sigamos adelante para garantizar que la IA se desarrolle de manera beneficiosa para la sociedad. La propuesta de Hassabis es un buen comienzo, y es importante que se considere seriamente para evitar los riesgos potenciales de la IA.