Anthropic, uno de los laboratorios más influyentes en inteligencia artificial, ha entregado un borrador de proyecto de ley al Congreso de Estados Unidos para regular los modelos de IA más avanzados. Según informó el medio Político, la iniciativa busca establecer un umbral de riesgo extremadamente alto antes de que el gobierno pueda intervenir y bloquear un modelo. La empresa argumenta que estas “políticas sensatas” reflejan su propio Marco de IA Avanzada, que lleva promoviendo entre legisladores desde junio. La propuesta ha generado debate porque otorga a una sola entidad el poder de decidir cuándo detener una tecnología potencialmente peligrosa.
El punto clave del borrador es el llamado “umbral de 50 víctimas o $1,000 millones de daños”. Sólo si un modelo presenta un riesgo previsible e inminente que pueda causar la muerte o lesiones graves a más de cincuenta personas, o generar pérdidas económicas superiores a mil millones de dólares, el Departamento de Comercio podría solicitar a un juez federal la suspensión de su lanzamiento. Este criterio, según los críticos, podría subestimar amenazas más sutiles pero igualmente dañinas, como la manipulación de la opinión pública o la vulneración de datos personales.
Para evaluar dichos riesgos, la propuesta crea un sistema de auditorías independientes registradas en el Departamento de Comercio. Los laboratorios de IA pagarían por estos servicios, pero el pago no estaría vinculado a los resultados de la evaluación. Si los auditores detectan un riesgo enumerado, tendrían 72 horas para notificar al Departamento, que a su vez presentaría pruebas ante un tribunal de distrito. El juez sería el único con autoridad para ordenar la paralización del modelo, cerrando la puerta a cualquier otra agencia o autoridad ejecutiva.
Esta concentración de poder ha despertado inquietud en la comunidad tecnológica. Al limitar la capacidad de intervención a un solo organismo, se reduce la flexibilidad para responder rápidamente a incidentes emergentes. Además, la exigencia de un daño económico tan elevado podría dejar fuera de cobertura vulnerabilidades que, aunque no causen pérdidas monetarias inmediatas, podrían erosionar la confianza pública en la IA.
El contexto actual es de creciente preocupación por la seguridad de la IA, tras incidentes como el hackeo a Hugging Face y la infiltración de agentes de IA en sitios gubernamentales. Aunque ninguno de estos eventos ha superado los umbrales propuestos, la discusión sobre regulaciones más estrictas sigue intensificándose. La propuesta de Anthropic, aun en fase de borrador, muestra cómo la industria intenta influir en la legislación que eventualmente regirá su desarrollo.
Por ahora, el proyecto sigue sin respaldo formal y dependerá de la reacción del Congreso para determinar si el umbral de 50 víctimas o mil millones de dólares será aceptado como medida de seguridad razonable. El debate continuará mientras se busca equilibrar la innovación con la protección de la sociedad frente a los riesgos de la IA.
Fuente: Xataka