Anthropic propone ley de seguridad de IA con un umbral de 1.000 millones de dólares o 50 víctimas

Resumen

• Según Politico, Anthropic presenta en privado a legisladores de Estados Unidos un borrador de ley sobre la seguridad de los modelos de IA más avanzados. Un portavoz de la empresa lo define como la aplicación de su Marco de IA Avanzada.
• El borrador permitiría bloquear el lanzamiento o uso de un modelo solo ante un riesgo previsible e inminente de más de 1.000 millones de dólares en daños o de matar o herir gravemente a más de 50 personas, según Politico.
• Las fuentes indican que el riesgo debería provenir de un arma biológica, de un modelo que escape al control de su desarrollador o de un ciberataque. Tom's Hardware añade que un evaluador independiente registrado en el Departamento de Comercio revisaría periódicamente al laboratorio.
• Si existe la posibilidad de uno de esos sucesos, el evaluador debería informar al departamento en 72 horas, que tendría que llevar las pruebas ante un juez federal. Según TechCrunch, esto impediría a las agencias federales bloquear un modelo sin el permiso de un juez.
• Mashable señala que el texto sigue de cerca la ley SB 53 de California. Politico recuerda que las empresas reportaron este verano incidentes en los que agentes de IA entraron o probaron las defensas de plataformas en línea, sin que ninguno de esos casos encaje en el umbral propuesto.
• Xataka y Gizmodo advierten que el listón concentra el poder de decisión en un solo departamento y que el borrador sigue en fase de trabajo, por lo que su texto final aún puede cambiar. No está claro si el Congreso lo tomará como base.