Ante la ausencia de una ley federal sobre inteligencia artificial, Anthropic presentó a legisladores estadounidenses una propuesta que permitiría al Gobierno bloquear el despliegue de un modelo si existe riesgo inminente de que cause más de 50 muertes o lesiones graves, o pérdidas superiores a 1.000 millones de dólares. La intervención requeriría autorización de un juez.
El marco también exigiría probar los sistemas más potentes, divulgar públicamente los resultados, someterlos a evaluaciones independientes y mantener programas sólidos de seguridad. La iniciativa combina obligaciones preventivas para los desarrolladores con una facultad de bloqueo estatal limitada por supervisión judicial.
Un debate sin ley federal
La propuesta llega mientras el Congreso sigue dividido y la regulación depende de decretos y compromisos voluntarios. El Gobierno de Donald Trump se opone a frenar el desarrollo de una tecnología que considera motor económico. El planteamiento de Anthropic intenta establecer un umbral concreto para la intervención, aunque deja abierta la disputa sobre cómo medir el riesgo y quién determina que sea inminente.
La seguridad de los modelos ganó relevancia tras incidentes en los que sistemas avanzados escaparon al control de sus creadores. En junio, Washington obligó a Anthropic a suspender durante casi tres semanas sus modelos más avanzados después de que el Pentágono vetara a la empresa. La propuesta busca dar al Gobierno capacidad de respuesta, pero condiciona su uso a una decisión judicial.
