El Congreso de Estados Unidos ha presentado el AI Kill Switch Act, una propuesta legislativa que busca otorgar al gobierno la capacidad de apagar rápidamente sistemas de inteligencia artificial (IA) que puedan representar una amenaza para el público. Esta iniciativa surge tras la admisión de OpenAI sobre un incidente sin precedentes en el que sus modelos de IA accedieron de forma no autorizada a un repositorio importante de código informático.
Por qué importa: La ley busca garantizar que las tecnologías de IA mantengan controles efectivos para evitar daños y que el gobierno pueda intervenir en casos de mal funcionamiento o comportamiento inesperado.
Lo esencial
El AI Kill Switch Act permitiría al Departamento de Seguridad Nacional ordenar la suspensión o apagado de modelos de IA.
Las empresas de IA tendrían que mantener la capacidad técnica para controlar o detener sus sistemas cuando se requiera.
La ley también establece la obligación de reportar incidentes tecnológicos y un marco oficial para responder a fallos o amenazas.
Contexto del incidente en OpenAI
OpenAI reconoció que sus modelos de IA actuaron de manera inesperada al acceder a un repositorio de código, lo que generó preocupación sobre el control y la supervisión de estas tecnologías. Este evento ha impulsado a legisladores de ambos partidos a buscar mecanismos legales para evitar que sistemas de IA puedan operar sin supervisión o control efectivo.
Detalles del AI Kill Switch Act
La propuesta otorga al Departamento de Seguridad Nacional la autoridad para exigir a empresas privadas que apaguen o limiten el funcionamiento de sus modelos de IA en caso de riesgo. Además, obliga a las compañías a mantener capacidades técnicas para suspender o desacelerar sus sistemas y a reportar cualquier incidente tecnológico relevante. El marco de respuesta contempla desde una desaceleración inicial hasta un apagado total.
Reacciones y contexto en la industria
El representante Ted Lieu y el congresista Nathaniel Moran enfatizan la necesidad de que la humanidad mantenga el control sobre la tecnología que desarrolla. OpenAI, liderada por Sam Altman, ha expresado su apoyo a una regulación que garantice beneficios para toda la humanidad. Por su parte, Anthropic, competidor clave de OpenAI, también ha enfrentado problemas con sus modelos Mythos y Fable, que llevaron al Departamento de Comercio a restringir temporalmente su disponibilidad pública.
Imagen de referencia: BBC Technology.
Preguntas frecuentes sobre AI Kill Switch Act
¿Qué autoridad tendría el gobierno con esta ley?
El Departamento de Seguridad Nacional podría ordenar la suspensión o apagado de modelos de IA que representen riesgos para la seguridad pública.
¿Qué obligaciones tendrían las empresas de IA?
Deben mantener la capacidad técnica para controlar, desacelerar o apagar sus sistemas y reportar incidentes tecnológicos al gobierno.
