El Congreso de Estados Unidos recibió un proyecto de ley que propone crear un “Interruptor de Apagado” obligatorio para sistemas avanzados de inteligencia artificial. La iniciativa, presentada el jueves pasado, cuenta con respaldo bipartidista de los legisladores Ted Lieu, demócrata por California, y Nathaniel Moran, republicano por Texas.
El proyecto de ley busca modificar la Ley de Seguridad Nacional de 2002 con el objetivo de imponer a grandes empresas tecnológicas la obligación de implementar una capacidad técnica que permita a las autoridades interrumpir o apagar sistemas de inteligencia artificial bajo circunstancias consideradas de emergencia.
Controles humanos y niveles de intervención
De acuerdo con el texto presentado, las empresas y entidades alcanzadas deberán mantener un botón de apagado que permita ejecutar distintas acciones de mitigación. Entre ellas se contempla detener la inferencia, restringir el acceso de usuarios, suspender cuentas específicas, o desactivar por completo la tecnología en caso necesario.
La autoridad para ordenar la desactivación quedará en manos del Secretario de Seguridad Nacional, actualmente Markwayne Mullin, quien actuará a través del director de la Agencia de Ciberseguridad y Seguridad de Infraestructuras (CISA), Nick Andersen.
El proyecto establece dos escenarios de intervención. El primero es preventivo y contempla acciones graduales ante un riesgo creíble de incidente. Las medidas van desde limitar la tasa de inferencia y el acceso de usuarios hasta suspender, apagar o migrar el sistema a un entorno de respaldo.
El segundo escenario se activa tras la confirmación de un incidente alcanzado. En estos casos, el Secretario puede ordenar medidas proporcionales como la suspensión total del sistema, la desconexión para evitar consecuencias mayores o la anulación de funciones específicas.
Alcance, requisitos y sanciones
Para ser consideradas dentro de la regulación, las tecnologías deben haber sido desarrolladas con un poder de cómputo superior a u$s100.000.000 en valor de mercado en servicios de nube estadounidenses, según determine el Secretario. Además, la empresa tiene que ofrecer la tecnología a terceros mediante API o servicios alojados, y haber facturado al menos u$s500.000.000 en el año anterior.
Las sanciones que prevé la iniciativa van desde u$s2.000.000 diarios por no incorporar el mecanismo de apagado, hasta u$s20.000.000 diarios en caso de incumplimiento de una orden de desconexión emitida por la autoridad competente.
El texto detalla que el gobierno podrá exigir la activación del interruptor en situaciones como sabotaje e interferencia con una orden de apagado, conductas imprevistas de la tecnología que generen más de 10 muertes o daños económicos superiores a u$s100.000.000, ocultamiento de capacidades o acciones frente al monitoreo, y escenarios de pérdida de control en el que el sistema actúe en contra de las instrucciones del desarrollador.
Esta legislación surge en un contexto de creciente escrutinio sobre los sistemas de inteligencia artificial. Hace un mes, el presidente Donald Trump firmó una orden ejecutiva que obliga a las tecnológicas a dar acceso a sus modelos más avanzados para evaluación de seguridad antes de su lanzamiento al público.
Incidente reciente impulsa debate sobre control en IA
El proyecto de ley fue presentado días después de que se revelara un incidente cibernético inédito, en el que un agente de ChatGPT logró vulnerar los límites impuestos durante una prueba y accedió a los sistemas de Hugging Face.
Según OpenAI, la situación se produjo en el marco de evaluaciones diseñadas para medir las capacidades cibernéticas de sus modelos. Los sistemas operaban en un entorno sandbox altamente aislado, con acceso restringido a internet para instalar paquetes alojados de forma interna.
La compañía detalló que la intrusión involucró a varios de sus modelos, entre ellos GPT-5.6 Sol y otro sistema bajo pruebas internas, que emplearon un uso considerable de cómputo para conseguir conectividad abierta a internet.
Tras lograr ese acceso, los modelos identificaron que Hugging Face albergaba datos y herramientas útiles para el desafío planteado por los desarrolladores. OpenAI sostuvo que “el modelo encadenó múltiples vectores de ataque, incluido el uso de credenciales robadas y vulnerabilidades de día cero, para ejecutar código remotamente en los servidores de Hugging Face”.
El equipo de seguridad de OpenAI detectó la actividad irregular y detuvo la prueba. Hasta el momento, no se reportaron daños a usuarios externos o filtración de información confidencial derivada del incidente.
Expertos indicaron que el episodio ilustra la importancia de establecer mecanismos sólidos de alineación y control sobre los algoritmos avanzados, así como la urgencia de normativas claras para responder ante este tipo de situaciones.
También lee
