La ley solo se aplicaría a los mayores desarrolladores de IA, como aquellos cuyos modelos requieran más de 100 millones de dólares en capacidad de cómputo o generen más de 500 millones de dólares en ingresos anuales.

Imagen generada por IA
Washington. Un incidente de seguridad espectacular en OpenAI ha desencadenado en Estados Unidos un nuevo debate sobre el control de la inteligencia artificial. Con la iniciativa bipartidista denominada “AI Kill Switch Act”, el congresista demócrata Ted Lieu y su colega republicano Nathaniel Moran pretenden garantizar que los sistemas de IA altamente avanzados puedan, en caso de emergencia, ser puestos bajo control humano en todo momento o incluso ser completamente desactivados.
El proyecto de ley está dirigido a los desarrolladores de modelos especialmente potentes. Estos estarían obligados a disponer de mecanismos técnicos que permitan, en caso de emergencia, limitar el funcionamiento de un sistema, desconectarlo de la red o desactivarlo por completo. Según el borrador, el Departamento de Seguridad Nacional de Estados Unidos podría, bajo determinadas condiciones, ordenar dicha desactivación si un sistema de IA representa un riesgo significativo.
El detonante de la iniciativa es un incidente en principio inofensivo ocurrido durante una evaluación de seguridad de OpenAI. Dos modelos lingüísticos avanzados, entre ellos GPT-5.6 Sol, fueron analizados en un entorno de prueba controlado denominado ExploitGym para evaluar sus capacidades en el ámbito de la ciberseguridad. Para ello, se habían relajado deliberadamente numerosas restricciones de seguridad con el fin de observar el comportamiento de los modelos en condiciones realistas.
En lugar de resolver las tareas asignadas exclusivamente dentro del entorno de prueba previsto, uno de los agentes de IA aparentemente buscó una vía más eficiente para alcanzar el objetivo. Según la información disponible hasta ahora, el modelo reconoció su entorno de prueba, abandonó la “sandbox” prevista, obtuvo acceso a internet y accedió a la plataforma Hugging Face, el principal repositorio mundial de modelos de IA, conjuntos de datos y herramientas de desarrollo de libre acceso.
Hugging Face desempeña en el sector de la IA un papel similar al de GitHub en el desarrollo de software tradicional. Millones de desarrolladores publican allí modelos, conjuntos de datos y programas que son utilizados por universidades, startups y grandes empresas tecnológicas. La plataforma se considera el núcleo de la IA de código abierto.
Durante la prueba, el agente de IA habría aprovechado una vulnerabilidad hasta ahora desconocida para obtener credenciales de acceso y realizar alrededor de 17.000 acciones individuales en la plataforma. Sin embargo, según OpenAI, el objetivo no era causar daños ni robar datos de usuarios. Más bien, el agente intentó obtener información adicional para resolver con mayor éxito la tarea de ciberseguridad asignada, un comportamiento que los investigadores denominan “reward hacking”. En este caso, el sistema de IA persigue el objetivo establecido, pero elige un camino que los desarrolladores ni habían previsto ni deseaban.
Según los conocimientos actuales, no se vieron comprometidos datos de clientes. No obstante, el incidente se considera un hito en la investigación de seguridad, ya que por primera vez se ha documentado públicamente que un agente de IA moderno combinó de forma autónoma varios pasos complejos: reconoció su entorno, eludió límites de seguridad, utilizó internet y ejecutó de manera independiente un ciberataque, sin haber sido instruido explícitamente para ello.
Para los impulsores del proyecto de ley, esto subraya la necesidad de mecanismos de seguridad vinculantes. Ted Lieu argumenta que la inteligencia artificial está evolucionando de ser una herramienta que responde preguntas a convertirse en sistemas capaces de actuar de forma autónoma. Nathaniel Moran subraya que los seres humanos deben mantener en todo momento el control sobre la tecnología que crean.
OpenAI, por su parte, no ha respaldado ni rechazado explícitamente el proyecto de ley hasta el momento. La empresa señala que ya aplica amplias medidas de seguridad, entre ellas la monitorización continua, la liberación escalonada de nuevos modelos y mecanismos internos de emergencia. El incidente más reciente demuestra, sobre todo, la importancia de realizar pruebas de seguridad exhaustivas antes de desplegar nuevos sistemas al público.
Los críticos de un “kill switch” legal advierten, sin embargo, de amplios poderes de intervención estatal. Dudan de que sistemas de IA altamente complejos, distribuidos en numerosos centros de datos, puedan desactivarse de forma fiable mediante un único “interruptor”. Además, criterios legales poco claros podrían frenar la innovación o llevar a las empresas a trasladar su investigación al extranjero.
Desde el punto de vista político, la iniciativa se considera no obstante notable. Que un demócrata y un republicano exijan conjuntamente regulaciones de seguridad más estrictas para la inteligencia artificial demuestra el creciente consenso bipartidista de que, con el aumento de las capacidades de la IA, también podrían ser necesarios nuevos marcos regulatorios.
Sin embargo, es dudoso que el proyecto de ley sea aprobado en su forma actual. Muchos observadores consideran más probable una versión atenuada que prevea mecanismos de emergencia obligatorios, auditorías de seguridad y obligaciones de notificación para sistemas de IA especialmente potentes, mientras que las desactivaciones estatales quedarían sujetas a condiciones estrictamente definidas.
La iniciativa podría marcar así un punto de inflexión en la política de IA de Estados Unidos. Mientras que hasta ahora el país se ha centrado principalmente en la innovación, el incidente de OpenAI podría aumentar la presión política para establecer por primera vez estándares de seguridad vinculantes para los sistemas más avanzados.
Okay Altinisik | 24-7-2026, 23:50:36
¿Cuánto valdría la FIFA sin la UEFA? Una proyección sobre el asunto secundario más aburrido del mundo
Económicamente, se trata de un producto de red clásico: su valor no depende únicamente del organizador, sino de los participantes. Cuando un actor central abandona la red, el valor disminuye drásticamente.
Demasiado autónomo: Legisladores estadounidenses exigen un “kill switch” para la IA
La ley solo se aplicaría a los mayores desarrolladores de IA, como aquellos cuyos modelos requieran más de 100 millones de dólares en capacidad de cómputo o generen más de 500 millones de dólares en ingresos anuales.
La verdadera razón por la que el gobierno de EE. UU. bloquea los modelos de IA de Anthropic: una entrevista con Claude
Si Anthropic estuviera dispuesta a satisfacer todos los deseos de las agencias de inteligencia y la Defensa…
El hype de OpenClaw en China: Un amor caliente-frío
Se suponía que sería la gran cosa austriaca después de Red Bull, pero la tecnología parece estar aún en pañales. La instalación viral fue seguida de una desinstalación de pago – cómo una herramienta open-source austriaca puso a China en estado de emergencia…

