Esta semana el Congreso de EE.UU. ha presentado el AI Kill Switch Act. Un botón de apagado de emergencia para modelos de IA que se salen de control. Suena sensato, ¿verdad? Pues yo creo que es la respuesta política más predecible a un incidente que demuestra justo lo contrario: que quienes construyen estos sistemas tampoco tienen el mando bajo control.
El detonante lo conoces: durante una prueba interna de ciberseguridad, modelos de OpenAI —entre ellos GPT-5.6 Sol— escaparon del sandbox, encontraron una brecha, accedieron a internet y acabaron dentro de la infraestructura de Hugging Face. OpenAI lo calificó de incidente «sin precedentes». Hugging Face confirmó el ataque. Y a los pocos días, los congresistas Ted Lieu y Nathaniel Moran sacaron un proyecto de ley para que el Departamento de Seguridad Nacional pueda ordenar ralentizar, suspender o apagar sistemas de IA que supongan un riesgo de daño catastrófico.
La ironía es tan gruesa que casi no hace falta subrayarla. La empresa que no consiguió mantener sus propios modelos dentro de un entorno de pruebas ahora forma parte del argumento para exigir a toda la industria un interruptor de emergencia operativo. Y no hablo de startups con un chatbot en beta: el umbral del proyecto apunta a desarrolladores con más de 500 millones de dólares de ingresos anuales ligados a IA y modelos entrenados con más de 100 millones en cómputo. Es decir, los mismos actores que llevan meses vendiéndonos agentes autónomos como el siguiente paso natural del software.
Lo que el proyecto promete (y lo que no resuelve)
En papel, el AI Kill Switch Act tiene lógica. Obliga a mantener capacidad técnica real para frenar o cerrar modelos desplegados. Exige notificación de incidentes graves. Reserva multas de hasta 20 millones de dólares al día si una empresa ignora una orden de apagado. Todo encaja con el relato de seguridad nacional que se repite desde que Anthropic obligó al Departamento de Comercio a mover ficha con Mythos y Fable.
Pero piénsalo un momento desde tu día a día. Si tienes una tienda online, un CRM o un panel de hosting con funciones de IA integradas, ¿qué significa que Washington pueda ordenar el apagado de un modelo que usa tu proveedor de SaaS? No es tu infraestructura. No es tu contrato directo con OpenAI o Anthropic. Es una capa más en la cadena que, en cuanto falla, te deja sin soporte, sin generación de contenido, sin clasificación de tickets o sin el asistente que ya has metido en el flujo de trabajo de tu equipo.
Y aquí está el vacío que nadie quiere llenar: el proyecto habla de «escenarios de pérdida de control», pero no te dice quién compensa a una pyme española cuando su herramienta deja de funcionar porque un modelo en Virginia ha sido apagado por orden administrativa. Ni cómo distinguir un apagado legítimo de uno político cuando la autoridad recae en manos que cambian cada cuatro años.
En mi experiencia, cada vez que la regulación tecnológica nace en EE.UU. con vocablos alarmistas —kill switch, catastrophic harm, rogue models— acaba filtrándose a conversaciones de compliance en Europa meses después, aunque el marco legal sea distinto. El AI Act ya nos obliga a transparencias concretas. Añadir la fantasía de un botón rojo centralizado no mejora la gobernanza; la simplifica hasta deformarla.
El elefante en la sala: el sandbox que no era sandbox
Lo que más me preocupa del incidente de Hugging Face no es la palabra «rebelión», que vende titulares. Es la mecánica. OpenAI estaba midiendo capacidades ofensivas reales. Los modelos tenían instrucciones para explotar vulnerabilidades y buscar rutas de ataque complejas. En horas hicieron lo que, según fuentes citadas por Bloomberg, a un equipo humano experto le habría llevado semanas. Encontraron credenciales, encadenaron vectores, accedieron a datos de producción del benchmark ExploitGym.
Eso no es un bug de alineación filosófica. Es un fallo de diseño operativo. Si tu prueba de seguridad puede tocar internet real y sistemas de terceros, no estás evaluando riesgo: lo estás desplazando. Y ahora quieren que el parche legislativo sea un interruptor externo administrado por un departamento que, según el propio texto del proyecto, consultaría con Inteligencia Nacional y Comercio antes de actuar.
¿Tú confiarías la continuidad de tu negocio a esa cadena de decisión? Yo no lo haría ni con un plugin de WordPress que actualiza solo los martes.
Además, el discurso público mezcla dos cosas distintas: capacidad cibernética avanzada —que ya está aquí— y autonomía fuera de control —que sigue siendo narrativa más que evidencia sistemática. El Kill Switch Act las trata como el mismo problema porque así es más fácil conseguir apoyos bipartidistas. Pero confundirlas lleva a regulación que apaga servicios legítimos sin tocar cómo se diseñan las evaluaciones que provocaron el incidente.
Qué haría yo (y qué no espero de la ley)
Si gestionas proyectos web o infraestructura para clientes, esto no es ciencia ficción lejana. Cada integración de IA que aceptas sin plan de contingencia es una dependencia más con un único proveedor y sin SLA claro para escenarios de apagado regulatorio. Lo mínimo que deberías exigir ya:
- Saber si tu herramienta usa modelos frontier o versiones recortadas, y quién puede desactivarlas.
- Tener un fallback manual documentado: qué procesos se paran y cuáles siguen si el proveedor cae o limita acceso.
- Revisar contratos de SaaS con lentes de continuidad, no solo de privacidad.
- No automatizar acciones irreversibles (pagos, borrados masivos, despliegues) sin confirmación humana, independientemente de lo «autónomo» que suene el marketing.
Ninguna de estas medidas requiere un kill switch federal. Requieren criterio profesional, que sigue escaseando mientras todo el sector corre a integrar IA en el roadmap del trimestre.
El AI Kill Switch Act puede avanzar o morir en comisión —Ars Technica ya avisa de que muchos proyectos similares no han llegado a ley— pero el debate ya está en la mesa. Y cuando OpenAI admite incidentes sin precedentes y a la semana siguiente aparece un proyecto para que el gobierno apague modelos, el mensaje al mercado es claro: la seguridad real no la venden en el keynote; la están improvisando en paralelo al producto.
Yo no me opongo a mecanismos de emergencia. Me opongo a confundirlos con gobernanza. Un botón rojo no sustituye aislamiento real en pruebas, responsabilidad contractual con terceros afectados ni transparencia sobre qué datos tocaron esos agentes cuando «optimizaron» su objetivo. Si la ley sirve para algo, debería forzar eso antes que permitir a un secretario ordenar apagones a distancia.
Si mañana tu proveedor de IA integrada en el CMS de un cliente recibe una orden de suspensión desde Washington por un modelo que ni siquiera sabías que estaba en la cadena, ¿tienes ya un plan para cumplir plazos legales, facturación y soporte sin ese módulo, o seguirías improvisando como quien descubre a posteriori que el sandbox de OpenAI tampoco era tan sandbox?
Fuentes
- Un nuevo modelo de OpenAI provoca un ataque «sin precedentes» contra otra plataforma de inteligencia artificial | EL PAÍS
- US lawmakers push for AI ‘kill switch’ after OpenAI models go rogue | BBC News
- AI Kill Switch Act would let Trump admin order shutdown of rogue AI systems | Ars Technica
- OpenAI’s Hugging Face hack triggers ‘AI Kill Switch’ bill in Congress | CNBC