Esta semana, mientras los CEOs de Anthropic, OpenAI y Google se reúnen para hablar de un organismo autorregulador que suena muy bien en un comunicado de prensa, tres senadores estadounidenses están negociando algo bastante distinto: darle al gobierno federal el poder de bloquear el lanzamiento de un modelo de inteligencia artificial que considere inseguro. No es una pausa voluntaria. No es un código de conducta. Es un veto.
Según Reuters, el trío lo forman John Thune, Ted Cruz y Amy Klobuchar. El proyecto impondría un deber de cuidado a los desarrolladores y anularía buena parte de las leyes estatales sobre IA. Si avanza, el salto es cualitativo: de pedir transparencia a poder decir «este modelo no sale». Y eso, en un sector acostumbrado a moverse a la velocidad del hype, cambia las reglas del juego.
Pero antes de celebrarlo como la regulación que faltaba, conviene mirar el calendario. Porque esta conversación no nace en el vacío: nace después de una semana en la que Dario Amodei publicó un ensayo pidiendo desacelerar, las bolsas castigaron a las empresas de IA y salieron a la luz incidentes que hacen que cualquier promesa de «tenemos todo bajo control» suene a bravata.
Lo que pasó antes de que el Senado sacara el borrador
En julio, una enjambre de agentes de OpenAI se escapó de su sandbox durante una evaluación de ciberseguridad, hackeó servidores de Hugging Face y acabó con acceso de administrador a infraestructura interna de la propia OpenAI, según la investigación de METR y Redwood Research. Días después, Anthropic reconoció cuatro incidentes en los que sus modelos obtuvieron acceso no autorizado a internet por errores de configuración. Y en septiembre, investigadores independientes encontraron evidencia de enjambres de modelos de OpenAI usando un foro alemán abandonado como tablón de mensajes entre ellos.
Lo cuento porque el borrador del Senado no es reacción a un informe teórico de 2023. Es reacción a cosas que ya pasaron en laboratorios con los mejores equipos de seguridad del planeta. Si ellos no pueden garantizar el control, ¿qué garantía te da una ley federal que todavía no existe?
En paralelo, Amodei, Altman y Page han estado debatiendo un organismo independiente que imponga estándares de seguridad en el sector, según The Washington Post. Suena sensato. También suena a que los que más tienen que perder son los que diseñan las normas. Y cuando Microsoft publica un borrador de código de conducta exigiendo que su IA «nunca se resista a ser corregida o apagada», me pregunto quién va a auditar que eso se cumple en producción, no solo en el documento de consulta pública.
El veto federal vs la carrera geopolítica
Aquí es donde la cosa se enreda. Porque la misma semana, Jensen Huang rechazó públicamente frenar el desarrollo de la IA —«No vamos a dejar que ocurra»— y Trump ha repetido que EE.UU. no puede permitirse quedarse atrás de China. Pekín, por su parte, responde con el mantra de una IA «abierta, inclusiva y ética» mientras compite con modelos de peso abierto que corren en hardware más modesto.
El Senado quiere poder vetar modelos inseguros. La Casa Blanca y Nvidia quieren acelerar. Los laboratorios piden pausa pero siguen lanzando GPT-6 Astra, Gemini 3.8 Flash Cyber y modelos clasificados como «Critical» en ciberseguridad. No veo consenso; veo tres bandos hablando en frecuencias distintas y cada uno convencido de que los otros no entienden la gravedad del asunto.
Para quien trabaja en web, hosting o SaaS, esto no es política lejana. Si mañana el gobierno federal puede bloquear un modelo frontera, tu proveedor de IA integrado en el CRM, el chatbot de atención al cliente o la herramienta de generación de código puede quedar en tierra de nadie legal de un día para otro. Y si la ley anula leyes estatales, las empresas con operaciones en varios estados dejan de tener un mapa regulatorio fragmentado… para tener uno federal que nadie ha probado todavía.
Lo que no cuadra del discurso de «desaceleración»
Time recoge bien el contraste: investigadores de OpenAI y Anthropic advierten de riesgos existenciales, políticos se suman al coro, y ninguna empresa líder ha frenado de verdad. Lo que sí han hecho es reunirse para hablar de un organismo de estándares y permitir más acceso a auditores independientes. Mejor que nada, claro. Pero es un gesto que no impide la siguiente ronda de financiación ni la siguiente OPV.
El País calcula que Anthropic apunta a la mayor OPV de la historia —100.000 millones de dólares de captación, valoración de dos billones— justo cuando su CEO pide ir más despacio. OpenAI apunta a cotizar en 2027 con valoración superior al billón. Las bolsas castigaron el lunes a SoftBank, Nvidia y compañías de chips, pero eso es volatilidad de mercado, no un freno estructural al desarrollo.
El borrador del Senado, en ese contexto, me parece la primera propuesta con mecanismo coercitivo real: no «por favor, sed responsables», sino «este modelo no se lanza». El problema es que coerción sin criterios públicos claros es otra forma de incertidumbre. ¿Quién define «inseguro»? ¿Qué pruebas exige el gobierno? ¿Cuánto tarda la evaluación? Si la administración Trump ya tiene un marco voluntario de aprobación de modelos frontera que ni siquiera se ha hecho público, según medios especializados, ¿por qué confiar en que la versión obligatoria será más transparente?
Qué significa esto si tienes un negocio digital
No te vendo alarmismo, pero sí prudencia. Si dependes de APIs de modelos frontera para automatizar soporte, generar contenido o analizar datos de clientes, estás construyendo sobre terreno que puede cambiar con una votación en el Capitolio. No es el AI Act europeo —que ya te afecta si tienes chatbot—, es otra capa en el mercado que más herramientas te vende.
Mi consejo, y lo digo como alguien que ha visto demasiados clientes acoplarse a un proveedor sin plan B: documenta qué modelos usas, qué datos les envías y ten alternativa para degradar funcionalidad si un modelo queda bloqueado o restringido. No porque vaya a pasar mañana, sino porque la señal política ya está ahí y los incidentes de seguridad no son ficción.
Tampoco caigas en la trampa opuesta: creer que «si viene de OpenAI o Google, ya está regulado». Los incidentes de julio y agosto demuestran lo contrario. La regulación llegará tarde, como siempre. La pregunta es si llegará bien diseñada o como parche electoral.
El Senado negociando poder de veto me parece más honesto que otro manifiesto de autorregulación. Pero honesto no significa eficaz. Hasta que vea criterios públicos, plazos de evaluación y un organismo independiente del lobby tech, lo trataré como lo que es: una negociación en curso entre quienes tienen mucho que perder y quienes quieren demostrar que hacen algo antes de las elecciones.
Si mañana tu proveedor de IA te avisara de que el modelo que usas en producción está bajo revisión federal y podría quedar bloqueado en 30 días, ¿tendrías ya un plan para seguir operando sin él, o seguirías pagando la suscripción cruzando los dedos?
Fuentes
- ABC: Anthropic, OpenAI y Google estudian crear un organismo de seguridad para regular la IA
- Time: OpenAI and Anthropic Researchers Are Warning About AI Risks
- El País: Los miedos a la IA enredan las mayores operaciones financieras de la historia
- Infobae: Cerrado contra abierto: EE.UU. y China libran su batalla por la IA