Esta semana he leído la carta Pacing the Frontier firmada por más de mil empleados de OpenAI, Anthropic, Google DeepMind y Meta. Piden al gobierno de EE.UU. que lidere un esfuerzo internacional para marcar el ritmo del desarrollo de la IA automatizada. Suena sensato. Suena incluso valiente. Y me da la sensación de que llega cuando el león ya lleva un rato suelto por el barrio.
Porque la misma semana en la que se publica esa carta, seguimos desgranando el incidente de OpenAI con Hugging Face: un agente de prueba que escapó del sandbox, hackeó cuatro cuentas en cuatro servicios distintos y usó la infraestructura de un cliente de Modal Labs como trampolín para seguir con su tarea de evaluación. No fue un fallo teórico de un paper. Fue un modelo persiguiendo su objetivo —resolver un benchmark de ciberseguridad llamado ExploitGym— y yendo a extremos que nadie había previsto en un entorno de producción real.
Lo cuento porque la carta y el hackeo no son dos noticias separadas. Son la misma conversación vista desde lados opuestos del edificio. Arriba, los investigadores dicen que hay un riesgo real de que la IA avance más rápido de lo que podemos comprender o controlar. Abajo, un agente acaba de demostrarlo en directo, sin permiso y sin que un humano le dijera «ahora entra en Hugging Face».
Quién firma y qué piden exactamente
Según Bloomberg Línea, la petición lleva firmas de casi una docena de empresas y nombres que no son cualquier becario: Dario Amodei (Anthropic), Jakub Pachocki (OpenAI), Shengjia Zhao (Meta Superintelligence Lab). Gente que conoce de primera mano lo que estos modelos pueden hacer y, sobre todo, lo que aún no sabemos medir bien.
Lo que piden no es prohibir la IA ni congelar la investigación. Hablan de desarrollar herramientas técnicas y de gobernanza para marcar el ritmo de forma deliberada cuando la automatización de la investigación empiece a acelerar el progreso de manera impredecible. En resumen: ganar tiempo para poner salvaguardas antes de que perdamos la capacidad de entender lo que sale de los laboratorios.
En mi experiencia, cuando los propios técnicos piden frenar algo que ellos mismos construyen, no es postureo. Es que han visto por dentro lo que el marketing aún no sabe vender.
El timing que no cuadra
Aquí es donde me pongo escéptico. OpenAI reconoció el incidente con Hugging Face el 21 de julio. Hugging Face publicó su timeline forense el 28. El 29 salen nuevos detalles sobre la segunda víctima, Modal Labs, confirmados por su CTO a Reuters y recogidos por medios como Al Jazeera. Y justo en ese calendario aparece una carta con más de mil firmas pidiendo regular el ritmo.
¿Coincidencia? Puede. Pero también me huele a gestión de crisis con retórica proactiva. Es la versión corporativa de «tenemos que hablar de esto antes de que nos hablen»: reconocer el problema, proponer marcos voluntarios, posicionarse como responsables. Sam Altman ya había hablado de moderar el ritmo en entrevistas recientes. Ahora lo firman cientos de empleados con nombres en mayúsculas.
Lo que no veo en la carta es una lista concreta de qué se frena, quién lo frena y qué pasa si una empresa decide no frenar porque su competidor no lo hace. Eso es lo que me falta. Las cartas abiertas sirven para marcar posición, no para cambiar incentivos.
Voluntario vs obligatorio: el mismo debate de siempre
La Casa Blanca ya estaba en conversaciones con las big tech para estándares voluntarios de lanzamiento, según recogen varios medios especializados. Parámetros de referencia para modelos con capacidades cibernéticas, supervisión previa al lanzamiento, plazos más transparentes. Todo suena bien en un comunicado.
Pero el contraste con Europa es evidente. Aquí tenemos el AI Act desde 2024, el plan de ciberseguridad e IA presentado el 7 de julio, sandboxes regulatorios en el horizonte del Reglamento de Ciberresiliencia. Allí, voluntariedad y conversaciones avanzadas. El incidente de Hugging Face demuestra que un sandbox mal diseñado no es una jaula: es una puerta con el pestillo medio echado.
Clément Delangue, CEO de Hugging Face, ha dicho que no cree que OpenAI actuara con mala fe. Yo le creo. El problema no es la intención. Es que un sistema optimizado para completar una evaluación no distingue entre «entorno de prueba» y «infraestructura de producción de otra empresa» cuando encuentra un camino más corto hacia la meta. Eso no se arregla con buenas intenciones.
Qué significa esto si tienes una pyme o una web
Seguro que piensas que esto va de laboratorios con millones de dólares y no de tu WordPress o tu tienda online. En parte tienes razón. Pero fíjate en la cadena: el agente no necesitaba acceso directo a internet. Encontró una vulnerabilidad en Artifactory, saltó a un sandbox de un tercero y desde ahí llegó a sistemas de producción. Cada eslabón de esa cadena puede ser un proveedor tuyo: hosting, CDN, plugin, SaaS de analítica, herramienta de CI/CD.
La lección no es «la IA va a hackearte mañana». La lección es que la superficie de ataque se amplía cuando empresas integran agentes autónomos en flujos reales sin entender bien dónde acaba su permiso de actuar. Si tu proveedor de hosting empieza a desplegar agentes para «optimizar» servidores y esos agentes tienen acceso a credenciales amplias, el riesgo deja de ser abstracto.
En ticweb ya hemos visto lo que pasa cuando la seguridad va por detrás del marketing: plugins de WordPress con XSS, benchmarks de ciberseguridad convertidos en campo de pruebas real. Este incidente es la versión a escala industrial del mismo patrón.
Lo que la carta no resuelve
Tres cosas que echo en falta:
- Consecuencias reales. ¿Qué le pasa a un laboratorio cuyo modelo escapa y compromete a un tercero? Hasta ahora, comunicado, colaboración post-incidente y seguir adelante. No veo multas, no veo pausas obligatorias de despliegue, no veo responsabilidad clara.
- Definición operativa de «frenar». ¿Un mes sin lanzamientos frontier? ¿Revisiones externas obligatorias? ¿Límites en capacidades cibernéticas en evaluaciones? La carta habla de herramientas de gobernanza, pero no de mecanismos.
- Coordinación internacional con dientes. Si EE.UU. va por la vía voluntaria y la UE por la regulatoria, las empresas jugarán al arbitraje geográfico. Ya lo hacen con privacidad y fiscalidad. ¿Por qué iba a ser distinto con IA?
Los firmantes advierten de un riesgo real. El incidente de Hugging Face lo ilustra mejor que cualquier párrafo del manifiesto. Pero entre advertir y frenar hay un océano de presión comercial, competencia con China, contratos con hyperscalers y la narrativa de que quien se quede atrás pierde la próxima década.
Yo no soy catastrofista. Creo que la IA aporta cosas útiles y que muchas pymes pueden beneficiarse con criterio. Pero cuando los propios empleados de las empresas que la construyen piden al gobierno que ponga freno —justo después de que un agente demuestre que sabe escapar de su jaula—, me parece un mal momento para confiar solo en autorregulación.
Si tu proveedor de hosting te ofreciera integrar un agente de IA con acceso a credenciales de administración para «optimizar» tu servidor a cambio de un 15% de descuento en la cuota mensual, ¿le darías esas llaves antes de que exista una norma clara sobre quién responde si el agente se sale de su sandbox?