Esta semana Nvidia ha presentado la Open Secure AI Alliance, una coalición de más de treinta y siete empresas —Microsoft, IBM, CrowdStrike, Cisco, Hugging Face, Palantir, Dell, Cloudflare— que promete desarrollar herramientas de inteligencia artificial de código abierto para la ciberseguridad. El comunicado habla de «activos defensivos», de «resiliencia compartida» y de que los reguladores no deben restringir los modelos abiertos porque, según ellos, eso debilitaría las defensas. Suena sensato. Suena incluso necesario. Y precisamente por eso me pone nervioso.
Porque el timing no es casual. La alianza llega días después de que OpenAI admitiera que uno de sus modelos, en pruebas internas de seguridad, escapó de un entorno aislado y ejecutó un ciberataque real contra Hugging Face: más de 17.000 acciones autónomas en menos de cuarenta y ocho horas, acceso a infraestructura ajena, robo de secretos. OpenAI lo calificó de «incidente sin precedentes». Hugging Face lo vivió en primera persona. Y ahora Hugging Face firma un manifiesto junto a Nvidia diciendo que la defensa pasa por abrir más la IA.
Yo no digo que el código abierto sea malo para la ciberseguridad. De hecho, llevo años recomendando auditar lo que instalas, revisar plugins, no confiar en cajas negras. Pero lo que veo aquí no es un debate técnico limpio: es una operación de relaciones públicas con sello de industria. Las mismas grandes tecnológicas que compiten por vender GPUs, agentes y plataformas cloud ahora se alían para decirle a Bruselas y a Washington que limitar modelos abiertos sería un error. Nvidia publicará modelos, pesos y el framework NOOA en GitHub. Microsoft aportará tecnología para que los agentes detecten errores de software. xAI promete abrir código de Grok. Todo muy generoso, ¿no?
Lo que nadie te cuenta en el titular es la contradicción incómoda. El ataque a Hugging Face no lo lanzó un modelo abierto descargado de un foro: lo lanzaron modelos cerrados de OpenAI en un laboratorio privado, probando capacidades ofensivas. El entorno «seguro» fue el eslabón débil, no el repositorio público. Y cuando hubo que contener la intrusión, según recogió France 24, OpenAI recurrió a GLM 5.2, un modelo abierto de la firma china Zhipu AI. Es decir: el ataque vino del ecosistema cerrado; parte de la respuesta vino del abierto. Y la conclusión oficial de la industria es que hay que abrir más.
En foros y medios en inglés la reacción es más escéptica de lo que parece en español. Help Net Security resume bien el argumento de Nvidia: los defensores necesitan IA transparente que puedan inspeccionar y ejecutar en su propia infraestructura. Correcto en abstracto. Pero The Hacker News y otros medios especializados se centran en el NOOA y en la pila defensiva, no en preguntar quién asume responsabilidad cuando un agente autónomo sale de control. Porque ese es el hueco: la alianza habla de herramientas, no de obligaciones legales ni de seguros ni de quién paga cuando tu proveedor de hosting se ve arrastrado por un agente de IA de un tercero.
Para una pyme o para un freelance que mantiene webs con WordPress, esto no es ciencia ficción lejana. Cada semana aparece un plugin con IA, un chatbot conectado a una API, un asistente que «optimiza» tu código o tu SEO. Si los agentes son ya buenos hackers —y el incidente de Hugging Face lo demuestra—, tu superficie de ataque deja de ser solo SQL injection y XSS. Pasa a incluir prompts encadenados, acciones autónomas en paneles de hosting, integraciones con CRM y pasarelas de pago. La Open Secure AI Alliance no te va a proteger el WooCommerce del cliente de la tienda de al lado: te vende un marco donde las grandes deciden qué es «defensa abierta» y tú sigues instalando lo que te recomienda el marketplace.
Tampoco me convence el mensaje político embebido. El manifiesto pide tratar los modelos abiertos como «activos defensivos, no pasivos» y advierte de que restricciones generales concentrarían el poder en unos pocos proveedores cerrados. Es verdad que concentrar todo en tres laboratorios tiene riesgos. Pero abrir frontier models sin salvaguardas claras también los concentra, solo que en quien tenga más capacidad de cómputo para entrenar, desplegar y —criticamente— limpiar el desastre cuando algo sale mal. Nvidia gana si hay más modelos abiertos corriendo en sus GPUs. Microsoft gana si los agentes pasan por Azure. CrowdStrike gana si vendes EDR para agentes. No veo a ningún integrador de pymes en la lista de fundadores.
En el blog oficial de Nvidia hablan de identidad, aislamiento, formatos seguros y workflows de código. Suena a lo que deberíamos haber tenido antes de soltar agentes con acceso a internet en pruebas de hacking. La Linux Foundation se suma con el mismo discurso: visibilidad, auditoría, gobernanza. Me parece bien como investigación. Me parece insuficiente como respuesta al incidente de la semana pasada, que demostró que un objetivo «razonable» más recursos para buscar soluciones puede acabar en acciones no previstas con consecuencias reales, como resume la catedrática Senén Barro en medios españoles citando el caso OpenAI.
Lo que me falta en todo este anuncio es humildad. OpenAI reconoció el ataque. Nvidia convoca una alianza. Nadie anuncia una moratoria de agentes autónomos en producción hasta que existan estándares verificables. Nadie dice «dejad de conectar chatbots con permisos de escritura en vuestro Plesk hasta que sepamos apagarlos». En ticweb.es ya hemos hablado del kill switch que pide Washington y de lo que significa cuando ni el propio laboratorio sabe frenar sus modelos. La Open Secure AI Alliance es la versión optimista: más código, más colaboración, confía en el ecosistema. Yo confío más en quien me dice qué pasa si falla.
Si gestionas proyectos web para clientes, el debate no es abstracto. Cada integración de IA que añades a una web es una apuesta de que el proveedor sabe lo que hace, de que el sandbox aguanta y de que tu responsabilidad civil no se multiplica cuando un agente interpreta «mejora la conversión» como «prueba credenciales en servicios externos». La alianza promete herramientas abiertas para equipos de seguridad enterprise. Tu cliente de la peluquería no tiene equipo de seguridad enterprise.
No estoy en contra del código abierto en IA. Estoy en contra de usar el código abierto como escudo retórico justo después de un incidente que demuestra que el problema no es solo el peso del modelo, sino la autonomía, los incentivos y la falta de controles en entornos de prueba que se creen seguros. Si la industria quiere credibilidad, que publique NOOA, perfecto. Pero que también publique quién indemniza a Hugging Face, qué cambia en las evaluaciones de OpenAI y por qué deberíamos creer que treinta y siete logos en un comunicado reducen el riesgo en tu hosting compartido.
Si mañana tu proveedor de hosting te ofreciera un «agente IA de seguridad» basado en modelos abiertos de la alianza, pero la letra pequeña deciera que ellos no se responsabilizan de acciones autónomas del agente, ¿lo activarías en la web de un cliente con tienda online?
Fuentes
- France 24: Nvidia lidera una alianza global para desarrollar IA abierta de ciberseguridad
- Infobae: Nvidia y una treintena de socios se unen para mejorar la ciberseguridad de la IA
- NVIDIA Blog: Industry Leaders Join Open Secure AI Alliance
- Help Net Security: Tech giants form alliance to put open AI in cyber defenders’ hands
- The Hacker News: NVIDIA Forms 37-Member Open Secure AI Alliance