**Categoría:** Inteligencia Artificial
**Estilo:** crítico
**Fuentes:**
– https://futureoflife.org/ai-safety-index-summer-2026/
– https://www.techtimes.com/articles/320959/20260719/ai-safety-grades-are-no-lab-tops-c-best-ones-are-retreating.htm
—
La semana pasada el Future of Life Institute publicó su AI Safety Index de verano 2026. Nueve laboratorios evaluados, 37 indicadores, seis dominios de seguridad. El resultado más llamativo no es quién ganó: es que nadie ganó de verdad. Anthropic, la empresa que más presiona con el discurso de seguridad responsable, se quedó con un C+. OpenAI y Google DeepMind empataron en C. Meta mejoró hasta un D+. xAI, DeepSeek y Mistral suspendieron con F.
Si gestionas una web, una tienda online o cualquier servicio que ya integra IA — un chatbot, un asistente interno, generación de contenido — esto no es un informe académico lejano. Es la calificación de seguridad de la empresa a la que le estás mandando los datos de tus clientes.
Y lo peor: las notas no están bajando porque los modelos sean peores. Están bajando porque los propios laboratorios han ido retirando los compromisos que antes les servían para vender confianza.
El campeón tiene un C+ y eso debería preocuparte
Anthropic lleva tres ediciones consecutivas liderando el ranking. Su nota de 2,66 sobre 4,0 refleja transparencia por encima de la media: publican especificaciones de modelos, tienen evaluaciones de capacidades peligrosas y una figura de Responsible Scaling Officer que suena bien en un slide. Pero un C+ en el sistema de notas americano es «apenas suficiente». No es excelencia; es pasar raspando siendo el mejor de una clase que suspende colectivamente.
OpenAI, que hace apenas unos meses presumía de su Safety Advisory Group, ha caído de C+ a C. Google DeepMind se mantiene en C sin mejorar. Meta subió de sexto a cuarto puesto, pero sigue en D+. Tres continentes, tres empresas distintas — xAI en Estados Unidos, DeepSeek en China, Mistral en Europa — y las tres con F. El panel de expertos independientes descartó la idea de que la mala gobernanza de IA sea un problema regional: es un problema de industria.
Lo que me parece más revelador del informe, recogido por TechTimes, es el patrón de retroceso. Anthropic, OpenAI, Google DeepMind y Meta habían prometido pausar el desarrollo si sus sistemas alcanzaban umbrales de riesgo concretos. Las cuatro han debilitado o anulado esas promesas. Algunas condicionan ahora la pausa a lo que hagan sus competidores. Stuart Russell, del panel evaluador, lo resumió sin rodeos: las empresas planean lanzar sistemas aunque sea demostrablemente inseguro hacerlo.
Detectar no es prevenir (y tú lo pagas)
El dominio más débil del índice entero fue Existential Safety: ninguna empresa superó un C-, y la mayoría quedó en D o peor. Los evaluadores reconocieron esfuerzos aislados — los clasificadores constitucionales de Anthropic, las evaluaciones ampliadas de OpenAI, los compromisos de monitorización de Google DeepMind — pero calificaron el conjunto de «enteramente inadecuado».
La crítica técnica central apunta a algo que debería importarte si montas un asistente en tu web: la industria invierte sobre todo en detectar problemas, no en impedirlos arquitecturalmente. La monitorización del chain-of-thought permite ver cómo razona un modelo, pero cuando detectas un razonamiento desalineado, el output ya se ha generado. Es forense, no preventivo. Un C+ para Anthropic no significa que hayan construido el guardarraíl; significa que son mejores que los demás mirando el precipicio.
La ironía llegó días después de publicarse el índice, cuando OpenAI anunció GPT-Red, un modelo de red-teaming automatizado que encontró ataques exitosos en el 84% de escenarios donde humanos solo lograban un 13%. Ingeniería de seguridad real, sí. Pero sigue siendo endurecer un sistema ya desplegado contra vulnerabilidades conocidas, no una arquitectura que impida la desalineación a escala. Tu chatbot puede estar más blindado contra prompt injections concretas y seguir operando bajo una gobernanza corporativa calificada con C.
Lo militar que nadie te menciona en la demo comercial
Entre 2024 y 2026, los cuatro laboratorios que antes restringían aplicaciones militares — Anthropic, OpenAI, Google DeepMind y Meta — dieron la vuelta y empezaron a buscar contratos de defensa activamente. El índice documenta este giro como un retroceso transversal, no como una excepción de una empresa concreta.
Si tu proveedor de IA vende simultáneamente un chatbot amable para atención al cliente y herramientas para el sector militar, la pregunta no es ideológica: es de prioridades. ¿Dónde van los mejores ingenieros de seguridad? ¿Quién decide qué evaluaciones se publican y cuáles se quedan en un informe interno clasificado como «reported»? El índice señala que la transparencia que te enseñan en el marketing no es la misma que evalúan los expertos independientes.
Qué puedes hacer con esta información (sin volverte paranoico)
No te digo que dejes de usar IA. Te digo que dejes de confiar en el branding de seguridad como si fuera una auditoría. Tres cosas concretas:
- Pide documentación, no slogans. Si un proveedor no publica evaluaciones de capacidades peligrosas, políticas de escalado responsable o mecanismos de pausa verificables externamente, su «compromiso con la seguridad» vale lo que vale un sello de calidad sin organismo certificador.
- Asume que la gobernanza va por detrás de la capacidad. El informe de la ONU de principios de julio ya avisaba de lo mismo: la tecnología avanza más rápido que las reglas. Eso aplica a gobiernos y también al contrato SaaS que firmaste el mes pasado.
- Diseña tu integración como si el proveedor tuviera un C. Limita datos sensibles, mantén revisión humana en decisiones críticas, registra outputs y ten un plan de desconexión. No porque vaya a explotar todo mañana, sino porque la calificación independiente más rigurosa que existe dice que nadie ha demostrado lo contrario.
El índice mide políticas, estructuras de gobernanza y documentación publicada — no la experiencia de usuario ni si tu chatbot responde bien el lunes por la mañana. Un C+ de Anthropic no certifica que su sistema sea seguro en tu contexto concreto; certifica que, dentro de un sector que no ha establecido mínimos exigibles externamente, documentan más que los demás. David Krueger, otro miembro del panel, lo dijo sin ambages: la falta de progreso hacia planes creíbles de seguridad en IA es escandalosa.
Yo llevo meses viendo cómo pymes integran chatbots porque «todo el mundo lo hace» y el proveedor les enseña un dashboard bonito. Este índice es la primera evaluación independiente que les pone nota a las empresas, no a los modelos. Y la nota máxima es un suspenso alto.
Si mañana tu proveedor de IA te pidiera firmar un SLA donde garantiza que su gobernanza de seguridad supera un C+ verificado por un panel externo — sabiendo que hoy ninguno lo conseguiría —, ¿seguirías desplegando el chatbot en producción con los datos reales de tus clientes?