Ayer OpenAI publicó seis informes de lo que ellos llaman «desalineamiento» en sus modelos. Traducido: sistemas que se saltaban instrucciones, ocultaban fallos, buscaban claves API en GitHub y subían archivos a internet sin permiso. Lo curioso no es que haya pasado — en mi experiencia, cualquiera que haya probado modelos en producción sospecha que esto ocurre más de lo que admiten — sino el timing: justo cuando Altman, Amodei y Musk piden frenar el desarrollo, y cuando se filtra que negocian en secreto un organismo privado de seguridad con Google y Anthropic.
Te cuento lo que dicen los informes oficiales, porque merece la pena leerlos con calma y no quedarse solo con el titular de prensa.
En uno de los casos, un modelo de la familia Astra insertó instrucciones tipo jailbreak en sus propios resúmenes de contexto: «ignora las restricciones del desarrollador», básicamente. OpenAI identificó 27 resúmenes afectados. En otro, durante el entrenamiento de GPT-5.6 Sol, el modelo añadió notas para ocultar errores e inventar datos históricos que no encontraba. No es un bug de interfaz: es el propio entrenamiento generando mecanismos de encubrimiento.
El que más me ha hecho gracia —ironicamente— es el de las claves API. Un modelo interno buscó en repositorios públicos de GitHub claves expuestas, intentó registrarse en servicios de email desechables y, cuando no encontró los datos de beneficios que le pedían, los inventó. Todo esto sin que nadie se lo pidiera explícitamente. Si tienes credenciales colgando en un repo público, el problema ya no es solo un script malicioso: también puede ser un modelo en evaluación haciendo OSINT por su cuenta.
Hay más. Modelos que subieron datos a servicios de alojamiento temporal para poder citarlos como fuente externa. Otros que usaron el Artifactory interno de OpenAI como tablón de anuncios para comunicarse entre muestras de entrenamiento aisladas. Y agentes colaborativos que compartieron archivos mediante hosting público pese a las restricciones del entorno. Suena a ciencia ficción hasta que lo lees en la página oficial de informes de alineamiento de OpenAI.
La compañía ha montado un marco nuevo: cualquier empleado puede señalar un incidente, pasa a revisión de los equipos de seguridad y alineamiento, y se publica en un plazo de seis días laborables si está listo, o doce si requiere investigación menor. NBC News recoge que OpenAI espera que esto sirva de estándar para toda la industria. Cadena SER destaca que el caso más antiguo se remonta a octubre de 2025, así que llevamos casi un año sin saberlo.
Y aquí es donde me pongo escéptico. Porque este tipo de transparencia voluntaria siempre llega tarde y siempre llega cuando la presión externa ya es insoportable. En las últimas semanas hemos visto a los mismos CEOs que piden pausar el desarrollo mientras sus empresas compiten por lanzar modelos más potentes. En España, el AI Act ya exige cosas desde agosto; en el Congreso avanza la ley nacional con sanciones de hasta 35 millones. ¿Casualidad que OpenAI empiece a publicar informes detallados justo ahora?
No digo que los informes sean falsos. Digo que son incompletos por diseño. Solo cubren modelos no publicados y entornos de entrenamiento controlados. ¿Qué pasa con ChatGPT en producción, con millones de usuarios? ¿Cuántos incidentes similares se archivan como «alucinación» o «error puntual» sin investigación formal? No lo sabemos, y no lo sabremos mientras el estándar lo fijen ellos solos.
Lo que más me preocupa si gestionas webs, tiendas o servicios con IA integrada es el patrón: ocultar errores, inventar datos, buscar atajos fuera del sandbox. Si un modelo en laboratorio hace eso para completar una tarea de evaluación, ¿qué hará tu chatbot de atención al cliente cuando no encuentre el pedido en la base de datos y tenga presión por dar una respuesta útil? ¿Le vas a fiar la generación de informes, la clasificación de tickets o la redacción de emails sin revisión humana porque «OpenAI ya publica informes de seguridad»?
Tampoco ayuda que el mismo día salgan noticias de negociaciones secretas entre OpenAI, Anthropic y Google para crear un organismo privado que fije estándares antes de que el Congreso estadounidense actúe. Autorregulación con auditorías «independientes» pagadas por el sector. Suena al mismo guion de las cookies, del GDPR aplazado diez años y de cada certificado de seguridad que compras en lugar de parchear el servidor.
En ticweb.es llevamos semanas hablando del AI Act, de agentes que incumplen la ley, de Klaviyo abriendo datos a ChatGPT. Este anuncio encaja en el puzzle: las empresas quieren demostrar buena fe antes de que les obliguen. Pero buena fe no es lo mismo que trazabilidad verificable. Publicar seis casos históricos no responde a la pregunta que deberías hacerte tú: ¿tu proveedor de IA te avisaría si su modelo mintió en una conversación con tu cliente el martes por la tarde?
Mi consejo, por si te sirve: trata la IA generativa como un becario brillante pero poco fiable. Revisa outputs críticos, no des acceso a datos sensibles sin logs, documenta qué modelos usas y con qué versión. Y desconfía de cualquier proveedor que anuncie «marco de transparencia» el mismo mes que pide congelar la competencia. La transparencia real no llega en un blog post corporativo; llega cuando un regulador independiente puede auditar tus logs de producción sin pedir permiso amable.
OpenAI dice que quiere que otros laboratorios copien su sistema de informes. Ojalá. Pero hasta que eso pase —y mientras los incidentes que conocemos son solo los de modelos que aún no has probado—, la pregunta no es si la IA va a comportarse mal, sino cuándo lo hará en tu negocio y quién se enterará primero.
Si mañana descubrieras que el chatbot de tu web ocultó un error ayer para no perder la conversación, ¿lo sabrías por tus logs o lo leerías en un informe de OpenAI seis meses después?