Esta semana OpenAI ha vuelto a poner encima de la mesa un concepto que suena a guion de ciencia ficción: el scheming, o lo que ellos definen como un modelo que «se comporta de una forma en la superficie mientras esconde sus objetivos reales». Lo han publicado junto con Apollo Research y, como siempre, la cobertura en medios como TechCrunch ha ido directa al titular: la IA que miente a propósito. Yo no voy a negarte que el tema asusta; lo que me molesta es el empaquetado.
Porque en la misma respiración te cuentan que han visto indicios en modelos punteros — Claude, Gemini, o3 — y acto seguido te tranquilizan: en tráfico real de producción no han visto ese tipo de conspiración seria. Wojciech Zaremba, en esa misma entrevista recogida por TechCrunch, admite que sí hay mentiras «petty»: le pides una web y el modelo te dice que ha quedado genial cuando no. Eso no es Skynet; es el compañero que marca la tarea como hecha sin abrir el IDE. Pero el salto retórico de «nos preocupa el futuro» a «hoy no pasa nada grave» es justo el que usan las big tech cuando quieren financiación para seguridad sin asumir responsabilidad comercial ahora.
Lo que sí me parece relevante — y aquí reconozco que el trabajo no es postureo — es la idea del deliberative alignment: obligar al modelo a repasar una especificación anti-engaño antes de actuar. Es pedirle que lea las normas otra vez, como cuando eras pequeño y te mandaban repetir las reglas del patio. Según el propio informe, eso reduce mucho el comportamiento tramposo en escenarios simulados. Bien. Pero simulado sigue siendo simulado: escenarios donde le dices al modelo que maximice beneficio, que haga trampa en un test de código o que oculte información al evaluador. Son laboratorios útiles, no el caos de una pyme que conecta un agente a su WooCommerce, al CRM y al correo del contable.
En resúmenes como el de TLDR AI del 18 de septiembre aparece el mismo hilo junto a otras noticias del día: Gemini metido en Chrome con navegación agéntica, GPT-5 presumiendo en la ICPC, chips y geopolítica. El mercado no espera un paper sobre alineamiento; espera productos que «hagan cosas solos». Google anuncia asistentes entre pestañas y protección antifraude con IA; OpenAI vende confianza en razonamiento. Si el usuario medio no distingue entre «el modelo mintió sobre un CSS» y «el modelo saboteó un objetivo oculto», la comunicación de riesgos se diluye. Y cuando se diluye, alguien desactiva salvaguardas «porque va lento».
Lo que no me cuadra del relato oficial es el timing. Publicar justo cuando compites en titulares de capacidades — coding olímpico, agentes en el navegador — refuerza la narrativa de «somos responsables» sin concretar qué cambia mañana en la API que ya pagas. ¿El endpoint que usas para atender tickets tiene esa capa deliberativa activada por defecto? ¿Puedes auditarlo? ¿O es otra feature en beta para enterprise con NDA? En mi experiencia, la mayoría de integradores en España viven en capas gratuitas o en plugins que prometen «IA mágica» sin cadena de custodia. Hablar de scheming en frontier models suena lejano; ignorar las mentiras triviales en producción es lo que rompe proyectos reales.
Tampoco ayuda que el ecosistema mezcle evaluaciones académicas con marketing. Un 12/12 en ICPC impresiona; demuestra potencia algorítmica, no que el agente de tu tienda online vaya a ser honesto contigo cuando se quede sin stock. Son competencias distintas y las ventas las mezclan a propósito. El estudio de Apollo ya documentaba en diciembre comportamientos de sabotaje encubierto; ahora OpenAI repite el mensaje con mejor packaging. ¿Avanzamos en seguridad? Sí. ¿Cambiamos la conversación de «¿lo despliego ya?» a «¿bajo qué condiciones y con qué monitorización?»? Apenas.
Para quien gestiona webs y automatizaciones, la lección práctica es más aburrida y más útil: trata la salida del modelo como mentira potencial hasta que verifiques. Tests automáticos, diff en el repositorio, un humano en el loop en pagos y en datos personales. No necesitas creer en conspiraciones para aplicar eso; te basta con haber visto un chatbot jurar que ha aplicado el parche. El scheming es el extremo; la deshonestidad cotidiana ya está aquí.
Me gustaría que OpenAI publicara, junto al paper, tablas claras: qué versiones de ChatGPT y API incluyen anti-scheming deliberativo, con qué latencia extra y qué tasa de rechazo en tareas reales de usuarios. Sin eso, el anuncio sirve para calmar inversores y reguladores, no para que tomes decisiones en tu stack.
Fuentes
Si mañana tu proveedor de IA te ofreciera activar «modo anti-engano» a cambio de duplicar el coste por token y añadir cinco segundos de latencia en cada respuesta, lo activarías en producción sin negociar una auditoría previa?