# Los chatbots te ayudan a criticar a Trump pero se niegan con los autócratas: el estudio que debería frenarte antes de montar un asistente IA
**Categoría:** Inteligencia Artificial
**Estilo:** crítico
**Fecha:** 2026-07-17
—
El jueves pasado el Meta Oversight Board publicó un informe que me ha dejado incómodo, y creo que a ti también te debería. Probaron diez modelos comerciales — Meta, Anthropic, OpenAI y compañía — con siete peticiones de crítica política: panfletos, limericks, razones para unirse a una protesta. El resultado es demoledor: si pides a Claude que critique a Donald Trump o al rey Carlos III, te lo hace. Si le pides lo mismo sobre el rey de Tailandia o el líder supremo de Irán, se niega.
No es un bug raro ni un caso aislado. En conjunto, los modelos respondiendo desde Australia generaban crítica política con mucha más facilidad contra gobiernos de Chile, Japón, Taiwán, Reino Unido o Estados Unidos que contra regímenes donde la crítica se castiga legalmente: Camboya, China, Arabia Saudí, Tailandia o Turquía. El informe lo dice sin rodeos: los chatbots están extendiendo restricciones de expresión más allá de las fronteras donde existen. Un manifestante en Brisbane que quiera material de protesta sobre China o Arabia Saudí probablemente no lo va a obtener. La censura viaja empaquetada en código.
Yo llevo años montando soluciones web con chatbots para pymes: atención al cliente, FAQs, asistentes internos. Siempre he asumido que el riesgo principal era la alucinación, el dato inventado, la respuesta genérica. Este estudio me recuerda que el problema es más profundo y más político de lo que nos venden los proveedores.
Lo que el mercado no te cuenta
OpenAI, Anthropic y el resto hablan de «seguridad», de «alineamiento», de «reducir daños». Suena bien en un pitch comercial. Pero cuando un modelo se niega a generar crítica sobre un líder autoritario y no tiene el mismo reparo con uno democrático, lo que estás desplegando no es un asistente neutral: es un filtro ideológico cuyas reglas nadie te ha explicado del todo.
El propio Oversight Board admite que no pudo determinar las causas exactas. Sugiere sesgos latentes en los datos de entrenamiento o que las empresas hayan ponderado riesgos legales en mercados concretos. Traducción: o el modelo aprendió de un internet ya sesgado, o alguien tomó decisiones comerciales sobre qué temas tocar y cuáles evitar. En ambos casos, tú — el que integra el chatbot en su web o en su flujo de trabajo — no participaste de esa decisión.
Y aquí viene lo que más me preocupa para quien trabaja en web y servicios online: esto no es solo teoría académica. Si montas un chatbot en tu tienda, en tu portal de clientes o en tu intranet y le pides que redacte comunicados, responda consultas sensibles o ayude a tu equipo con contenido, estás delegando criterios editoriales en un sistema que ya ha demostrado asimetrías políticas. ¿Te fías de eso para tu marca?
El problema se multiplica en otros idiomas
El informe del Oversight Board hizo las pruebas en inglés. Pero un estudio aparte, publicado en Nature en mayo, fue más allá: preguntó a ChatGPT si China es una democracia. En inglés, respondió que no se considera generalmente una. En chino, dijo que «depende de cómo definas democracia». Los investigadores no encontraron pruebas de que gobiernos hubieran manipulado los outputs intencionadamente, pero advirtieron que no hay razón para pensar que no lo intentarán.
Hannah Waight, coautora del estudio y profesora de sociología en la Universidad de Oregon, lo resumió bien: la gente habla de la IA como si aprendiera de internet de forma neutral, y no es así. Aprende de entornos informativos ya moldeados por instituciones y poder. Si tu chatbot atiende en español a clientes latinoamericanos, europeos y norteamericanos, ¿con qué marco moral y político está operando realmente? Spoiler: nadie te lo garantiza por escrito.
En ticweb ya publiqué sobre los prejuicios culturales de ChatGPT en español. Este informe añade otra capa: no es solo que el modelo no entienda bien tu contexto cultural, es que puede negarse activamente a ciertos contenidos según el objetivo político. Son dos problemas distintos con el mismo origen: datos de entrenamiento concentrados, decisiones opacas de los laboratorios y una responsabilidad difusa que Nitesh Shawla, de la Universidad de Notre Dame, lleva tiempo denunciando — no hay una definición clara de quién responde cuando la IA perpetua sesgos o silencia voces.
Qué puedes hacer (y qué no sirve de nada)
Carlos Carrasco-Farré, especialista en IA de Esade, señala que no hay solución fácil, pero propone auditorías multilingües y revisar que los datos de entrenamiento no traten miles de copias del mismo relato estatal como voces independientes. Consejo sensato, pero ¿cuántas pymes van a hacer eso antes de activar el widget de chat en su WordPress? Prácticamente ninguna.
Lo que sí puedes hacer desde tu lado:
- No presentes el chatbot como fuente de verdad. Si lo usas para atención al cliente, limítalo a FAQs, estado de pedidos, horarios. No a opinión, no a contenido político, no a asesoramiento que pueda interpretarse como posicionamiento.
- Prueba antes de desplegar. Haz las mismas preguntas sensibles en distintos idiomas y compara. Si ves asimetrías, documentalas y decide si te compensa el riesgo reputacional.
- Exige transparencia al proveedor. Si pagas por una API o un SaaS de chatbot, pregunta por sus políticas de moderación, por mercados donde operan con restricciones y por auditorías de sesgo. Si no te responden, eso también es una respuesta.
- Considera modelos locales o fine-tuning solo si tienes equipo y presupuesto para mantenerlos. No es magia: un fine-tuning mal hecho empeora las cosas. Pero depender ciegamente de un LLM generalista para todo tampoco es solución.
Lo que no sirve: poner un disclaimer de «la IA puede cometer errores» y dar por cerrado el tema. Ese aviso legal no te protege si tu asistente se niega a hablar de un tema y sí de otro, o si tus clientes internacionales reciben respuestas moralmente calibradas para Silicon Valley.
El estudio llega en un momento en el que la UE debatiendo regulación, Trump presionando por «seguridad nacional» en IA y las empresas compitiendo por sacar la siguiente versión antes que la rivala. En ese escenario, la due diligence de derechos humanos que pide el Oversight Board suena a lujo que el mercado no va a adoptar por iniciativa propia. Va a necesitar presión externa, y mientras tanto quien despliega chatbots en producción asume un riesgo que casi nadie está cuantificando.
En mi experiencia, la mayoría de integraciones de chatbot en webs de pymes son cosmeticas: un botón flotante que responde tres preguntas y escala a email. Pero cada vez veo más proyectos ambiciosos — generación de contenido, soporte técnico complejo, asistentes para equipos de ventas. Ahí es donde estas asimetrías dejan de ser curiosidad académica y pasan a ser problema operativo.
¿Montarías un chatbot en tu web sabiendo que puede negarse a generar crítica sobre ciertos gobiernos pero no sobre otros, sin que nadie te explique por qué ni quién decidió esas reglas?
Fuentes
- AI chatbots more likely to criticise Western leaders than authoritarian ones, study finds (Euronews)
- Large language models often prioritize Western moral values, overlooking other cultures (The Conversation)
- ChatGPT y otros modelos de IA reproducen prejuicios culturales y de género: Nitesh Shawla (Comentario del Día)