Si usas modelos de lenguaje para redactar, atender clientes o automatizar flujos en la web, seguramente ya conoces el discurso de “la IA es neutral”. Yo te digo otra cosa: la neutralidad es una promesa cómoda y los papers y la prensa especializada llevan tiempo mostrando lo contrario. Cuando un sistema se entrena con corpus desigual y con una visión del mundo mayoritariamente occidental, anglófona y estandarizada, termina reflejando y a veces amplificando prejuicios culturales. No es magia ni maldad: son datos, arquitecturas y decisiones de diseño.
Qué están midiendo los estudios
Una línea de investigación que encuentro útil es la que mide el perfil psicológico de ChatGPT y cómo se comporta cuando el propio modelo “simula” personas de distintos orígenes culturales en tareas de decisión. El trabajo publicado en arXiv sobre el perfil psicológico de alta dimensión y el sesgo cultural de ChatGPT muestra diferencias marcadas respecto a normas humanas y describe estereotipos culturales en varias tareas, con sesgos claros cuando entra el juego de la negociación o el castigo a terceros. No hace falta ser sociólogo para entender por qué importa si integras ese tipo de modelo en chatbots públicos.
En paralelo, la evidencia también va hacia cómo cuentas historias o representa identidades cuando el modelo no tiene suficiente contexto local. Papers recientes ponen números a “malrepresentaciones culturales” en narrativa generada, con tasas muy altas de errores cuando se fuerza variedad lingüística y regional. Yo lo interpreto así: donde hay menos datos de calidad sobre una cultura, el modelo improvisa clichés porque su objetivo es sonar plausible, no necesariamente veraz en un sentido ético riguroso.
Otro trabajo en Nature Communications, centrado en relatos abiertos y contextos estadounidenses, documenta cómo ciertos modelos tienden más a omitir personajes asociados a identidades racializadas de minorías frente a lo que sugieren fuentes poblacionales, o a relegarlos a papeles subordinados y estereotipados cuando sí aparecen. No estamos hablando de un fallo puntual del prompt es un patrón repetido cuando amplías muestra. Para quien monta contenidos automatizados en una web grande, es la diferencia entre publicar tres variantes benignas de un blog y estar escalfando décadas de clichés cinematográficos en texto plano.
La prensa en español ha recogido el hilo desde el ángulo de género y prejuicios —en medios digitales también en Latinoamérica— y es coherente con informes norteamericanos sobre estereotipos en texto generado. Si te gusta el detalle técnico, vale la pena leer tanto el trabajo académico como la cobertura periodística porque el tono cambia pero el mensaje base se parece.
No se trata de que “la IA odie” a alguien, sino de que la estadística del lenguaje que ha absorbido lleva cargas históricas enormes y el ajuste con refuerzo humano no corrige todos los sesgos sutiles cuando el tema es cultura amplia no solo vocabulario ofensivo o violencia explícita.
Qué puedes hacer en proyectos reales
En mi experiencia con pymes y sitios web, lo que funciona no es prohibir la IA sino tratarla como un redactor junior con agenda oculta. Algunas medidas te las puedes llevar hoy mismo:
- Revisa siempre textos que vayan a segmentos multiculturales o que nombren identidades concretas. Si no tendrías a un becario publicando sin supervisión, no lo hagas con un modelo.
- Da contexto explícito de país, norma social y tono deseado. Si pides “neutral” sin más, el modelo suele caer en un inglés mental estadounidense traducido al castellano.
- Evita la confianza ciega en plantillas de atención al cliente: un sesgo cultural en la respuesta puede costarte una reclamación o una mala reseña en cinco minutos.
- Documenta qué modelo y versión usaste si el contenido es sensible. No es paranoia: es trazabilidad.
Por qué los filtros no lo arreglan todo
Los sistemas de seguridad bloquean mucha toxicidad directa, pero los sesgos culturales suelen colarse en formulaciones suaves, suposiciones sobre familia, trabajo, religión o roles de género. Ahí el modelo no dispara alarma y tú te quedas con un texto “edulcorado” que sigue siendo excluyente. Por eso me parece más honesto admitir límites que vender una IA “sin prejuicios”.
Leo noticias y divulgación que insiste en este mensaje y creo que acierta en el matiz técnico: no basta cambiar el prompt una vez hay que combinar revisión humana, diversidad en el equipo que valida y, cuando puedas, pruebas con usuarios reales. Si tu agencia vende “contenido con IA” como si fuera un PDF cerrado, tarde o temprano alguien te pedirá explicaciones por un matiz que el cliente percibe como despectivo aunque el modelo haya pasado el filtro de seguridad.
Al final lo que cambia el producto no es el modelo en sí sino cómo decides usarlo. Si aceptas que reproduce patrones culturales aprendidos sin pedirles magia antisesgo gratis, puedes diseñar flujos de trabajo más justos sin renunciar del todo a la productividad. Piensalo en términos de riesgos: ¿qué página te duele más que salga mal, la landing de captación o el correo de soporte nivel dos?
Si después de esta lectura tienes una sola pregunta en la cabeza, que sea operativa:
Si vas a lanzar esta semana un asistente generativo en español para clientes en España y en Latinoamérica, ¿aceptas firmar ante el cliente que una sola capa de “moderación estándar” del proveedor vale como control cultural para ambos mercados, o prefieres presupuestar revisión humana específica aunque eso encarezca la oferta?
Fuentes
- The high dimensional psychological profile and cultural bias of ChatGPT (arXiv)
- Intersectional biases in narratives produced by language models (Nature Communications)
- El País: La IA, una máquina que también aprende prejuicios
- La Tercera: reproducen sesgos de género herramientas como ChatGPT
- Es de Latino sobre sesgos de género en ChatGPT
- Yahoo Noticias (EE.UU.) sobre modelos de IA y prejuicios culturales