Esta semana, en el espacio Filtro COPE de COPE Euskadi, han dejado una frase que me ha resonado: ya no basta con mirar una foto o un vídeo y decir «esto parece real». En apenas un año, generar imágenes, voces clonadas o vídeos sintéticos ha pasado de ser cosa de especialistas a algo que cualquier usuario puede hacer en segundos. Si gestionas una web, una tienda online o simplemente la comunicación de una pyme, el problema no es abstracto: es reputación, confianza y, en muchos casos, legal.
Te cuento qué implica esto en la práctica y qué puedes hacer desde tu lado antes de que el próximo bulo te pille desprevenido.
Por qué el ojo humano ya no alcanza
En el análisis de COPE insisten en que la desinformación ha evolucionado: de fotos sacadas de contexto a contenidos completamente fabricados. Las herramientas mejoran tan rápido que los defectos obvios (manos raras, parpadeos imposibles) van desapareciendo. Eloísa Santiago, en ese mismo programa, propone cambiar el hábito: comprobar origen, fecha y si otros medios independientes confirman la misma información.
Para quien publica en internet, la lección es incómoda: tu audiencia ya no puede confiar en lo que ve, y tampoco deberías confiar tú a ciegas en un UGC (contenido de usuario) que te llega por email o WhatsApp para colgarlo en el blog «porque mola».
Qué dice Europa (y qué no resuelve)
El Reglamento europeo de IA, en su artículo 50 —recogido con claridad en la ficha de la AESIA— obliga a marcar contenidos generados o manipulados con IA, a facilitar mecanismos de detección y a informar cuando interactúas con un sistema automatizado. Suena bien en un informe, pero en el día a día hay un hueco: la norma empuja a proveedores e implementadores, no te impide que alguien clone la voz de tu CEO y la cuelgue en Telegram.
En mi experiencia, las pymes oyen «obligación de etiquetar» y piensan en Instagram o en la tele. Se olvidan de los sitios propios: landings, noticias corporativas, testimonios en vídeo, reseñas importadas de marketplaces. Ahí es donde más duele una falsificación creíble.
Checklist que sí puedes aplicar en tu web
- Política de publicación clara: define qué entra en el blog o en la home (solo material con autor identificado, fecha y fuente verificable).
- Metadatos y procedencia: conserva originales de fotos y vídeos de campaña; si mañana hay duda, el archivo del dispositivo pesa más que un MP4 reenviado veinte veces.
- Formación mínima al equipo: quien redacta o diseña debe conocer señales de alerta (audio demasiado limpio, gestos desincronizados, ausencia de ruido ambiente en exteriores). COPE resume bien la actitud: desconfía sobre todo de lo que llega por mensajería instantánea.
- Transparencia proactiva: si usas IA para generar imágenes de producto o textos, dilo. No es debilidad; es alinearte con lo que pide la regulación y ganar credibilidad.
- Plan de respuesta: ten un contacto y un procedimiento si aparece un deepfake con tu marca. Borrar el post no es plan; documentar, denunciar y comunicar sí lo es.
Herramientas: expectativas realistas
Existen detectores y marcas de agua en modelos comerciales, pero ninguno es infalible. La AESIA menciona marcas de agua, metadatos y métodos criptográficos, y advierte de que deben ser fiables e interoperables en un mercado que cambia cada trimestre. No sustituyas tu criterio editorial por un bot que te diga «probablemente falso».
Lo que sí recomiendo es combinar verificación humana (origen + contexto + cruce de fuentes) con reglas técnicas en tu CMS: no permitir subidas anónimas, exigir campos de autoría en medios, revisar integraciones que importen contenido externo automáticamente.
Si vendes online, el riesgo es doble
Una reseña falsa en vídeo puede hundir conversión; un anuncio con producto generado por IA sin aviso puede acabar en reclamación. WooCommerce, Shopify o el marketplace que uses no van a distinguir por ti un clip sintético de uno real. La diligencia es tuya.
Piensa también en accesibilidad y lenguaje claro: si marcas contenido como generado por IA, hazlo en un lenguaje que entienda cualquier cliente, no en letra pequeña legalista que nadie lee.
Fuentes
- FILTRO COPE: La inteligencia artificial complica cada día más la detección de noticias falsas
- Reglamento europeo de inteligencia artificial: artículo 50 (AESIA)
Si mañana un cliente te pide colgar «un vídeo que le han mandado» sobre tu sector y no puedes rastrear quién lo grabó, lo publicas tal cual o lo rechazas aunque pierdas visibilidad a corto plazo?