Esta semana, mientras media industria comentaba la Cumbre de Seguridad de Gartner en Londres, me quedé con una cifra que no encaja con lo que veo en pymes y agencias: cuatro de cada diez CISO reconocen que, en el último año, han tenido al menos un incidente de ingeniería social con deepfake en una llamada de audio, y otro 36% en videollamada. No es el clásico correo mal escrito. Es la voz del jefe, o del proveedor de confianza, pidiendo que muevas dinero o que resetees accesos.
En ticweb movemos muchos proyectos WordPress, integraciones con APIs y cada vez más chatbots y asistentes conectados al CRM. Y te soy sincero: casi nadie ha actualizado el playbook de “desconfía del enlace raro” para cubrir “desconfía del audio perfecto”. Seguimos comprando formación genérica de phishing mientras los atacantes combinan correo, voz sintética y contexto robado de LinkedIn en la misma cadena.
Gartner no está diciendo que el email haya muerto. Lo que dice es que la IA sube el volumen, personaliza el timo y erosiona las señales que enseñamos a los empleados durante años. El informe que recogió IT User sobre la misma línea de análisis ya apuntaba otro dato incómodo: el 62% de organizaciones encuestadas habían sufrido un ataque deepfake ligado a ingeniería social, y casi un tercio un ataque directo contra aplicaciones de IA en producción. No es futuro lejano; es el inventario que tendrías que tener hoy en una hoja de cálculo y casi seguro no tienes.
Lo que me irrita de la conversación pública es el optimismo tonto del “endurecemos el modelo y listo”. Simon Willison lleva meses hablando de la trilogía letal en agentes: contenido externo no fiable, acceso a datos privados y capacidad de actuar hacia fuera. La Nación lo resume bien: en cuanto mezclas las tres cosas en un copilot o un agente con permisos reales, la amabilidad del asistente se convierte en superficie de ataque. Microsoft parcheó un caso en Copilot; el siguiente no llevará logo de Redmond y lo desplegará tu departamento comercial un viernes por la tarde.
Gartner empuja otro mensaje que choca con cómo venden las consultoras: gobernanza uniforme para todos los agentes es receta para el fracaso. O los bloqueas de más y aparece shadow AI, o confías de más en agentes autónomos y el incidente escala antes de que alguien pulse pausa. En la misma cumbre se hablaba de que, de aquí a 2028, el abuso de agentes sin gobernanza podría explicar una parte muy seria de las brechas enterprise. Yo no tatúo predicciones de analistas en la frente, pero encaja con lo que ya vemos: tokens con permisos amplios, webhooks sin revisar y “solo es una prueba en producción”.
Desde el lado técnico web, el problema no es solo SOC. Es flujo de negocio. Si tu tienda WooCommerce permite cambios de cuenta bancaria con un ticket en Slack, o si tu WordPress multisite concede admin tras un mensaje en Teams, el deepfake no necesita hackear nginx: necesita convencer a alguien con permisos. Globant, en su análisis sobre seguridad en IA generativa y agéntica, insiste en capas: inyección de prompts, fuga de datos, desinformación creíble. Todo eso aplica también cuando el “usuario” es un empleado frente a un auricular.
¿Qué haría distinto mañana por la mañana? Tres cosas concretas, sin PowerPoint infinito.
Primero, verificación obligatoria fuera de banda para cualquier petición con dinero, credenciales o datos personales. No “si tienes dudas”. Regla: si llega por voz, video o chat, se confirma por canal distinto ya acordado, con frase de seguridad o callback a número fijo. Gartner lo enmarca como evolucionar de “detecta el fake” a “verifica lo importante”. Me parece lo único realista cuando el fake suena perfecto.
Segundo, inventario de IA con dueño y nivel de autonomía. No me vale “usamos ChatGPT”. Quiero saber qué agente toca qué API, qué datos lee y si puede ejecutar acciones. Sin eso, hablar de zero trust es postureo. El 67% de líderes de ciberseguridad ya dice que hace falta cambiar enfoque de forma significativa por GenAI; el gap está en ejecutar, no en estar de acuerdo.
Tercero, unir señales: reportes de suplantación, recuperaciones de cuenta, nuevos dispositivos y pagos en la misma ventana temporal. Si tu SIEM no correlaciona eso, el deepfake gana tiempo.
No voy a venderte miedo gratuito. Pero me niego a repetir el error de 2015, cuando las pymes tardaron años en asumir que el ransomware era su problema. La IA en ataques ya lo es. La pregunta no es si tu equipo “es listo”, sino si tus procesos de aprobación siguen diseñados para un mundo donde el enlace malo era la prueba principal.
Si mañana te llega una videollamada impecable del director financiero pidiendo adelantar un pago a un proveedor nuevo, pero tu política solo exige doble firma cuando la petición viene por email, ¿bloqueas el pago aunque la voz sea indistinguible de la real, o cambias la regla de negocio de una vez?