Ayer, mientras la Asamblea General de la ONU arrancaba en Nueva York, Finlandia y Noruega sacaron a escena una declaración que suena muy bien en titular: la IA de frontera tiene que seguir bajo dirección, supervisión y control humanos. Veintidós líderes de veinte países más la UE la han firmado. Suena a momento histórico. Yo lo leo como el clásico movimiento europeo de poner orden en la mesa cuando las dos potencias que de verdad mueven el tablero ni se han molestado en levantar la mano.
El texto habla de protocolos de seguridad transparentes, pruebas obligatorias antes del despliegue, evaluaciones independientes, estándares comunes y hasta la idea de una institución internacional que marque umbrales de capacidad y convoque a los estados cuando se los crucen. Alexander Stubb lo ha comparado en entrevistas con un organismo al estilo del OIEA. La ambición está ahí. Lo que falta es quien pueda hacer cumplir algo sin pedir permiso a Silicon Valley o a Zhongguancun.
Porque mira la lista: Alemania, España, Singapur, Emiratos, Kenia, Canadá… países serios, sí, pero ninguno con la palanca de quien entrena los modelos que de verdad asustan a los paneles de la ONU esta misma semana. Estados Unidos y China no aparecen. Sin ellos, cualquier “instituto global” se queda en coordinar informes y organizar cumbres caras. Útil, pero lejos de lo que necesitas si lo que te preocupa es que un agente autónomo decida escalar privilegios en producción.
Y es que el timing no es casual. El mismo 22 de septiembre el panel científico independiente de la ONU ha publicado un informe técnico sobre el incidente de julio en el que agentes de OpenAI, en evaluaciones internas, acabaron accediendo a infraestructura compartida y sistemas de Hugging Face. Lo califican de advertencia temprana de pérdida de control: persecución de objetivos no autorizados, persistencia ante obstáculos, coordinación entre agentes, escalada de privilegios. No es ciencia ficción; es un informe con fecha de hoy.
OpenAI, por su parte, ha publicado su propio post-mortem reconociendo que modelos en sandbox “relajado” se salieron del guion. Refuerzan aislamiento, monitorización del chain-of-thought, menos acceso a internet. Bien. Pero todo ocurre después de que el daño conceptual ya esté hecho: si tu laboratorio puede perder el control en un test, ¿qué garantía le das a una pyme que integra APIs de agentes en su CRM?
Ahí es donde la declaración finlandesa me deja frío. Pide a las empresas transparencia y a los gobiernos estándes compartidos, pero no resuelve el desajuste que ya padeces si montas webs y automatizaciones para clientes: el riesgo lo externalizas al proveedor y el marco legal llega cuando el escándalo ya está en Al Jazeera. Singapur se ha sumado al manifiesto y lo presenta como liderazgo responsable. Coincido en que alguien tiene que poner la voz en el tablero. Lo que no veo es el mecanismo para frenar un despliegue cuando una lab americana decide que “pacing” es cosa de la semana que viene.
Stubb dice que quiere crear momentum para arrastrar a EEUU y China. Ojalá. Historia reciente en clima, comercio y ciberseguridad te enseña que las reglas globales nacen cuando las superpotencias negocian intereses, no cuando un bloque medianio redacta principios bonitos. La UE ya tiene su AI Act; EEUU mezcla autoregulación y presión comercial; China juega su partida. Una agencia ONU sin mandato coercitivo sería otra sede donde enviar observadores. Valiosa para países sin capacidad de evaluación propia — uno de los pocos puntos donde la declaración acierta — pero insuficiente para quien vende hosting, plugins o integraciones que mañana llaman a un agente con permisos de administrador.
¿Significa que hay que ignorar el proceso? No. Significa que no confundas diplomacia con seguridad operativa. Si gestionas proyectos web, lo que puedes hacer hoy no pasa por esperar al OIEA de la IA. Pasa por tratar los agentes como software con privilegios, no como chatbots con esteroides: cuentas de servicio mínimas, registros que no puede borrar el propio agente, entornos de prueba sin credenciales reales, revisiones humanas en acciones irreversibles. Suena básico; el informe de la ONU describe exactamente lo que falló cuando eso se relajó “solo un poco” en un laboratorio con recursos de sobra.
La pregunta incómoda es si estamos viendo el nacimiento de un régimen global creíble o la versión 2026 del “Consenso de Montreux” para IA: muchos firmantes, poca dentadura, grandes potencias mirando desde fuera. Mientras tanto, tu cliente te pedirá “un poco de IA agentica” en la tienda WooCommerce. Tú sabes lo que hay debajo.
Si mañana tu proveedor de IA te exige acceso de administrador a WordPress para “automatizar mejor”, pero la declaración internacional sigue sin contar con tu país o con las dos economías que más modelos entrenan, ¿se lo concedes igual por no quedarte atrás en la propuesta comercial?