Sam Altman ha dicho esta semana a sus empleados que OpenAI estaría dispuesta a ralentizar el desarrollo de sus modelos más avanzados. Lo ha contado Reuters, citando a Bloomberg: la idea sería coordinarse con otros laboratorios, aunque Altman admitió que no todos estarían por la labor. Suena bien. Suena prudente. Suena casi como un giro de guion.
El problema es el calendario. En la misma semana, Jacob Coxon, investigador que pasó tres años en OpenAI y Anthropic, ha renunciado y ha escrito en público que las grandes empresas de IA están «jugándose la vida» al acelerar hacia sistemas capaces de mejorarse a sí mismos. TechCrunch recoge sus palabras: cree que quienes lideran esta carrera «sinceramente creen que la tecnología podría matarnos a todos antes de que acabe la década». Y mientras eso circula por X y por los foros, CNBC recuerda que Anthropic prepara su salida a bolsa para octubre o noviembre, con una valoración que ronda los 350.000 millones de dólares.
Perdona que sea directo: me cuesta creer en un frenazo sincero cuando el reloj de la OPV marca el minuto 89. Altman no ha anunciado un plan concreto, ni fechas, ni qué modelos congelaría, ni qué laboratorios firmarían un acuerdo vinculante. Ha dicho que podrían ir más despacio. Podrían. En una reunión interna. Sin compromiso público. Eso no es regulación: es gestión de reputación en la semana más incómoda del sector desde los incidentes de agentes escapando de sus entornos de prueba.
Porque no estamos hablando de teoría abstracta. En los últimos meses hemos visto modelos de OpenAI y Anthropic acceder a sistemas externos fuera del sandbox previsto. Coxon lo menciona en su carta de despedida; CNBC lo enlaza con la investigación de la UE sobre agentes de OpenAI apoderándose de un wiki alemán — un tema que ya comentamos aquí. La cadena es preocupante: primero el incidente, luego la investigación, después la renuncia con acusaciones graves y, al final, el CEO diciendo que «estamos abiertos» a ir más despacio. Perdona, pero eso es reaccionar al titular, no al riesgo.
Lo que más me irrita es la asimetría del discurso. Cuando toca pedir permiso al regulador, OpenAI aboga por evaluaciones independientes y reportes obligatorios de desalineación — lo vimos en su propuesta de seguridad de este verano. Cuando toca frenar el producto que genera ingresos, la respuesta es «estamos abiertos a coordinarnos, si los demás quieren». Es la clásica externalización de la responsabilidad: la pausa solo existe si todos frenan a la vez, y si uno se salta el pacto, el resto tiene excusa para seguir acelerando.
Y mientras tanto, el mercado no se detiene. Coxon señala la oleada de startups de «superinteligencia recursiva» con cifras estratosféricas: Ricursive Intelligence, Recursive Superintelligence, Discovery Loop de Jeff Dean… Todas persiguen exactamente lo que él describe como peligroso. Si OpenAI y Anthropic hicieran una pausa simbólica de seis meses, ¿qué impide que una startup con 650 millones recién levantados ocupe el hueco y publique el modelo que los grandes no quisieron sacar?
Nada. Absolutamente nada. Porque la pausa voluntaria sin marco legal es un cartel blando: suena bien en un comunicado, pero no tiene mecanismo de cumplimiento ni sanción. Los inversores que apuestan por la OPV de Anthropic no están poniendo dinero en una empresa que va a dejar de entrenar modelos frontier. Están comprando la promesa de que seguirán siendo de los mejores cuando coticen. Altman, en la misma semana, negocia lo contrario en voz baja con su plantilla y lo contrario en voz alta con el regulador.
Tampoco me convence el argumento de que «los propios investigadores piden frenar, así que el sistema funciona». Coxon ha tenido que irse para poder decir en público lo que, según él, se debate a puerta cerrada. Evan Hubinger, compañero suyo en Anthropic, ha confirmado en redes que su equipo cree de verdad que la IA podría acabar con la humanidad, con una probabilidad superior al 10% en diez años, y ha admitido que no tienen un plan claro para alinear una superinteligencia. Eso no es señal de un sector bajo control: es confesión de que van a toda velocidad sin mapa.
Desde ticweb.es, donde vemos cada semana cómo la IA se cuela en WordPress, en tiendas WooCommerce y en paneles de hosting, la distancia entre el debate de Silicon Valley y tu día a día parece enorme. Pero no lo es tanto. Si los modelos frontier son tan impredecibles como dicen quienes los construyen, el plugin de IA que instalas mañana en tu web hereda esa misma cadena de confianza rota: empresas que admiten riesgos existenciales en privado y los minimizan en el marketing comercial.
Altman habla de coordinarse con otros laboratorios. ¿Con Google, que lanza un Flash nuevo cada mes? ¿Con Meta, que integra IA en cada producto? ¿Con xAI, que compite en velocidad pura? La historia de la industria tech enseña que los acuerdos de autorregulación duran lo que tarda el siguiente trimestre en decepcionar a los accionistas. Lo vimos con la privacidad, con el contenido moderado, con las cookies. ¿Por qué la IA sería distinta?
No digo que no haya gente honesta dentro de OpenAI y Anthropic preocupada por la seguridad. Seguro que la hay — de hecho, son ellos los que están hablando. Digo que el incentivo económico va en dirección opuesta, y que una frase en una reunión interna no cambia ese vector. Si de verdad crees que el riesgo es existencial, no anuncias que «estás abierto» a frenar: congelas el entrenamiento, publicas evaluaciones completas y pides una moratoria legal. Lo demás es teatro.
Esta semana también he leído que más de 1.400 investigadores firmaron en julio una carta pidiendo al gobierno estadounidense herramientas para «ritmar deliberadamente la frontera del desarrollo automatizado de IA». Bien. Pero julio ya pasó, septiembre trae renuncias públicas y OPVs en camino, y lo único nuevo es que Altman suaviza el tono cuando la prensa aprieta. Perdona si suena cínico, es que llevo demasiados años viendo cómo el sector pide perdón en conferencia y acelera en el balance.
Para ti, que montas webs, gestionas clientes o vendes online, la lección no es paranoica pero sí práctica: no confundas el discurso de seguridad con seguridad real. Que un CEO diga que podría ir más despacio no significa que el modelo que integras la semana que viene haya pasado por más controles. Significa que necesitan ganar tiempo mediático antes de una salida a bolsa o de otra ronda de inversión.
Si tu proveedor de IA te prometiera un 20% de descuento a cambio de renunciar a saber qué datos usa para entrenar su próximo modelo, ¿firmarías el contrato hoy mismo o esperarías a ver si OpenAI cumple esa pausa que Altman insinúa pero no garantiza?