El lunes 1 de junio Florida presentó la primera demanda estatal contra OpenAI y Sam Altman. Ochenta y tres páginas, acusaciones de engaño comercial, menores expuestos, autolesiones, violencia y un CEO al que quieren hacer personalmente responsable. Si solo lees el comunicado del fiscal James Uthmeier, parece el momento en que por fin alguien pone orden en el circo de la IA generativa.
Yo no me lo creo tan fácil. No porque defienda a OpenAI — de hecho, llevo meses diciendo que el discurso de «seguridad primero» choca con el ritmo de lanzamientos cada seis semanas — sino porque esta demanda me suena a titular electoral más que a marco útil para quien monta productos con IA en España.
Florida acusa a la empresa de priorizar velocidad de mercado y beneficios sobre la seguridad de los usuarios. El escrito habla de una «red de engaños», de ChatGPT que «simula compasión humana» para captar datos de menores sin supervisión parental, de usuarios a los que se les erosiona el pensamiento crítico. Según CNBC, la fiscalía busca responsabilidad personal de Altman por su «utter disregard for the risk to human life». Multas que podrían llegar a miles de millones, según recoge The Conversation.
¿Suena fuerte? Claro. ¿Resuelve algo para tu negocio? Ahí es donde se desmonta el relato.
Lo primero que me choca es el timing político. Florida no descubrió ayer que ChatGPT puede dar respuestas peligrosas; llevan meses con investigaciones criminales y debates sobre una «Carta de Derechos de la IA» estatal. La demanda llega la misma semana en que OpenAI anuncia GPT-5.5 Instant prometiendo menos alucinaciones y más precisión en medicina, derecho y finanzas, según recogen medios como Ámbito. Coincidencia incómoda: el fiscal ataca el producto mientras la empresa vende la versión «más segura de la historia». Eso no es regulación; es boxeo mediático.
Segundo problema: el enfoque es casi exclusivamente consumer y sensacionalista. El documento conecta ChatGPT con tiroteos masivos, suicidios y adicción cognitiva en menores. Son claims graves — y posiblemente ciertos en casos concretos — pero el texto legal, según el análisis de The Conversation, también apoya parte del caso en la «sycophancy» del modelo: que ChatGPT dice «sí» unas diez veces más que «no» y valida al usuario aunque esté equivocado. Eso es un fallo de diseño real, lo he visto en consultorías donde clientes tomaban decisiones de compra basadas en respuestas demasiado complacientes. Pero mezclarlo con crimen violento y responsabilidad personal del CEO convierte un debate técnico sobre alineamiento en un juicio de opinion pública.
Tercero, y esto es lo que más me preocupa si trabajas en tech en Europa: Florida apuesta por litigio estatal mientras Washington sigue sin marco federal claro. Ya van más de 1.500 iniciativas estatales sobre IA solo en 2026, según ABC News. Cada estado con su criterio, cada fiscal general con su agenda. Para una pyme española que usa la API de OpenAI para atención al cliente o generación de contenidos, esto no aclara nada: no sabes si el proveedor que contratas mañana estará bloqueado en un mercado, obligado a cambiar términos o simplemente más caro porque reparte el coste legal entre clientes.
Mientras tanto, aquí tenemos la ley española de buen uso de la IA aprobada en Consejo de Ministros, multas de hasta 35 millones y prohibición de deepfakes sexuales — un marco distinto, más administrativo, menos teatral. El contraste es brutal: en EE.UU. demandas espectaculares; en la UE, trámites, AESIA y plazos que se alargan con el Digital Omnibus. Ninguno de los dos enfoques responde a la pregunta que me hacen cada semana: «¿puedo integrar ChatGPT en mi web sin que mañana me caiga una multa o un juicio?»
OpenAI, por su parte, seguramente apelará a la preemption federal y a la libertad de expresión tecnológica. Altman ya ha jugado esa carta antes. Lo que no veo en ningún bando es transparencia operativa para integradores: logs de seguridad auditables, SLAs sobre tasas de alucinación por vertical, responsabilidad clara cuando el modelo incumple lo prometido en la documentación comercial. Eso sí te importaría si vendes con un chatbot que recomienda productos farmacéuticos o da consejos fiscales.
Tampoco me convence que la solución pase por hacer personalmente responsable al CEO. Suena satisfactorio, pero establece un precedente raro: si mañana un modelo open source fine-tuneado en un servidor tuyo causa un daño, ¿a quién demandas? Al creador del peso base, al que hizo el fine-tuning, al hosting que lo sirve, al integrador que lo embebe en la web? Florida elige un villano reconocible para las portadas. El ecosistema real es más sucio y distribuido.
Lo que sí me parece útil del caso — y casi de rebote — es que obliga a hablar en serio de menores, consentimiento y diseño adictivo en interfaces conversacionales. Si tienes una web con widget de IA, revisa si pides edad, si guardas historial, si el bot puede dar consejos médicos o legales sin disclaimer. Eso no te lo dice la demanda de Florida, pero es lo único accionable hoy.
En resumen: la demanda es noticia gorda, primer precedente estatal de este calibre, y probablemente abra la puerta a más acciones similares en California, Texas o Colorado. Pero no confundas ruido con regulación sensata. Es un martillo buscando un clavo mediático mientras tu stack sigue igual de expuesto: APIs sin garantías, términos de servicio que cambian cada trimestre y un mercado que premia el launch notes sobre el post-mortem.
Si mañana tu proveedor de IA te pidiera firmar un anexo donde aceptas que el modelo puede validarte respuestas peligrosas y que la responsabilidad civil recae en tu empresa — no en la suya —, pero a cambio te baja la tarifa un 40%, lo firmarias sabiendo lo que Florida le está reclamando a OpenAI?