Google ha anunciado hoy que los desarrolladores pueden acceder a LiteRT-LM, el motor que ya mueve Gemini Nano dentro de Chrome, Chromebook Plus y el Pixel Watch. Suena a democratización: IA en el dispositivo, sin factura de API, sin depender de un datacenter en Virginia. En mi experiencia, cuando un gigante te regala el motor de inferencia justo después de reimaginar Chrome entero con Gemini, conviene mirar qué parte del trato queda fuera del comunicado.
La apuesta es clara. El navegador deja de ser solo un visor de HTML y pasa a ser una plataforma de IA local: resúmenes entre pestañas, sugerencias contextuales, tareas agenticas desde la barra de direcciones. LiteRT-LM cierra el círculo porque permite pipelines C++ personalizados encima del mismo runtime que ya despliegan a cientos de millones de dispositivos. Para una pyme que monta un SaaS, la tentación es obvia: ¿por qué pagar tokens en la nube si el cliente ya trae el modelo en el bolsillo?
Ahí empieza lo que a mí no me cuadra del todo. La inferencia on-device no es gratis; solo cambia quién paga. Pagas con batería, con RAM que tu web compite con el resto de pestañas, con soporte cuando el portátil del usuario tiene ocho gigas y medio están ocupados por el propio Chrome. Google externaliza el coste operativo hacia el hardware del cliente y hacia ti, que tendrás que probar en una matriz de GPUs integradas, Chromebooks baratos y móviles de gama media. En la nube al menos el proveedor asume la elasticidad; aquí la asumes tú en tickets de «en mi Mac va fino».
Tampoco es neutral en soberanía de datos. Sí, el modelo corre localmente y eso calma al DPO en la reunión inicial. Pero el ecosistema sigue siendo el de Google: APIs propietarias, actualizaciones empujadas con el canal estable de Chrome, términos que pueden cambiar cuando decidan monetizar funciones premium. Abrir LiteRT-LM no convierte a Chrome en un runtime abierto al estilo Linux; es abrir la cocina mientras ellos siguen siendo quienes controlan el menú y la sala.
Para quien vive del tráfico orgánico —hosting, SEO, contenidos— hay otra capa incómoda. Si Gemini resume tus artículos sin que el usuario visite la página, el click deja de ser la unidad de valor. Google ya vende AI Mode en la omnibox; meter Nano en el cliente refuerza el mismo patrón: la respuesta antes que la URL. No digo que mañana desaparezca el SEO, pero sí que otro intermediario se queda con la atención mientras tú sigues pagando CDN y redactores.
Desde el lado técnico, el discurso de «menos latencia, más privacidad» es real en escenarios concretos: autocompletar en un formulario interno, clasificar tickets sin subir texto a terceros, asistir en un CRM offline-first. Ahí LiteRT-LM puede ahorrar dinero y cumplir RGPD con menos drama. El error sería plantearlo como sustituto universal del backend de IA. Los modelos locales siguen siendo más pequeños, menos actualizados y más difíciles de auditar que un endpoint versionado en tu VPC. Cuando necesitas RAG sobre documentos cambiantes o tool-use complejo, volverás a la nube —solo que ahora habrás invertido semanas integrando una vía que no escala igual.
Comparemos con la ola ALIA en España, otro titular de septiembre: infraestructura pública, modelos abiertos, supercomputación en MareNostrum. Suena más alineado con soberanía europea, pero el debate de Common Crawl y los derechos de autor demuestra que «público» no significa «sin fricciones legales». En ambos frentes —Google empujando Nano al borde y el Estado prometiendo modelos en español— el mensaje marketing va más rápido que el marco en el que una agencia o una tienda online puede apoyarse sin miedo.
¿Qué haría yo si me pidieran una hoja de ruta mañana? Separaría casos: IA local solo para tareas repetitivas, de bajo riesgo y con datos que no pueden salir del dispositivo; cloud para todo lo demás. Exigiría fallback explícito cuando el hardware no cumple requisitos mínimos —y documentarlo en la web, no esconderlo en un FAQ de diez páginas. Y no sustituiría la observabilidad: si el modelo vive en el cliente, necesitas telemetría agregada (con consentimiento) para saber dónde se cae la experiencia.
LiteRT-LM es una pieza interesante para equipos con capacidad C++ y producto propio en el navegador. Para el resto —WordPress, WooCommerce, landings que ya cuestan mantener— es otra promesa de «integra IA ya» que puede convertirse en deuda si la adoptas porque está de moda, no porque resuelva un cuello de botella medible.
Si mañana Chrome desactivara las APIs on-device en mercados donde no hay acuerdo regulatorio, ¿seguirías teniendo un producto viable o habrías apostado todo el flujo de asistencia al usuario a una función experimental?