Alphabet desata turboquant: la compresión que puede diezmar la factura de la ia
Google no solo entrena modelos más rápidos; ahora también los hace olvidar menos gastando 6 veces menos memoria. Su último truco, TurboQuant, promete multiplicar por ocho la velocidad de inferencia sin perder un solo decimal de precisión. La guerra de costos en IA acaba de estallar y el buscador lleva la artillería pesada.
La cache que se come al competidor
La clave está en el cache KV, ese bloc de notas interno donde la red repasa lo que ya calculó. Cuando crece el contexto —páginas enteras de código, horas de video, conversaciones kilométricas—, el cache se infla y las GPU se ahogan. TurboQuant reduce la huella de memoria hasta un 84 %, lo que deja a los chips de Nvidia mirando al techomientras los TPU internos de Google siguen corriendo.
Matthew Prince, CEO de Cloudflare, lo bautizó en X como el «momento DeepSeek de alphabet». La referencia no es casual: cuando la startup china demostró entrenar modelos sin GPU de última generación, Wall Street tembló. Ahora la propia Google replica la jugada, pero con un ecosistema cerrado de hardware y software que lleva una década madurando.
Silicon valley ya lo había imaginado
La ironía llegó en forma de memes: la compresión de TurboQuant huele a Pied Piper, la ficticia start-up de la serie Silicon Valley que revolucionaba la compressión de datos. En la ficción, el gigante Hooli (una parodia de Google) intentaba robarles el algoritmo. En la vida real, Google lo acaba de anunciar en un paper técnico y nadie podrá copiarlo sin caer en un laberinto de patentes.
Los números son tozudos. El 70 % del coste operativo de un gran modelo hoy es memoria y energía. Recortar un 84 % de la primera variable y duplicar la velocidad equivale a descontar de golpe casi 30 céntimos de cada euro que el competidor aún no ha facturado. A escala planetaria, la diferencia se traduce en billones de consultas anuales que ahora costarán centavos en lugar de dólares.
La cuenta de resultados se reescribe antes del despliegue
TurboQuant aún no está en producción, pero los desarrolladores de Gemini ya lo están probando internamente. Fuentes próximas al equipo de Broadcom —socio de Google en el diseño de los TPU— confirman que la próxima generación de chips, prevista para 2025, incluye instrucciones hardware dedicadas a este esquema de compresión. El mensaje es claro: cuando el algoritmo se active, no habrá parche rápido para el resto del sector.
El mercado reaccionó con moderación: +1,8 % en la sesión tras la publicación del paper. Pocos inversores leyeron las 22 páginas de ecuaciones; los que sí lo hicieron compraron call options a 90 días. La apuesta es simple: cuando Google despliegue TurboQuant en su nube, el precio por token de Gemini caerá y la demanda explotará. Historia repetida: cuando reduces el coste marginal, el volumen se dispara.
La partida ya no es quién tiene el modelo más grande, sino quién lo sirve más barato sin perder calidad. Alphabet acaba de colocar una losa de plomo sobre la mesa. El resto de la industria tendrá que elegir: inventar una compresión igual de agresiva o pagar el peaje de memoria que Google ya se ha ahorrado. La factura eléctrica de la IA acaba de destrozar a mitad de competidores y ni siquiera han llegado los robots de Pied Piper.