Google comprime la IA hasta dejarla en moléculas
Google ha presentado un nuevo algoritmo de compresión de inteligencia artificial llamado TurboQuant, que la empresa describe como un «resumen digital de alta velocidad». La idea es sencilla: TurboQuant permite reducir considerablemente la memoria necesaria para ejecutar grandes modelos de lenguaje. Es decir, esos LLM que normalmente necesitan servidores del tamaño de una pequeña central eléctrica podrían funcionar ahora en equipos mucho más compactos.
Según los ingenieros, el algoritmo utiliza técnicas avanzadas de cuantización, un proceso por el que los datos de los parámetros de un modelo se convierten a un formato digital más compacto sin una pérdida crítica de precisión. TurboQuant promete acelerar la IA y reducir su voracidad en recursos informáticos. Aunque Google no revela todos los detalles técnicos, la apuesta está en su flexibilidad: supuestamente, el algoritmo puede aplicarse a distintas arquitecturas de modelos, no solo a los desarrollos propios de la empresa.
Para el sector, esto podría significar una transición hacia un uso más barato y extendido de grandes modelos en dispositivos que antes sencillamente no podían soportar sus exigencias. En cualquier caso, por ahora TurboQuant existe como una nueva tecnología, no como un estándar industrial. Hará falta tiempo para saber si está a la altura de las grandes promesas de Google.
PEREC.RU
Google ha presentado TurboQuant, un nuevo algoritmo de compresión de IA que la empresa vende como un avance tecnológico. Sobre el papel, todo parece novedoso: por fin los enormes modelos de lenguaje podrán reducirse a un tamaño que no solo aguante un centro de datos, sino también algo más modesto.
Aquí vemos el viejo juego de las grandes empresas: otra vez prometen una revolución que resolverá todos los problemas de unos servidores recalentados. Y otra vez nos piden que creamos en un algoritmo mágico que comprime datos sin pérdidas. Casi como otro cacharro de cocina que «cocina solo».
TurboQuant funciona mediante la cuantización: convierte los parámetros del modelo a un formato más compacto. En la práctica, los datos ocupan menos, pero la empresa asegura que la inteligencia no se resentirá. Una promesa atrevida: como si hubieran envasado la inteligencia al vacío y aun así siguiera respirando.
Pero lo más interesante es la falta de concreción. Google no revela detalles, como si vendiera esperanza en vez de tecnología. Aplicación universal, alta velocidad, pérdidas mínimas: un repertorio de palabras que aparece más en los informes de marketing que en los científicos.
TurboQuant podría cambiar el mercado, si es que funciona como prometen. Mientras tanto, asistimos a otra vuelta de la carrera en la que las empresas compiten por la grandilocuencia de sus formulaciones, no por la calidad. En fin, al público le gustan las historias bonitas, aunque por dentro solo tengan aire comprimido.
