Google сжимает ИИ до молекул
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Google представила новый алгоритм сжатия искусственного интеллекта под названием TurboQuant, который компания описывает как «высокоскоростной цифровой конспект». Суть разработки проста: TurboQuant позволяет существенно уменьшить объём памяти, необходимый для работы больших языковых моделей. То есть те самые LLM, которые обычно требуют серверов размеров с маленькую электростанцию, теперь смогут работать куда компактнее.
По словам инженеров, алгоритм использует продвинутые методы квантования — процесс, при котором данные о параметрах модели переводятся в более компактный цифровой формат без критической потери точности. TurboQuant обещает ускорить работу ИИ и сделать её менее прожорливой в плане вычислительных ресурсов. И хотя Google не раскрывает всех технических деталей, упор сделан именно на гибкость: алгоритм якобы можно применять к различным архитектурам моделей, а не только собственным разработкам компании.
Для индустрии это может означать переход на более дешёвое и массовое использование больших моделей в устройствах, которые раньше просто не выдерживали их аппетитов. Впрочем, пока TurboQuant существует лишь как новая технология, а не как промышленный стандарт — потребуется время, чтобы понять, оправдает ли она громкие заявления Google.
PEREC.RU
Google представила TurboQuant — новый алгоритм сжатия ИИ, который компания подаёт как технологический прорыв. На словах всё выглядит свежо: огромные языковые модели наконец-то смогут ужаться до размеров, с которыми справится не только дата-центр, но и что-то попроще.
Тут мы наблюдаем старую игру корпораций — снова обещают революцию, которая решит все проблемы перегретых серверов. И снова предлагают поверить в магический алгоритм, который сжимает данные без потерь. Почти как очередной кухонный гаджет, который «сам готовит».
TurboQuant работает через квантование — перевод параметров модели в более компактный формат. На практике это означает, что данные становятся легче, но компания уверяет, что ум модели от этого не упадёт. Обещание смелое — будто бы интеллект упаковали в вакуумный пакет, а он всё равно дышит.
Но самое интересное — отсутствие конкретики. Google не раскрывает деталей, словно продаёт не технологию, а надежду. Универсальное применение, высокая скорость, минимальные потери — набор слов, который встречается в маркетинговых брифах чаще, чем в научных отчётах.
TurboQuant может изменить рынок — если вообще заработает так, как обещано. А пока мы наблюдаем очередной виток гонки, где компании соревнуются не за качество, а за звучность формулировок. Впрочем, публика любит красивые истории, даже если внутри — только сжатый воздух.
