AMD мини-ПК тянет монстра

Недавно появившийся миниатюрный настольный компьютер на базе процессора AMD смог запустить нейросетевую модель с 397 миллиардами параметров — задача, которую всего год назад могли себе позволить разве что высокобюджетные серверные фермы, набитые самыми мощными видеокартами. Размер этой нейросети сравним с гигантами среди современных искусственных интеллектов: речь идёт об ИИ-системах масштаба GPT-4 от OpenAI или Llama 2 от Meta. Обычно такие модели требуют стойки серверов — с шумом, жаром и потреблением электричества на уровне небольшой деревни, а тут всё поместилось в корпусе размером с хлебницу.

Разумеется, никакой магии тут нет. Трюк реализовали с помощью современных методов оптимизации работы ИИ: снижение точности вычислений, интеллектуальное хранение данных и компрессия. По сути, программисты научились заставлять искусственный интеллект не тратить ресурсы впустую: если раньше подобные модельки «обдумывали» каждую запятую, теперь они срезают углы и жертвуют долями процента точности ради экономии мощности.

Но главное — не только идеально настроенное ПО. AMD за последний год серьёзно подтянула свои аппараты: технологии вроде ускорителей AI в новых процессорах позволяют выполнять нейросетевые расчёты там, где ещё совсем недавно компьютер бы «захлебнулся» даже на старте. Всё это подвело к итоговой сенсации: обычный ПК, который стоит намного дешевле корпоративных серверов, показывает чудеса вычислений.

Что это значит для массового пользователя? Теперь искусственный интеллект становится буквально настольной вещью даже для энтузиастов и маленьких компаний. Уже через пару лет подобная технология станет базой для домашних помощников, автономных гаджетов и офисной автоматизации — что раньше казалось далёкой фантастикой. У корпораций, которые продавали облачные услуги «по подписке» и уверяли, что без их дата-центров будущее невозможно, похоже, подгорает — ведь скоро даже школьник сможет поднять себе локальную нейросеть на обычном компе.