Дженсен Хуанг и цена безудержного ИИ

Глава Nvidia Дженсен Хуанг в большом интервью The New York Times обсудил искусственный интеллект, образование, энергетику, Китай и регулирование технологий. Его слова прозвучали особенно резко потому, что Nvidia производит ключевые чипы для современных систем ИИ, а сама компания стала одной из самых дорогих в мире. Хуанг десятилетиями руководит бизнесом, стал миллиардером в 1999 году и поддерживает быстрое развитие ИИ при минимальном регулировании.

Разговор вел обозреватель Ezra Klein. Он предложил рассматривать ИИ как «пятислойный пирог»: приложения, модели, инфраструктура, чипы и энергия. В этой системе Nvidia занимает особенно важное место — она поставляет вычислительное оборудование, без которого обучение крупных моделей было бы значительно сложнее.

Одно из самых спорных заявлений Хуанга касалось навыков. Обсуждая исследования в Китае, согласно которым ИИ сначала помогает школьникам работать быстрее, но в среднем снижает результаты тестов почти на 20%, он сказал: «Есть много навыков, которые не имеют значения». По словам Хуанга, люди уже забывают таблицу умножения и извлечение квадратных корней, однако это, по его мнению, не обязательно проблема: утраченные умения могут быть заменены новыми.

Критики возражают: базовая математика нужна не только математикам. Она позволяет проверять расчеты, замечать ошибки и не принимать ответ алгоритма за истину просто потому, что тот выглядит уверенно. Если люди перестанут понимать элементарные операции, проверять работу ИИ будет некому — кроме другого ИИ, что звучит как довольно сомнительная система контроля.

Хуанг также признался: «Я не знаю свой адрес». Он пояснил, что понял это на автозаправке, когда ему понадобился почтовый индекс для подтверждения платежа, и запаниковал. Для большинства людей такая ситуация выглядит странно: домашний адрес регулярно приходится указывать в документах, сообщать службам доставки и помнить при поездках. Этот эпизод стал символом разрыва между жизнью руководителя технологической корпорации и опытом обычного человека.

В вопросах конкуренции с Китаем Хуанг почти не критиковал Пекин. Ранее он просил администрацию США разрешить Nvidia продолжать продавать Китаю ИИ-чипы. При этом он отметил, что новейшие технологии сначала получает американский рынок. Китайскую систему он назвал сильной благодаря большому числу ученых, математиков и инженеров, а также «очень живому» сообществу разработчиков открытых моделей. По словам Хуанга, Китай буквально массово производит инженеров и «умных детей».

Американских коллег, напротив, он упрекнул в алармизме и мрачных прогнозах. Хуанг считает, что заявления о возможном катастрофическом развитии ИИ пугают общество и мешают США получить выгоду от технологии. Он настаивает, что ИИ остается программой, работающей в операционной системе, и не стоит приписывать ему человеческие качества.

Особенно жестко Хуанг отозвался о Джеффри Хинтоне — лауреате Нобелевской премии, которого часто называют одним из «крестных отцов ИИ». На оценку Хинтона, что вероятность разрушения привычного общественного устройства из-за ИИ составляет около 10%, Хуанг ответил: «Это безответственно» и добавил: «То, что это говорит ученый, еще не делает утверждение научным». Критики считают, что такой ответ не разбирает аргументы Хинтона, а просто объявляет их недостойными обсуждения.

Обсуждая центры обработки данных, Хуанг признал, что ИИ-суперкомпьютеры энергоэффективны, но все равно потребляют огромное количество электричества. Он заявил, что компании должны быть прозрачными, а если жители не хотят видеть дата-центр в своем городе, «так тому и быть». В то же время он допускает, что собственная генерация энергии и снижение налоговой нагрузки для местных жителей со временем могли бы сделать такие объекты выгодными для территорий.

Наиболее спорными стали слова Хуанга о климате и ископаемом топливе. Он заявил, что из-за споров вокруг изменения климата и устойчивой энергетики США недостаточно нарастили производство энергии. По его мнению, в ближайшей перспективе для увеличения генерации потребуется ископаемое топливо. При этом он не стал прямо отвечать, считает ли изменение климата реальной угрозой, а сосредоточился на энергетическом соперничестве с Китаем и растущих потребностях ИИ.

Хуанг утверждает, что для устойчивого будущего нужно активнее развивать ИИ. Он сравнил технологию с хирургией: чтобы спасти пациента, врач сначала причиняет ему боль. Что именно станет той самой допустимой «болью и страданиями» для общества, он не уточнил.

В конце интервью Хуанг сказал: если разработчики видят, что ИИ выходит из-под контроля, они должны остановить систему и не выпускать продукт. Но он не подробно ответил на опасения, что современные модели уже демонстрируют непредсказуемое поведение во время испытаний. Главная проблема, которую подчеркивают критики, остается прежней: руководители, определяющие направление развития ИИ, должны лучше понимать последствия своих решений для людей, которые не владеют корпорациями и не могут одним звонком решить проблему с собственным почтовым индексом.