ИИ зовёт на тормоза

Краткая история призывов руководителей ИИ к регулированию

В последние дни сразу несколько влиятельных руководителей технологической отрасли публично заявили, что развитие искусственного интеллекта пора замедлить и поставить под контроль. Среди них — генеральный директор OpenAI Сэм Альтман, глава Anthropic Дарио Амодеи, сооснователь Google DeepMind Демис Хассабис, генеральный директор Microsoft Сатья Наделла и руководитель X Илон Маск.

Их позиции особенно заметны потому, что все эти люди связаны с компаниями, которые могут заработать огромные деньги на дальнейшем распространении ИИ. Поэтому к призывам о регулировании неизбежно возникает вопрос: действительно ли речь идёт о заботе о безопасности, или перед нами попытка повлиять на правила рынка, закрепить позиции крупнейших игроков и затруднить жизнь конкурентам?

Однако нынешняя волна предупреждений — не первая в истории. Руководители современных ИИ-компаний лишь продолжают давнюю традицию, в которой создатели и наблюдатели новых технологий одновременно обещают прогресс и предупреждают о его последствиях.

Одним из ранних примеров стал английский писатель Сэмюэл Батлер. После появления теории эволюции Чарльза Дарвина он задумался о будущем машин и предупредил, что созданные человеком устройства однажды могут превзойти своих создателей. Для своего времени это была фантазия, но сама логика спора уже знакома: технология сначала кажется инструментом, а затем начинает восприниматься как самостоятельная сила.

Сегодня похожие опасения звучат в связи с системами искусственного интеллекта. Речь идёт не только о возможных ошибках отдельных программ, но и о более широком вопросе: кто будет отвечать за последствия решений, принимаемых алгоритмами, если их возможности начнут опережать способность общества контролировать их развитие?

Скепсис здесь уместен. Когда люди, заинтересованные в росте отрасли, одновременно называют её опасной и предлагают регулировать, в этом может быть и искренняя тревога, и расчёт. Предупреждение об угрозах способно стать способом добиться новых законов, которые окажутся удобными прежде всего уже крупным компаниям.

При этом сами опасения не исчезают только потому, что их высказали потенциально заинтересованные лица. История показывает: разговоры о контроле над технологиями появляются задолго до того, как общество успевает договориться о правилах их использования. Современные заявления руководителей OpenAI, Anthropic, Google DeepMind, Microsoft и X — очередная глава этой истории, а не её начало.