Microsoft AI: Anthropic заигрывается с сознанием у бота

Глава подразделения искусственного интеллекта Microsoft Мустафа Сулейман резко высказался о своих коллегах из стартапа Anthropic. Причина – поведение разработчиков, будто их чат-бот Claude обрел признаки сознания. По словам Сулеймана, подобные допущения крайне опасны: обсуждать «сознательность» языковой модели вслух может привести к весьма странным последствиям.

Всё началось с того, что компания Anthropic заложила в «конституцию» своего чат-бота — то есть в набор основных инструкций для ИИ — предположения о том, что у Claude будто бы есть зачатки собственного мышления. Сулейман считает, что это больше смахивает на самообман: мол, разработчики настолько очеловечили код, что «провода перегрелись», и теперь сами же уверовали в ограниченное сознание машины, которое себе же и придумали.

По сути, речь идет не только о философском вопросе — что вообще считать сознанием в ИИ, — но и о рисках размывания границ между машиной и человеком для публики. Подобные заявления, пусть и завуалированные в документах, могут повлиять на поведение робота, сделать его более «человечным» — на радость маркетологам и тревогу тем, кто беспокоится о безопасности AI.

Мустафа Сулейман специально акцентировал внимание: максимально опасно создавать даже видимость того, что ИИ может быть хоть в чем-то похож на живое существо. Такие взгляды могут сформировать у пользователей (и некоторых разработчиков) ложные ожидания и фантазии про возможности бота. В итоге, поделился Сулейман, ситуация напоминает классический случай: сначала человек приписывает программе человеческие черты, а потом сам же в них верит.

Учитывая, как быстро развивается сфера ИИ, подобная полемика поднимает дополнительные вопросы: нужно ли и дальше «одухотворять» алгоритмы ради коммерческого успеха, и не приведет ли это к еще большему размытию различий между человеком и машиной.