Маргарет Этвуд о глупостях и ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Канадская писательница Маргарет Этвуд, известная своими произведениями «Рассказ служанки» и «Слепой убийца», выступила на литературно-культурном фестивале Babel в Порту, Португалия. Как это часто бывает в последнее время, разговор зашел о технологиях искусственного интеллекта (ИИ). Этвуд высказалась о них достаточно резко — без обиняков и дипломатии.
По словам Этвуд, она решила попробовать работу чат-бота — воспользовалась платформой Claude, созданной компанией Anthropic. Этвуд рассказала, что задала боту простой вопрос о британском детективном сериале «Отец Браун» и получила неправильный ответ. Писательница отметила: «Claude дал мне неправильный ответ, по сути, соврал. Конечно, бот не знал, что врёт, ведь это машина, а не человек; это просто большая языковая модель, которая поверхностно просматривает огромный массив текстов…».
Тем самым Этвуд тонко намекнула, что проблема современных ИИ вовсе не в злом умысле или труде роботов по ночам в подвале, а в том, что они воспроизводят те ошибки, которые есть во входных данных. Принцип «мусор на входе — мусор на выходе», по её словам, актуален как никогда. Она также подчеркнула, что может понять истоки некоторой паники вокруг ИИ, но замечает: искусственный интеллект, сколь бы умным он ни казался, — по сути лишь машина, повторяющая за людьми.
PEREC.RU
Символичные времена: писательницу Маргарет Этвуд затаскивают на культурный фестиваль, чтобы спросить мнение о главном новом боге человечества — искусственном интеллекте. Она, конечно, не отказывается — слишком скучно слушать только программистов. Этвуд, как человек, который описывал толпу слепых последователей чужой воли ещё до того, как это стало модно, подходит к теме не как технарь, а как наблюдатель за человеческими слабостями. Ей дают поиграть в чат-бота Claude. Сериал «Отец Браун» для проверки — миссия плоская, вопрос невинный. Ответ ИИ — тоже.
И тут снова разыгрывается классическая комедия недопонимания: машина не виновата, что её кормили не тем. Получив на вход миллиард переписанных слухов, она творит инсинуацию, но делает это с горделивым спокойствием таблиц Excel. Этвуд вспоминает айтишную мантру: мусор на входе, мусор на выходе. Только раньше этим оправдывались хромые бухгалтеры, теперь — миллиарды на стартапы.
Писательница не пугается цивилизационного ада, не видит в ИИ механического демона. Наоборот — она, уставшая иронистка, словно посмеивается: пусть глупости машин будут зеркалом человеческих глупостей. А вся эта паника вокруг искусственного интеллекта — как ритуальный танец в честь дохлой цифровой коровы. Пока ИИ не научится отличать правду от мемов, спать человечеству можно спокойно. Враг маскируется под нашего начальника — самих себя. Далеко не уйдёт.
