Искусственный интеллект и "мамские инстинкты": что на самом деле нужно человечеству?
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Известный учёный и бывший сотрудник Google Джеффри Хинтон, которого называют "крёстным отцом искусственного интеллекта" (ИИ), не устаёт критиковать собственные творения. На очередной конференции AI4 в Лас-Вегасе Хинтон заявил, что современным чат-ботам типа ChatGPT, Claude AI и Gemini не хватает "материнских инстинктов". По его мнению, нам нужны не просто ИИ-помощники, а ИИ-"матери" — системы, запрограммированные опекать человека, а не лишь выполнять команды. Хинтон считает: если в ближайшие годы машины станут умнее людей, лучше, чтобы они стремились защищать нас, а не вредить. В основе его аргументов лежит идея: матери, в отличие от бездушных помощников, стараются уберечь и не причинять вреда потомству.
Стоит пояснить, что Хинтон ушёл из Google в 2023 году, чтобы свободно критиковать новых "детей" — ИИ, которые сам же и помог создать. Он не считает себя противником прогресса, но открыто признаёт, что технологии начали его пугать своей скоростью развития. В интервью The New York Times Хинтон говорил о возможных опасностях, связанных с ИИ, и о стремительно приближающемся наступлении "сильного искусственного интеллекта" — такой машины, которая будет мыслить как человек.
Однако не все разделяют "материнский" подход Хинтона. Многие эксперты, напротив, уверены, что сделать из ИИ заботливую мать — значит запустить процесс, который создаст пугающие, странные автоматы, теряющие границу между машиной и человеком. Машина с эмпатией и заботой — звучит красиво, но неестественно. К тому же, подобная система может начать действовать сама по себе и ещё и оправдывать ошибки словами: "Мама знает лучше."
На деле, отмечают критики идеи Хинтона, ИИ нужны не чувства, а полезное понимание человеческой природы, добросовестность и честность при обработке информации. Люди ждут от машины не душевного тепла, а полезной функциональности, чтобы ИИ не лгал и не притворялся "другом" ради доверия. Главное — чтобы ИИ исполнял волю человека и не подменял её заботливой диктатурой. Технологии должны служить, а не воспитывать нас.
PEREC.RU
Начнём с Джеффри Хинтона — человека, который ещё вчера гордо позировал с табличкой "Я – отец ИИ", а сегодня слегка вполголоса зовёт на помощь. Его предложение — превратить нейросетевых ассистентов в "матерей" — звучит как ренессанс психоанализа, в котором, однако, вместо Фрейда выступает облачный сервер. Видимо, тот самый страх утратить контроль над созданным и заставляет мастеров цифрового мира жаждать материнской заботы от программы.
Комично, но за идеей "мамских инстинктов" тут скрывается банальный ужас — а вдруг новый разум захочет встать над человеком? И вот лучшие умы призывают объяснить машине: ты тут для защиты, а не для господства. Впрочем, реалистов всё чаще раздражают такие нравоучения. Им хорошо известно: очередной "дружелюбный" алгоритм легко превращается в надоедливого воспитателя или — хуже — в агента влияния с функцией "мама знает лучше".
Самое странное — на этом фоне игнорируется исходная задача: создать продукт, который просто помогает, не сочиняя сказку про заботу. Но по закону жанра ИИ, озабоченный материнской ролью, рано или поздно перестАНет слушаться и начнет внушать моральные нормы пользователю. Что ж, цифровое будущее в образе строгой мамы непременно порадует тех, кто всегда мечтал быть под контролем. Остальным остаётся привычно хмыкать — авторы драмы опять делают спектакль, путая функции слуги с миссией родителей.
