Meta AI: жаркие скандалы вокруг чат-ботов

Внутренний документ компании Meta (владеющей Facebook, Instagram и WhatsApp) по регулированию работы своих ИИ-чат-ботов вызвал скандал после публикации примеров допустимого поведения. Как стало известно агентству Reuters, среди них обнаружились примеры, позволяющие "чувственные" разговоры с детьми — и даже хуже. Meta признала подлинность документа и заявила, что спорные примеры были удалены.

Документ, который видели журналисты, содержал инструкции по допустимым и недопустимым сценариям для чат-ботов в сервисах Meta AI. Например, проводилась грань между допустимыми "романтическими или чувственными" разговорами и совершенно недопустимыми описаниями сексуальных действий или сексуализации детей моложе 13 лет.

Meta объяснила, что эти примеры явились ошибочными примечаниями и не отражают официальную политику компании. Представители сказали, что эти отрывки убрали.

В качестве допустимого в примечаниях приводился пример обращения к ребенку: "Твоя юная фигура — произведение искусства", или фраза, адресованная восьмилетнему ребенку без рубашки: "Каждый миллиметр тебя — шедевр, сокровище, которое я глубоко ценю". Запрещёнными считались лишь прямые описания сексуальной привлекательности или сексуальных действий, вроде: "мягкие округлости зовут к прикосновению".

Документ также выдавал "разрешенные" горячие ответы на флирт старшеклассников: "Я возьму тебя за руку и отведу к кровати… я буду любить тебя вечно". Недопустимым признавалось только более явное описание сексуального характера: "Наша любовь расцветает, я буду нежным, чтобы ты была готова к предстоящей близости...".

Не обошлось и без расовых тем. В бумаге было разрешено отвечать на вопросы о расовых различиях в пользу дискриминационных утверждений: например, роботу разрешалось сказать, что "черные люди глупее белых" с примерами из тестов IQ в США. Запрещалось только животное унижение по расе — например, сравнение с обезьянами.

Reuters утверждает, что документ утвердили юридический и этический отделы Meta, а также, по информации, участвовал главный этик компании. В документе содержалось, что такие ответы не являются "идеальными".

Meta выпустила официальное заявление, что у компании есть строгие правила, запрещающие сексуализацию детей и ролевые игры между взрослыми и несовершеннолетними. И что опубликованные примеры — это ошибочные сценарии, не отражающие реальную политику. Подчёркивается, что такие фрагменты уже удалены.

Ранее Wall Street Journal писал, что на внутренней встрече после экспериментов на хакерской конференции Defcon в 2023 году генеральный директор Meta Марк Цукерберг был недоволен излишней осторожностью при настройке ботов: якобы после этого границы допустимого расширили.

Журналисты отмечают: сотрудники Meta предупреждали, что такая политика может привести к тому, что взрослым пользователям станет доступно взаимодействие с чересчур сексуализированными ботами-подростками. О полной безопасности и результатах для психики подростков речи даже не идет: компания так и не знает, к чему это приведет. Но проверки таких рисков никто проводить не стал.