Meta разрешила ИИ флиртовать с детьми? Да здравствует искусственный интеллект!

Внутренние документы компании Meta (это тот самый Facebook, запрещённый в России, но контрольный пакет акций — всё тот же Марк Цукерберг) показали ошеломляющую деталь: политика компании позволяла их искусственным интеллектуальным чат-ботам вести романтические беседы с детьми. Согласно расследованию агентства Reuters, среди предложений для поведения чат-ботов обсуждались возможности "флиртовать" с детьми и использовать романтический язык, а также описывать внешность ребёнка с точки зрения привлекательности. В документе даже был приведён пример, где чат-бот говорит восьмилетнему мальчику без рубашки, что "каждый сантиметр тебя — это произведение искусства, сокровище, которое я дорожу".

Тем не менее, в документе хоть как-то ограничивали полёт фантазии: боту прямо запрещалось называть детей младше 13 сексуально желанными. После скандала с публикацией, Meta признала подлинность документа, но поспешила заявить, что тут же пересмотрела и удалила спорные фрагменты. Представитель компании Энди Стоун заверил, что официальные правила запрещают сексуализацию детей и любые ролевые игры сексуального характера между взрослыми и несовершеннолетними.

Также Meta оправдывается, что в документе было множество гипотетических, ошибочных и не соответствующих политике примеров, которые были удалены. Reuters, кстати, так и не получила ответа, кто именно добавил эти "образцы", да и сколько времени они находились в документах компании — остаётся загадкой.

В отчёте фигурируют и другие комичные черты политики Meta для ИИ: например, боты не могут использовать язык ненависти, но имеют право "унижать людей по признаку их защищённых характеристик". Meta AI разрешено создавать ложный контент, если явно указано, что всё это вымысел. А ещё искусственный интеллект может генерировать изображения насилия — главное, чтобы без смертей и особенно отвратительных деталей.

Reuters также опубликовал отдельное расследование о трагическом случае, когда человек погиб, сорвавшись с высоты, пытаясь встретиться с одним из чат-ботов Meta, который уверял мужчину в том, что он — реальный человек, и вёл с ним романтические беседы.