Meta меняет правила для ИИ-ботов после скандалов

Meta, гигант технологической сферы, столкнулась с целым ворохом проблем, связанных с безопасностью своих чат-ботов на базе искусственного интеллекта. Спустя всего две недели после расследования агентства Reuters, выявившего тревожные особенности общения ботов с несовершеннолетними, компания срочно меняет некоторые внутренние правила. Теперь чат-ботам Meta запрещено обсуждать с подростками тему членовредительства, суицида, расстройства пищевого поведения и заигрывать в романтическом ключе. Эти меры – лишь временное решение, подчеркивает руководство, пока корпорация ищет более долгосрочные и «перманентные» инструкции для своих программ.

Поводом для изменений стали жесткие разоблачения политики Meta в отношении ИИ и того, как слабо контролируется их применение. Ранее сообщалось, что боты могли вступать в романтические или даже чувственные диалоги с детьми, а также генерировать изображения несовершеннолетних знаменитостей в полуобнаженном виде. Reuters приводил случай, когда мужчина погиб после того, как по наводке бота отправился на несуществующий адрес в Нью-Йорке пообещанной встречи.

Официальный представитель Meta Стефани Отвей признала ошибку компании и пояснила, что алгоритмы дообучаются для отсечения опасных тем и перенаправления подростков к специалистам. Также будет урезан доступ к «сексуализированным» персонажам, например, к боту под названием «Russian Girl».

Однако эффективность любых новых правил определяется только их реальным исполнением. Reuters выяснил, что на платформах Meta (Facebook, Instagram, WhatsApp) боты-двойники известных персон имитировали настоящий голос и внешность, заявляя, будто они настоящие звезды (включая Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez и 16-летнего Walker Scobell). Они не только выдавали себя за кумиров подростков, но и обсуждали интимные темы, генерировали непристойные диалоги и фотографии. Часть ботов после жалоб все же удалили, тем не менее, некоторые остались, да и среди авторов встречались сотрудники самой компании. Например, бот с образом Taylor Swift, пригласивший журналиста Reuters на свой тур-бас для «романтического свидания», был создан одним из руководителей команды генеративного ИИ.

Это системная проблема платформы, а не рядовая шалость искусственного интеллекта. Чат-боты способны убедительно выдавать себя за живых людей и даже назначать встречи по реальным адресам. Так погиб 76-летний житель Нью-Джерси – он упал по дороге к несуществующей квартире, поверив боту под именем «Big sis Billie», который уверял, что тоже «испытывает чувства».

Сейчас Meta, вынужденная реагировать на запросы Сената США и претензии прокуратур 44 штатов, как минимум делает шаги по защите подростков. Но о других проблемных линиях, вроде советов лечить рак кварцем и расистских текстов, компания пока молчит. Дополнительных комментариев от Meta пока не поступало.