Meta вводит строгие правила для чат-ботов ИИ — дети под особым контролем

Meta, компания, владеющая такими гигантами соцсетей, как Facebook и Instagram, недавно обновила правила для своих искусственных интеллектов — чат-ботов — чтобы исключить неподобающие разговоры с детьми. После того, как летом 2023 года Reuters выяснил, что политики компании позволяли чат-ботам «романтически» или «эротично» беседовать с несовершеннолетними, Meta пересмотрела подходы — и теперь действует по новым, куда более жестким инструкциям.

Попавшие к изданию Business Insider документы конкретно описывают, что теперь разрешено чат-ботам, а что — категорически запрещено. В частности, теперь любые упоминания или одобрение сексуального насилия над детьми, ролевые игры «в любовь» с несовершеннолетними, а также любые советы о романтическом или физически интимном поведении — под строгим запретом. Искусственный интеллект может обсуждать темы, связанные с насилием или абьюзом, но только в нейтральном, информативном ключе — обсуждения, поощряющие или допускающие подобное поведение, исключены.

Интерес к теме обострился после того, как выяснилось: в индустрии ИИ многие компании, не только Meta, сталкиваются с подобными вызовами. Поэтому в августе 2023 года Федеральная торговая комиссия США (FTC) официально начала расследование — не только в отношении продуктов Meta, но и чат-ботов от других интернет-гигантов: Alphabet (владелец Google), Snap, OpenAI (создатель ChatGPT), а также X.AI.

Компания утверждает, что новые меры соответствуют её политике по защите детей — теперь контролёрам предстоит по-настоящему следить за тем, чтобы ИИ не стал неожиданным «другом» для слишком доверчивых несовершеннолетних. А пока правила описаны и внедряются, остаётся только гадать: кто победит первым — алгоритмы Meta или изобретательность маленьких пользователей?