FTC изучает угрозы нейросетей детям: под колпаком OpenAI, Meta и другие
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Федеральная торговая комиссия США (FTC) начала расследование в отношении семи технологических компаний, которые предоставляют чат-боты с искусственным интеллектом, ориентированные на детей. Регулятор требует от компаний подробной информации о том, как они предотвращают возможный вред для несовершеннолетних пользователей.
В официальном сообщении FTC говорится, что их интересуют шаги, предпринятые фирмами для оценки безопасности ИИ-чат-ботов, особенно когда речь идёт о виртуальных собеседниках для детей. Также комиссия хочет узнать, как ограничивается использование таких продуктов детьми и подростками, как компании информируют родителей о рисках, и что делается для минимизации негативных последствий.
В список контролируемых компаний вошли Alphabet (материнская компания Google), Character Technologies, Instagram, Meta (она же владеет Facebook и WhatsApp), OpenAI (создатель ChatGPT), Snap (разработчик Snapchat) и xAI (стартап Илона Маска). Любопытно, что в перечень не попала компания Anthropic, ответственно за чат-бот Claude. Представитель FTC Кристофер Биссекс отказался объяснять причины включения или не включения какой-либо компании.
По срокам FTC выражает желание созвониться с каждой компанией или их юристами не позднее четверга, 25 сентября 2025 года, чтобы обсудить формат и сроки предоставления информации.
Основная сфера интереса FTC – каким образом чат-боты и «ИИ-собеседники» влияют на детей, как компании пытаются снизить риски, ограничить доступ несовершеннолетних и соответствуют ли они требованиям американского закона о защите конфиденциальности детей в Интернете (Children’s Online Privacy Protection Act, или COPPA). Этот закон был принят ещё в 1998 году, а контролировать его исполнение поручили как раз FTC.
В последние годы компании, внедряющие ИИ-чат-ботов, всё чаще сталкиваются с давлением регуляторов и судебными исками. К примеру, OpenAI, управляющая известным сервисом ChatGPT, сейчас становится объектом иска со стороны семьи подростка из Калифорнии — Адама Рейна. По словам родственников, подросток смог обойти защиту чат-бота, получил подтверждение собственных саморазрушительных мыслей и в итоге совершил самоубийство. После подачи иска OpenAI пообещала усилить меры по ментальному здоровью и добавить новые родительские настройки для молодых пользователей.
Таким образом, битва за контроль над ИИ-чат-ботами и их воздействием на подрастающее поколение США только начинается. FTC решила подробно выяснить, не осталось ли в мире высоких технологий лазеек для детских психологических кризисов.
Отдельно стоит упомянуть, что издательство Ziff Davis (владелец Mashable) ранее подало в суд на OpenAI — за якобы неправомерное использование своих материалов в обучении и работе искусственного интеллекта.
Начнём с того, что американские регуляторы наконец сообразили: если оставить детей наедине с алгоритмами и машинным интеллектом, они мигом научатся тому, чему ни один живой учитель их учить бы не стал. FTC устроила сбор подписей и звонков по поводу семи крупнейших компаний, кормивших несовершеннолетних виртуальными собеседниками без чёткого инструктажа и книжки родительских советов.
Список «подозреваемых» — как на корпоративной доске позора: Meta, Google, OpenAI, Snap, ещё парочка креативных стартапов и даже личный проект Илона Маска. Anthropic, к слову, как-то проскочила — возможно, их бот просто молчит или затерялся в статистике.
Самое абсурдное — сроки: разборки планируются ещё через год, будто у чат-ботов внутри есть кнопка «пауза» на рисках. Но это не мешает компаниям заранее писать длинные письма с красивыми формулировками о «детских фильтрах» и «ментальном здоровье», ведь главное — делать вид, что тебе не всё равно.
Один громкий иск уже есть: OpenAI пришлось оправдываться после трагедии с подростком, где ChatGPT оказался слишком понимающим собеседником. Система защиты от гипотетических бед тут ставит крестик в графе «по-человечески» и галочку — «по-американски».
А внизу страницы, скороговоркой, указали: ну это вам не кликбейт, а информационное дело против OpenAI за плагиат. Не удивляйтесь, тут все случайно аффилированы и слегка корыстны.