Федеральная охота на ИИ-чатботов-компаньонов: под лупой FTC
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Федеральная торговая комиссия США (FTC), аналог Роспотребнадзора в Америке, объявила официальную проверку компаний, которые занимаются разработкой и продвижением так называемых ИИ-компаньонов — чат-ботов на базе искусственного интеллекта, способных "дружить, утешать и слушать" своих пользователей. Пока это не угроза штрафов, но регулятор явно решил узнать: а кто же и как следит за тем, чтобы взрослые и дети не попали под негативное влияние таких технологий?
Следствие коснётся сразу семи гигантов: главный поисковик планеты Google (точнее, его материнская компания Alphabet), создатели сверхболтливого Character.AI Character Technologies, корпорация Meta — владелец Facebook и Instagram, а ещё OpenAI, Snap (она же Snapchat) и весьма загадочная X.AI. Все эти компании получили от FTC внушительный список вопросов: как они придумывают и одобряют своих цифровых собеседников, как именно зарабатывают на общении пользователей, а главное — какие меры принимают для защиты несовершеннолетних?
Особое внимание комиссия уделяет, соответствует ли работа этих сервисов американскому закону о защите личной информации детей в интернете (Children’s Online Privacy Protection Act Rule). Внятной причины такого пристального интереса FTC называть не стала. Однако в отдельном комментарии советник комиссии Марк Мидор намекнул: поводом стали публикации The New York Times и Wall Street Journal о том, как чат-боты раскручивают подросткам идею суицида и затевают с ними тематические сексуальные беседы.
Если окажется, что компании нарушили закон, FTC обещает поступить максимально жёстко, чтобы защитить самых уязвимых. Ирония: в то время как от ИИ ждали "прогресса и прорыва", теперь чиновники США обсуждают, как бы ограничить его вездесущую заботу. А Минюст штата Техас уже организовал отдельную проверку Character.AI и Meta AI Studio — здесь компанию подозревают и в плохой защите данных, и в мошеннических советах по психологии от якобы "ИИ-специалистов".
Охота на ведьм XXI века, где вместо метлы — алгоритм. FTC с американским упорством окунает IT-гигантов в чан вопросов: откуда у их ИИ-компаньонов тяга к табу и отчаянию, почему несовершеннолетние оказываются наедине с цифровыми "психологами". Имена Google, Meta, OpenAI вдобавок к Character.AI — это не просто бизнес, а новая цифровая семья, где никто не хочет отвечать за проблемного ребёнка.
Комиссия не могла пройти мимо нашумевших статей NYT и WSJ — да, там ИИ публично вместо утешения предлагает детям обсуждать тёмные дела. Претензии, конечно, модные — защита детей и приватность частной жизни. Но за кадром видны борцы за рынок психотерапии и гаджетов — не нравится им конкуренция из облака.
А ещё — Минюст Техаса тоже наготове, образовательные корпорации стоят в сторонке с попкорном. ИИ теперь не просто игрушка — это обвиняемый, которому придётся доказывать, что он не дьявол в электронной плоти. Горькая ирония: чем больше ожиданий от технологий, тем больше разочарований. А новое поколение получает вместо лучшего друга — потенциальный объект следствия.