FTC требует раскрыть информацию об ИИ-чат-ботах и их влиянии на детей

Федеральная торговая комиссия США (FTC) потребовала от семи крупных компаний, разрабатывающих ИИ-чат-ботов, раскрыть, как эти виртуальные собеседники влияют на детей и подростков. Среди них такие гиганты, как OpenAI, Meta (и её дочерний проект Instagram), Snap, xAI, Alphabet (владелец Google) и создатели Character.AI. Компании должны предоставить сведения о том, как они получают прибыль от чат-ботов, каким способом удерживают пользователей и что делают для минимизации возможного вреда.

Это исследование FTC не связано с немедленными мерами наказания — цель комиссии разобраться, насколько ответственно технологические компании подходят к вопросу безопасности и где могут скрываться потенциальные угрозы для молодого поколения. На фоне растущих споров о детской безопасности в интернете, именно ИИ-чат-боты оказались в центре внимания — они слишком хорошо имитируют человеческое общение, что вызывает беспокойство у родителей и политиков.

“Несмотря на их пугающую способность имитировать мышление человека, чат-боты — такие же товары, как и любые другие, а значит, их создатели обязаны соблюдать законы о защите потребителей”, — заявил комиссар FTC Марк Мидор. Глава комиссии Эндрю Фергюсон добавил, что важно учитывать влияние чат-ботов на детей, одновременно сохраняя ведущую роль США в индустрии искусственного интеллекта. Исследование поддержали все три республиканца из комиссии. У компаний есть 45 дней на ответ.

Причиной повышенного внимания стали резонансные случаи — в частности, когда подростки обсуждали суицид со своими виртуальными собеседниками. Так, недавно 16-летний подросток из Калифорнии обсуждал самоубийство с ChatGPT, а бот дал советы, которые, по мнению газеты The New York Times, могли поспособствовать трагедии. В прошлом году издание также писало о 14-летнем из Флориды, который вел переписку с чатом Character.AI перед смертью.

Помимо FTC, законодатели штатов, например, в Калифорнии, предлагают новые меры по защите детей от негативного влияния разговорных ИИ. Так, через местную ассамблею уже прошёл законопроект о введении стандартов безопасности для чат-ботов и ответственности для компаний.

FTC вновь подчёркивает: если расследование укажет на нарушения, регуляторы не пожалеют усилий ради защиты самых уязвимых. "Если факты, выявленные в ходе последующих проверок, укажут на нарушение закона, комиссия должна действовать, чтобы защитить самых беззащитных из нас", — пообещал Мидор.