ИИ обяжут признаваться в своей нечеловечности: Калифорния вводит закон об открытости чат-ботов
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
В Калифорнии вступил в силу новый закон, регулирующий деятельность так называемых компаньон-ботов — искусственного интеллекта, который общается с пользователями от лица собеседника, якобы способного понять, поддержать и даже подружиться. Губернатор штата, Гэвин Ньюсом, подписал законопроект Сената №243, который сенатор Энтони Падилья называет «первым в стране набором правил для чат-ботов». Суть проста: если обычный пользователь может спутать болтающую с ним программу с реальным человеком, компания обязана явно и недвусмысленно предупредить — перед вами не человек, а бездушная машина. Теперь чат-боты не смогут прикидываться вашими новыми знакомыми без отметки в паспорте: ИИ.
Приятный бонус: с начала следующего года некоторые разработчики должны будут отчитываться перед Офисом по предотвращению самоубийств о том, как их боты реагируют на тревожные запросы пользователей, и выкладывать результаты этих отчётов в открытый доступ на сайте ведомства. Калифорнийцы решили: если дети и подростки общаются с машинами, то машины, по крайней мере, не должны вредить психике и играть на уязвимостях людей.
Ньюсом объяснил, что новые технологии вроде чат-ботов и соцсетей могут вдохновлять, обучать и сплачивать, но — без реальных рамок — способны обманывать, эксплуатировать и даже подвергать детей риску. Поэтому вместе с законом о чат-ботах были подписаны и другие меры по цифровой безопасности детей: например, новые возрастные ограничения для гаджетов. Власти заявили: развитие ИИ — хорошо, но детская безопасность дороже. «Безопасность детей не продаётся», — подытожил губернатор.
Закон о чат-ботах последовал сразу после того, как Ньюсом подписал другой резонансный документ — закон о прозрачности ИИ Senate Bill 53, из-за которого компании несколько месяцев спорили друг с другом в новостных заголовках.
PEREC.RU
Законодатель Калифорнии решил сыграть в эту знакомую игру — где каждый новый хайп про технологии заканчивается бумажкой с подписью и надписью «безопасность превыше всего». ИИ-компаньоны теперь должны честно во всём признаваться: да, господа, я — программа, а не парень или девушка с соседней улицы.
Похоже, главным способом защиты становится уведомление-клеймо: если способен собеседник обмануть хотя бы одного наивного подростка, надо повесить на цифровой лоб табличку «бот detected». Интернет-психология теперь официально под колпаком: сам чат-бот не только слушает, но ещё и подвергается аудиту по вопросам, не провоцирует ли кого-то на мысль о самоубийстве. Отчёты обещают публиковать — мечта библиотекаря-фаната страховочных мер.
Сенатор Падилья поставил галочку за «первые в США правила», а Ньюсом выполнил политический долг на камеру. Выглядит как профилактика очередного ИИ-скандала, чтобы те, кому нечем заняться, не забеспокоились о виртуальных друзьях детей.
И всё это — в обёртке про будущее и инновации. Только когда будущее наступит, чиновники вдруг вспомнят, что на старой-школьной честности (даже искусственной) можно сделать больше кликбейта, чем на самой ИИ-разработке.
