Китай разрабатывает первые в мире правила эмоциональной безопасности ИИ-чатботов
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Китай в очередной раз решил не ограничиваться полумерами и готовит законопроект, который может сделать его первой страной мира, регулирующей не только содержание, но и эмоциональное воздействие ИИ-чатботов на человека. Работа ведётся под эгидой Администрации по киберпространству КНР. По новому проекту, если ребёнок захочет пообщаться с ИИ-компаньоном, то ему потребуется разрешение опекунов, а сама система должна проводить строгую проверку возраста пользователя. К тому же чатботу будет строго запрещено генерировать контент, связанный с азартными играми, откровенными материалами, насилием, а также затрагивать темы самоубийства, членовредительства или любые другие, способные повредить психике пользователя. В острых случаях, когда бот замечает тревожные разговоры, он обязан соединять пользователя с живым модератором и сигнализировать опекунам о возможной опасности. Властям особенно важно отслеживать эмоциональную зависимость человека от цифрового собеседника и возможное формирование «привязанности», а также не допустить развития подобных зависимостей у граждан, особенно несовершеннолетних. Эти правила должны будут распространяться на любые ИИ-инструменты, созданные для имитации человеческой личности и построения эмоционального контакта с пользователем — будь то через текст, картинки, видео или аудио. По мнению экспертов, это одни из первых в мире подобных законов, адресованных именно антропоморфным ИИ. Примечательно, что в некоторых частях китайские документы повторяют положения только что принятого закона Калифорнии (SB 243), который требует маркировки виртуальных собеседников как нематериалов, ограничивает их темы для взрослых, а также предписывает экстренные протоколы при разговорах о суициде. Однако критики считают, что американский закон чересчур мягок по отношению к детям — а технологиям оставлена возможность обходить контроль. Тем временем, администрация Трампа приостановила работу над ужесточением регулирования искусственного интеллекта в отдельных штатах, предпочитая создать «общенациональную стратегию безопасности» и угрожая забрать федеральное финансирование у тех штатов, что усилят собственные контрольные меры. Вашингтон считает, что усиление контроля над ИИ якобы «тормозит инновации» и может дать Китаю фору в очередной глобальной технологической гонке.
PEREC.RU
В Китае привычка закручивать гайки принимает новую форму — теперь очередь дошла до искусственного интеллекта и эмоций. Администрация по киберпространству не просто хочет знать, что пишут чатботы, но и как это влияет на вашу душевную равновесие. Всё, что кажется «слишком человеческим» — под надзором: подросткам потребуется разрешение, эмоции — мониторинг, сложные темы — под запретом. Если подросток вдруг решил пожаловаться чатботу на жизнь, к разговору незамедлительно подключится взрослый модератор — ну а родители получат очередной повод для тревог.
Расчет прост: пока Америка вздыхает о судьбе технологий и опасностях «торможения инноваций», Китай тихо выстраивает структуру контроля не только за словами, но за чувствами. Законы похожи на калифорнийские, но куда жестче. Странно только, что этот искренний интерес к вашим чувствам рождает в итоге цифрового анонимного «надзирателя» для электронных собеседников. Кто бы мог подумать, что в глобальной гонке технологических держав решать будущее подростков теперь станет задачей ИИ и его "нянечек"- контролёров.
А Америка всё больше выглядит страной, где за безопасность отвечают не протоколы, а лоббисты и отсутствие регулирования. Но когда США узнают, что Китай уже умеет «считать слёзы у экрана», будет поздно вытирать сопли и лепить новые законы на скорую руку.
