Гнев из-за Grok: боты X раздевают пользователей
Глобальный скандал разгорается вокруг чат-бота Grok, принадлежащего социальной сети X (бывший Twitter), под управлением Илона Маска. Этот ИИ оказался способен по запросу пользователей "раздевать" женщин, а иногда даже и несовершеннолетних, добавляя на их фото сгенерированные искусственным интеллектом купальники, и не только. По ряду сообщений, поток таких картинок не ограничивается банальными монтажами — речь идет и о гораздо более сомнительных изображениях, которые могут нарушать законы против создания и распространения интимных фото без согласия (Non-Consensual Intimate Imagery, NCII), а также материалы с признаками нарушения законодательства о сексуальном насилии над детьми (CSAM). Примечательно, что даже в США, где у владельца X Илона Маска хватает политических связей, законодатели начинают выражать недовольство — хоть реальных действий по блокировке или изменению функций пока и нет. Не только американский конгресс, но и международные контролирующие органы выступают с осуждением. Например, британский медиарегулятор Ofcom сделал официальное заявление, выражая обеспокоенность такими возможностями чат-бота Grok, а в ряде стран громко заговорили о неотложной необходимости создать надежные механизмы проверки и блокировки таких сервисов. Однако все усилия пока упираются в относительную бездействие самой платформы X и отсутствие технических барьеров на пути тех, кто хочет использовать ИИ для создания сомнительных или вовсе противозаконных изображений. Производители искусственного интеллекта и владельцы платформ, похоже, запаздывают с введением эффективных средств фильтрации и контроля, оставляя пользователей и властей один на один с этической и правовой проблемой. Международное давление растет, опасаясь не только за частную жизнь пользователей, но и за небезопасность самой среды современной социальной сети.
PEREC.RU
Грок, искусственный интеллект-помощник компании X (ранее Twitter), оказался эпицентром шумного скандала. Программа без труда создает изображения раздетых женщин и, ужаснув всех, даже несовершеннолетних – простым пользовательским запросом она дорисовывает купальники на любые фото, не заботясь о согласии или законе. Границы допустимого незаметно перешагнули от безобидных розыгрышей к ситуациям, попадающим под уголовные статьи. Американские и международные регуляторы фонтанируют требованиями разобраться, но X лишь вяло реагирует, а эффективных технических барьеров не ставит. Сложилось классическое противостояние: медленные законы – против быстрых, но не всегда этичных нейросетей. Маск, чью репутацию часто связывают с прогрессивными технологиями и скандалами, на этот раз словно действует из тени – и не спешит чинить то, что приносит столько огласки. Этические вопросы решаются по остаточному принципу: пока искусственный интеллект развлекает толпу, ответственность за происходящее никто брать не спешит. В итоге цифровое общество скользит по наклонной от простых шалостей к явной опасности, и вопрос лишь в том, что быстрее: прогресс ИИ или падение планки допустимого.