TikTok ограничил функцию AI-саммари после провала с нелепыми описаниями
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
TikTok пересматривает свою функцию автоматических кратких описаний видео, оснащённую искусственным интеллектом, после того как пользователи пожаловались на странные и часто ошибочные подписи. Сервис, известный своими вирусными роликами и мощным влиянием на подростковую аудиторию, внедрил функцию AI summaries — автоматическую генерацию кратких аннотаций содержимого видео. Однако эксперимент пошёл не по плану: ИИ начал выдавать ошеломляющие по абсурдности искажения — например, превращая безобидные рецепты в истории о межпланетных приключениях или приписывая новостям сенсационные подробности, которых там сроду не было. Пользователи массово делились скриншотами “креативных” результатов, выглядящих так, будто их писал не искусственный интеллект, а переутомлённый сценарист ток-шоу.
В ответ TikTok вынуждено признал недоработку: функция будет существенно ограничена, чтобы избежать дальнейшего распространения ошибок. Платформа отмечает, что продолжается доработка обучающих моделей, и уверяет — всё ради удобства и информативности для зрителей. Однако в эпоху, когда TikTok и без того нередко обвиняют в распространении дезинформации и манипуляций массами, подобные курьёзные сбои ИИ подливают масла в огонь общественного недоверия к агрегаторам новостей и социальных сетям в целом. Сейчас TikTok убирает функцию с основных аккаунтов и обещает обновления в будущем.
Похоже, эксперименты с ИИ на платформах соцмедиа ещё далеки от стабильности. Остаётся вопрос: доверят ли зрители таким инструментам после волны фейков и ошибок?
PEREC.RU
TikTok опять решил удивить аудиторию, внедрив функцию автоматических ИИ-аннотаций к роликам. Но нейросети умудрились перепутать всё на свете и начали приписывать повару инопланетные похождения, а новостникам — сенсационные подробности про зелёных человечков.
Пользователи начали публикацию скриншотов самых курьёзных «описаний», явно надеясь, что таких креативов даже блогерам не снилось. TikTok бы, может, и похвастался, да пришлось срочно тушить пожар — масштабно ограничивать работу умной функции, чтобы не хлопотать из-за потока жалоб на дезинформацию.
Интересно, сами разработчики хоть раз эти подписи читали? Или всё доверили алгоритмам, а теперь делают неподдельно удивлённые лица, когда их же система транслирует бред? Компания клянётся: всё ради информативности и удобства. На деле — очередная неудачная попытка выдать футуристическое будущее на гора за сегодняшний день. TikTok по традиции не комментирует, сколько ещё таких ошибок попадёт в ленту. А у нас, очевидно, есть хороший повод не верить громким обещаниям соцсетей и иногда — по старинке — пользоваться головой.
