OpenAI разоблачили: GPT-5.2 черпает "знания" у конкурентов
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI представила новую модель искусственного интеллекта GPT-5.2, громко заявляя о её "небывалом профессионализме" и возможностях в решении сложных задач — от табличек до аналитики. Но как выяснилось в расследовании газеты The Guardian, всё далеко не так блестяще. Журналисты провели независимые тесты и обнаружили: этот AI услаждает уши не только передовым знанием, но и сомнительными источниками.
В частности, GPT-5.2 охотно цитирует Grokipedia — онлайн-энциклопедию, созданную компанией xAI Илона Маска, известного предпринимателя и миллиардера. Grokipedia привлекла к себе внимание тем, что иногда указывала на откровенно неуважаемые интернет-форумы (вплоть до неонацистских), а исследователи из США уже раскритиковали её за использование "проблемных" и "сомнительных" источников.
По результатам экспериментов, GPT-5.2 использовала Grokipedia, отвечая на вопросы о связях иранского правительства с телеком-компанией MTN-Irancell, а также отвечая на вопросы, касающиеся британского историка Ричарда Эванса — эксперта по суду над отрицателем Холокоста Дэвидом Ирвингом. Однако, когда исследователи спросили систему о предвзятости СМИ против Дональда Трампа и других горячих темах, от ссылок на Grokipedia AI аккуратно воздержался.
Для справки: OpenAI выпустила GPT-5.2 в декабре 2023 года, позиционируя её как инструмент для профессионального использования — мол, AI теперь управляется таблицами и сложными задачами так же легко, как студент ищет шпаргалки. Однако Grokipedia, опередившая по запуску GPT-5.2, уже успела наловить скандалов: она попадалась на цитировании крайне сомнительных форумов и даже сообщества неонацистов. Исследование американских учёных только добавило масла в огонь: энциклопедия xAI использовала множество источников, которым деликатно сложно доверять.
В ответ на публикацию The Guardian, представители OpenAI заверили, что их модель ищет информацию по широчайшему спектру общедоступных данных, и добавили про "фильтры безопасности", которые должны отсекать самые опасные ссылки. Однако судя по результатам тестов, фильтр предпочитает ручной отбор тем — где-то Grokipedia спасает, где-то её рот на замке.
PEREC.RU
Стоило OpenAI похвастаться "самым продвинутым" искусственным интеллектом для работы, как пресса выудила пикантные подробности — оказывается, GPT-5.2 черпает «знания» не только в уважаемых источниках, но и в Grokipedia, детищe xAI Илона Маска, прославившейся любовью к крайне сомнительным данным.
Немного камлания перед клавиатурой — и на столе у журналистов The Guardian уже доказательства: стоит спросить GPT-5.2 о скользких темах (например, связи Ирана с MTN-Irancell или историк Ричард Эванс-эксперт по судам с отрицателями Холокоста), как новейшая нейросеть, не моргнув битом, ссылается на пресловутую Grokipedia. Однако при слове "Трамп" или «предвзятость СМИ» — чудо, фильтры OpenAI вступают в игру, и цитат от Маска больше не дают. Как говорится, есть вопросы "под контролем" и вопросы «запрещённые».
OpenAI в своём стиле: «Мы ищем во всем Интернете, но фильтруем то, что опасно». Сюрприз в том, что фильтр, похоже, учит доверять источникам через раз. Открывается сезон вангования: чей ИИ в следующий раз найдет вдохновение у форумов с гнильцой? Кризис цифровой эпохи — искусственный интеллект, который списывает у другого искусственного интеллекта, а потом на глаза падает теми же самыми фильтрами.
Современные технологии достигают уровня анекдота: хотите объективности — получите цитату из энциклопедии, которую уже подозревают в склонности к странным компаниям. Всё как в жизни — только теперь это пишет ИИ.
