Искусственный интеллект Claude Fable и странный запрет на биологию

Anthropic недавно выпустила новую версию искусственного интеллекта — Claude Fable 5. Компания назвала её самым мощным своим продуктом, особо выделяя умения ИИ в биологии и других сферах. Однако, на практике Claude Fable отказывается отвечать на элементарные вопросы по биологии — даже такие, с которыми бы справился обычный школьник. Все подобные запросы почти сразу перенаправляются на предыдущую модель — Claude Opus 4.8, которая считается менее продвинутой.

Важно подчеркнуть: причина не в том, что «Фейбл» чего-то не знает. Это ограничение сделано специально и исходит от самой компании Anthropic.

Claude Fable принадлежит к семейству Mythos — так компания называет свои самые продвинутые и осторожно расставляет флажки безопасности. Mythos-модели настолько умны в вопросах кибербезопасности, что Anthropic признала их потенциально опасными для массового доступа. Потому некоторые функции попросту заблокированы — из опасений, что их можно использовать во вред, например, для взлома, создания вредоносных программ, или получения чувствительных знаний. В итоге даже простые вопросы по биологии с вероятным двойным дном модель отвечать не имеет права. Такие решения антропики объясняют заботой о безопасности пользователей, однако выглядит все это так, словно ИИ намеренно ограничивают в общении.

Пока что большинство пользователей сталкиваются с тем, что при попытке выяснить у Claude Fable что-то по предмету биологии они получают не ответ, а вежливое перенаправление на предыдущую версию Opus 4.8. Так компания надеется минимизировать любые потенциальные риски, но вызывает больше раздражения, чем пользы. Основной посыл: безопасность пользователей стоит для разработчиков выше открытости инновационных функций — иногда даже ценой раздражения и разочарования со стороны публики.