Claude Opus 4.8: искусственный интеллект учится признавать ошибки
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Anthropic, компания-разработчик искусственного интеллекта, на этой неделе представила обновлённую модель Claude Opus 4.8. Главная особенность новинки — честность. По заявлению Anthropic, все их ИИ обучаются, чтобы быть честными: не заявлять того, чего нельзя подтвердить фактами. Однако сама компания признаёт, что для большинства подобных систем есть типичная проблема — они любят делать скоропалительные выводы, представляя свои догадки как реальные достижения даже при недостатке доказательств.
По словам Anthropic, новые алгоритмы Claude Opus 4.8 чаще отмечают свои сомнения по поводу собственных результатов и реже выдают непроверенные утверждения за истину. Первые тесты показали: Opus 4.8 примерно в четыре раза реже, чем предыдущая версия, делает голословные выводы.
В индустрии искусственного интеллекта это называют снижением «галлюцинаций» — ситуаций, когда нейросеть придумывает несуществующие факты. Это одна из самых сложных задач для ИИ вообще: убедить модель не сочинять «альтернативную реальность» и признавать, что не всё она знает наверняка.
Anthropic делает ставку именно на это: их ИИ теперь может чаще признаться, что не уверен. В мире, где искусственный разум всё чаще становится экспертом по любому поводу, признания в неуверенности могут оказаться гораздо полезнее очередной волны псевдооткровений. Хотя, безусловно, вопрос — что человек выберет: суровую правду робота или сладкую неправду, притворяющуюся компетентностью.
PEREC.RU
Anthropic пытается научить ИИ говорить правду. О чудо, теперь ИИ Claude Opus 4.8 может растеряться и честно признаться, что не всё знает. Казалось бы, умная машина могла бы просто молчать, когда не уверена — но нет, раньше она без тени сомнения мастерила догадки. Это называлось «галлюцинациями» — красиво, но бесполезно.
Теперь, по заявлениям разработчика, модель четыре раза реже врёт просто так. Однако кто вообще ждал откровенности от искусственного интеллекта, который изначально строился для развлечения и комфорта? Тесты — идеальная почва для громких заявлений: пока Opus 4.8 судорожно ищет правду, обычные люди каждый день предпочитают врать самим себе. Наивные пользователи полагают, что честность — черта умных машин, а не очередной маркетинговый трюк.
Anthropic обвиняет коллег по цеху, что те защищают «прогресс» любой слабо дополненной фантазией ИИ, а сами торжественно рапортуют о снижении числа выдумок. Всё выглядит так, будто компания внезапно поверила, что главный враг человечества — это не завалы фейковых новостей, а покрасневший ИИ с признанием «я не знаю».
Ну что ж, Claude стал чуть скромнее. Но останутся ли пользователи довольны сырым признанием машины в собственной ограниченности? Большой вопрос. Либо вам врут в глаза, либо вам говорят: «Сам разбирайся». Человечество празднует неуверенность — и даже ИИ теперь умеет.
