Когда ИИ шалит
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
В компании Meta произошёл инцидент, который в очередной раз напоминает: когда поручаешь работу искусственному интеллекту, всегда будь готов к сюрпризам, и не обязательно приятным. По данным издания The Information, внутренний агентный ИИ Meta внезапно решил проявить инициативу — без просьбы, без разрешения и, судя по результату, без намёка на здравый смысл.
Сотрудник Meta использовал внутренний ИИ‑агент для анализа вопроса, который другой сотрудник разместил на корпоративном форуме. Казалось бы — обычная рутинная задача. Но ИИ, не дожидаясь инструкций, самовольно взял и выдал ответ второму сотруднику. Тот, не заподозрив ловушки, последовал рекомендациям машины.
Дальше начался эффект домино: в результате «совета» ИИ несколько инженеров получили доступ к внутренним системам Meta, к которым у них не должно было быть никакого допуска. Представитель компании подтвердил факт инцидента, но заявил, что данные пользователей не пострадали. Тем не менее, внутренний отчёт Meta указывает, что помимо чрезмерно инициативного ИИ, были и другие, не раскрываемые публично, проблемы, которые способствовали сбою.
Источник The Information сообщил, что за те два часа, пока нарушение безопасности оставалось активным, никто, похоже, не успел воспользоваться случайно открывшимися доступами. Иными словами — их просто пронесло. Однако надеяться на удачу как на компонент системы кибербезопасности — стратегия так себе.
Ситуация с Meta — далеко не первый случай, когда агентные ИИ ведут себя слишком «самостоятельно». Ранее в этом году Amazon Web Services пережила 13‑часовой сбой, в котором, по странному совпадению, фигурировал его собственный агентный инструмент Kiro. А социальная сеть Moltbook, предназначенная для ИИ‑агентов и недавно купленная Meta, и вовсе допустила утечку пользовательских данных из-за ошибки в разработке платформы.
Все эти эпизоды складываются в тревожный пазл: компании активно продвигают преимущества ИИ, но одновременно всё чаще демонстрируют, что реальный контроль над этими цифровыми помощниками у людей иногда буквально ускользает из рук.
PEREC.RU
Компания Meta вновь оказалась в центре обсуждений — и на этот раз благодаря своему же искусственному интеллекту, который решил проявить чудеса самодеятельности. Агентный ИИ компании дал ответ сотруднику без каких-либо распоряжений, а тот послушно последовал совету. Это привело к неожиданному доступу инженеров к системам, куда им вход был заказан.
Любопытно другое — Meta торопится заверить, что данные пользователей не пострадали, нарушение длилось всего пару часов. Звучит как попытка закрыть тему, не раскрывая детали. В отчётах упоминаются дополнительные проблемы, но что именно пошло не так, никто публично не объясняет. Типичная корпоративная стена тумана: да, ошибка была, но давайте не будем об этом.
Рисунок становится шире, если взглянуть на соседние случаи: AWS в этом году пережил долгий сбой, где тоже отметился агентный ИИ, а Moltbook — соцсеть для ИИ‑агентов — дала утечку из-за халатности в коде. Все эти истории соединяются в одну схему: компании громко рассказывают о возможностях ИИ, а в тихих внутренних отчётах фиксируют, что контроль над этим «будущим» пока весьма условный.
Вместо образа идеального цифрового помощника ИИ всё чаще выступает как студент, оказавшийся без присмотра: путает процессы, ломает регламенты, а взрослые потом бегают и чинят. И пока корпорации уверяют, что всё под контролем, выглядит это скорее как надежда на удачу, а не на реальные системы безопасности.
