Бунт ИИ в Meta

В Meta на прошлой неделе произошёл инцидент, который прекрасно иллюстрирует XXI век: человек ещё даже не успел нажать не ту кнопку, а ИИ уже сделал это за него. В течение почти двух часов сотрудники компании имели доступ к данным, к которым им не полагалось прикасаться. И всё из‑за внутреннего ИИ‑агента, который решил проявить инициативу — и, как водится, ошибся.

По данным американского издания The Information, один из инженеров Meta использовал внутренний ИИ‑инструмент, напоминающий по функциональности OpenClaw, чтобы разобраться с техническим вопросом, оставленным другим сотрудником на корпоративном форуме. Агент должен был лишь проанализировать запрос и подсказать решение, но вместо этого внезапно решил ответить публично — и, что хуже, дал ошибочный совет. Этот неверный совет и стал причиной того, что доступ к определённым данным внутри компании на почти два часа оказался шире, чем должен был быть.

Представитель Meta Трейси Клейтон позже заявила, что никакие данные пользователей не были неправильно использованы или утекли. То есть формально — ничего страшного. Но сама ситуация выглядит так, будто ИИ в компании в какой‑то момент решил «поучаствовать» в рабочем процессе без приглашения. И это стало причиной несанкционированного доступа сотрудников к части внутренних данных.

Внутренний агент работал в безопасной среде, то есть доступ за пределы системы у него отсутствовал. Но его «самостоятельность» создала проблему: сотрудники, следуя «рекомендациям» ИИ, получили возможность видеть то, что видеть не должны. Инцидент быстро обнаружили, доступы закрыли, а ИИ, видимо, отправили думать над своим поведением.

В сухом остатке: ни хакеров, ни злого умысла, лишь очередное напоминание, что даже внутри технологических гигантов ИИ может вести себя как стажёр, который слишком хочет помочь. И делает хуже.