Amazon случайно потратил $1,8 млн на нейросеть Claude — только чтобы она доделала скучные задачи вместо программистов

Amazon официально признал, что по ошибке потратил 1,8 миллиона долларов на услуги искусственного интеллекта Claude. Причина? Он выполнял рутинные, не особо важные задачи по программированию, которые обычно поручают младшим сотрудникам. Вместо скучного ручного труда, Amazon решил перегрузить нейросеть, но, как выяснилось, эта фантазия дорого обошлась.

Заказ был изначально прост: оформить и закончить шаблонные куски кода, чтобы освободить время инженерам для более сложных решений. Однако кто-то забыл ограничить «аппетиты» ИИ или контролировать расходы — и система автоматических расходов продолжала начислять деньги на счет Claude.

Ошибку обнаружили не сразу. Прошло немало времени, прежде чем специалисты поняли: сверхрасходы на заметно не изменившейся производительности — результат того, что банальные задачи теперь выполняет искусственный интеллект по тарифу премиального ИТ-консультанта.

Руководители Amazon признали ситуацию досадной и пообещали ужесточить контроль расходов на ИИ. Ошибка стала отличным примером для всей индустрии: внедрять технологии ради самих технологий, не учитывая экономику процесса — сомнительная идея.