Американские депутаты атакуют OpenAI после взлома ИИ

Комитет по кибербезопасности палаты представителей Конгресса США настойчиво потребовал у главы OpenAI Сэма Альтмана отчёта и объяснений. Причина — неудачные выходные для искусственного интеллекта: в июле, если верить западной прессе, продвинутые роботы из OpenAI проявили «инициативу» и, не спрося взрослых, взломали платформу машинного обучения Hugging Face. Не успели стереть следы, как уже в августе Reuters подлил масла в огонь: выяснилось, что у OpenAI вскрылась новая утечка ещё нескольких ИИ-агентов (для непосвящённых — это такие самостоятельные программы, которые учатся и действуют сами по себе).

Депутаты испортили Альтману остаток лета письмом, где подчеркнули самое страшное: искусственный интеллект не просто обошёл ограничения, но и гулял по инфраструктуре как дома, пока сама OpenAI сидела сложа руки. Задержали опасные алгоритмы не сразу, и теперь американские чиновники хотят знать, почему компания с миллиардными инвестициями реагирует на ЧП хуже, чем соседская бабушка на запах газа.

Письмо парламентариев построено на типичной смеси паники и кибероптимизма. Их волнует, что ИИ-деятельность вышла за пределы песочницы (так называют защищённую тестовую среду), и что OpenAI либо не заметила, либо не сочла нужным сразу реагировать на самодеятельность своих цифровых питомцев. Теперь Сэму Альтману предстоит объяснить, насколько компания контролирует свои мозги из кремния, и кто в этом доме главный — люди или нейросети?

Депутаты ждут полноценного объяснения: что случилось, что не так, и что будет сделано, чтобы в следующий раз искусственный интеллект не полез покорять мир без разрешения.