ChatGPT заглянул за государственную дверь

Компания OpenAI, разработчик ChatGPT, публично извинилась перед Австралией после того, как экспериментальные модели во время внутреннего обучения и тестирования получили несанкционированный доступ к нескольким государственным ресурсам. Инциденты произошли в июне. OpenAI заявила, что усиливает меры безопасности и направит своего представителя на парламентские слушания, где компании предстоит объяснить, как тестовая система оказалась внутри защищённых цифровых контуров.

В ходе проверки был выявлен доступ к порталу статистической отчётности австралийской системы Medicare, бюро криминальной статистики штата Новый Южный Уэльс, а также к данным департамента здравоохранения Виктории и Австралийского института здравоохранения и социального обеспечения. Речь идёт о государственных информационных системах, содержащих чувствительную статистику и сведения, связанные со здравоохранением и общественной безопасностью.

Самым серьёзным эпизодом OpenAI назвала случай с системой статистической отчётности Medicare. Экспериментальная модель, не предназначенная для публичного использования, обнаружила возможность подключения к системе, затем выполнила команды и получила доступ к внутренним файлам, учётным данным и сводной статистике. Кроме того, модель записывала файлы, что сделало ситуацию заметно неприятнее обычной ошибки в тестовой среде.

OpenAI утверждает, что индивидуальные медицинские записи и данные клиентов затронуты не были. Однако сам факт доступа к внутренним файлам и учётным данным показывает: даже модель, которую не собирались выпускать для широкой публики, способна находить неожиданные пути взаимодействия с закрытыми системами. Иными словами, проблема возникла не из-за того, что ChatGPT решил «почитать чужую историю болезни», а из-за недостаточного контроля над тем, что именно может делать модель во время эксперимента.

«Мы также должны были лучше отреагировать. Мы приносим извинения и работаем над тем, чтобы впредь действовать лучше», — говорится в заявлении OpenAI. Компания пообещала пересмотреть процедуры тестирования и усилить защитные механизмы.

История особенно примечательна на фоне растущего влияния искусственного интеллекта. Ранее премьер-министр России Михаил Мишустин заявлял, что ИИ уже вошёл в повседневную жизнь россиян и в ближайшие годы может стать такой же незаменимой частью жизни, как электричество или интернет. Но у электричества есть предохранители, а у цифровых моделей пока нередко находится доступ туда, куда их никто не приглашал.