ИИ и человеческий фактор: куда утекают наши данные

Тема утечек данных уже давно не новость, но сейчас она заиграла новыми красками благодаря искусственному интеллекту. Как объясняет эксперт Института экономики роста имени Столыпина Татьяна Кожевникова, любые сведения — от доходов сотрудников до их хронических болезней — могут внезапно оказаться на свободном плавании, если их обрабатывают с помощью ИИ без должной осторожности. Нет, сами нейросети не бегают по серверам, собирая наши тайны. Главная проблема остаётся старой, как мир: человек, его невнимательность и его ошибки.

История из США показывает это особенно ярко. Глава агентства по кибербезопасности Мадху Готтумуккала загрузил во внешний ИИ служебные документы собственного ведомства. Утечку заметили системы безопасности. Специалисты уверяют, что ничего критически секретного не всплыло, но осадочек, как говорится, остался: если даже руководитель агентства может так промахнуться, то что остаётся обычным людям, привыкшим доверять свои данные компаниям и сервисам? Особенно когда ИИ становится стандартным инструментом.

Кожевникова подчёркивает: открытые нейросети нельзя использовать для загрузки персональных данных сотрудников или коммерческой тайны — это запрещено законом. Однако нейросети прекрасно подходят для задач, не связанных с конфиденциальностью: разработка учебных материалов, перевод открытых текстов, создание образовательных курсов. Компании, которым всё-таки нужно использование ИИ для работы с чувствительной информацией, создают внутренние закрытые модели без выхода во внешний интернет.

По её мнению, ИИ должен быть «вторым пилотом»: помощником специалиста, а не самостоятельным «мозгом». Но и сам человек, работающий с такими инструментами, должен быть обучен, внимателен и, что важно, достойно оплачен. Иначе никакая технология не удержит от ошибок.

Технический директор компании HFLabs Никита Назаров добавляет: большинство инцидентов происходит не по злому умыслу, а из-за дыр в процессах. Например, пользователи делились ссылками на свои диалоги с ChatGPT, эти ссылки индексировал Google, и вдруг приватные разговоры становились доступны. Лазейку быстро закрыли, но факт остаётся: защита работает, только когда о ней думают.

Для того чтобы данные реально попали в общий доступ, нейросеть должна сначала быть обучена на них. В России обучают большие модели только крупные компании, у которых есть и специалисты, и ресурсы, и внутренние правила. Компании могут использовать данные клиентов для обучения только при наличии согласия. Назаров рекомендует внимательно читать документы перед подписью. Добросовестные компании, по его словам, предпочитают работать с обезличенными данными — когда реальные имена людей заменены на вымышленные.

Таким образом, ИИ сам по себе не создаёт угрозы. Опасность появляется там, где люди используют технологии неправильно, халатно или слишком доверчиво. И хотя нейросети множат возможности, они одновременно усиливают ответственность — особенно человеческую.