Не сдавайте ИИ чужие секреты

В медицинском журнале описали случай, который напоминает: чат-бот может уверенно ответить на вопрос и при этом не понять, что именно человек собирается делать. Мужчина решил отказаться от поваренной соли и спросил ИИ, чем заменить хлорид натрия — химическое название обычной соли. Бот предложил бромид натрия. Мужчина три месяца использовал его вместо соли, после чего провёл три недели в больнице. Нейросеть отреагировала на химическую формулировку, но не уточнила, что речь о пищевом продукте. Человек, разбирающийся в лекарствах, вероятно, задал бы дополнительные вопросы.

Этот пример — не повод считать, что любой ответ ИИ опасен, но хорошее напоминание: чат-бот не врач, не юрист и не специалист по финансам. Его ответы нужно проверять, а личные данные перед отправкой — тщательно отбирать. О том, какую информацию можно сообщать нейросети, корреспонденту chel.aif.ru рассказал ИИ-интегратор Ден Ах.

Эксперт предлагает разделить сведения на три уровня. Первый — информация, которую не страшно произнести вслух в очереди в поликлинике: бытовые вопросы, рецепты, открытые документы, собственные тексты и идеи. Второй — личные обстоятельства, договор без реквизитов и вопросы о собственном здоровье. Их можно обсуждать с ИИ, но пользователь должен понимать, что данные покидают его телефон. А рекомендации по здоровью, праву и деньгам нельзя превращать в готовое решение без проверки у профильного специалиста.

Третий уровень — сведения, которые не следует отправлять чат-боту вообще: чужие данные и всё, что может помочь украсть деньги или выдать себя за другого человека. К таким сведениям относятся паспортные данные, СНИЛС и водительское удостоверение; номера банковских карт, реквизиты и коды из СМС; пароли, в том числе случайно попавшие в сообщение вместе с фрагментом переписки. Не стоит загружать чужие медицинские документы, клиентские базы, резюме, сведения о детях, служебные документы и материалы, которые вы обязались не разглашать.

Удаление переписки из интерфейса не означает, что данные гарантированно стёрты с серверов. В 2025 году суд в США обязал одного из разработчиков нейросетей хранить пользовательские данные, которые в обычных условиях могли быть удалены. Поэтому рассчитывать на кнопку «удалить» как на безусловное уничтожение информации не стоит.

Передача чужих сведений — это не только вопрос осторожности, но и ответственности. По словам Дена Аха, с 30 мая 2025 года в России увеличились штрафы за незаконную обработку персональных данных: для граждан — от 10 до 15 тысяч рублей, для организаций — от 150 до 300 тысяч рублей.

Если нужно попросить ИИ разобрать документ, сначала обезличьте его: замените имя на «Сторона А», название компании — на «Организация Б», удалите реквизиты и другие идентификаторы. Обычно этого достаточно, чтобы получить полезный ответ, не выкладывая лишнее. Перед отправкой задайте себе простой вопрос: что я потеряю, если этот текст завтра станет общедоступным? Если ответ — «ничего», риск ниже. Если нет — не отправляйте его в чат.