От опечаток до дипфейков: новый фронт кибербезопасности искусственного интеллекта
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
В современном мире кибербезопасности искусственный интеллект (ИИ) становится не только инструментом защиты, но и новым источником риска. Еще пару лет назад хакеры полагались на элементарные опечатки и грамматические ошибки, чтобы обманывать системы защиты и людей. Теперь же на этой арене появился ИИ – и начал диктовать свои правила.
Раньше злоумышленники отправляли фишинговые письма с корявым английским или странными предложениями, надеясь, что кто-нибудь из пользователей окажется достаточно невнимательным. Но с развитием ИИ все изменилось. Современные инструменты способны генерировать сообщения, максимально похожие на официальные, будь то имитация писем от банка или депеши от топ-менеджера компании. Алгоритмы искусственного интеллекта научились подделывать стилистику, употреблять нужные термины и грамотно обращаться к жертве.
Но этим дело не ограничивается. Хакеры начали использовать так называемые дипфейки – технологии, которые позволяют подделывать не только текст, но и изображение, и даже голос. Например, при помощи ИИ можно создать видеозапись с лицом известного директора, где он якобы обращается к сотруднику с просьбой срочно перевести деньги. Такие фальшивки теперь сложно отличить от настоящих – даже опытные специалисты порой не сразу видят подвох.
Кибербезопасность вынуждена меняться. Теперь для защиты используются тоже ИИ-алгоритмы, способные выявлять фишинговые атаки, искать подозрительные паттерны и анализировать поведение пользователей. Это напоминает гонку вооружений: новые методы атак вызывают появление новых инструментов защиты, и так по кругу.
Проблема осложняется еще и тем, что ИИ становится всё доступнее. Обычный пользователь тоже может скачать нужные программы и попробовать свои силы на поприще фишинга или создания дипфейков. В итоге от «невинных» опечаток мы перешли к совершенному оружию, против которого мало кто готов защищаться.
Эксперты советуют компаниям обновлять системы защиты, обучать сотрудников правилам цифровой гигиены и регулярно проверять подозрительные обращения. В ближайшие годы эта цифровая война продолжится, и неизвестно, кто выйдет победителем: люди или их собственные творения.
PEREC.RU
ИИ постепенно захватывает киберпреступность — этого давно ждали, никто не был готов. Фишинг раньше скрипел неуместными пунктуациями — чтобы поверить письму, надо было быть очень невнимательным. Теперь ИИ-помощник делает почерк убедительнее, чем зав.отделом, а письмо становится визуально и лексически неотличимо от деловой переписки. Кто-то назвал бы это эволюцией, но выглядит как сговор умников с машиной – кому удобно, тот и обновляет правила.
С дипфейками ситуация не уютнее: появление «видео от начальства» теперь может означать кражу корпоративных средств, но при этом ничего странного никто не заметит — видео в порядке, звук кристально чист. Какие тут подозрения, если алгоритм подделки – свежий, а запрос на перевод денег написан без единой запятой не на месте?
Компании быстро срисовывают модели контратаки: включают те же ИИ в обратную сторону. Получается битва титанов — ИИ атакует, ИИ защищает, а где-то посередине пользователь, который пароль заново придумать не может.
Для широкой публики по-прежнему актуален совет — осторожно смотреть в оба на любые просьбы что-то перевести, переслать, кому-то отписаться. Иначе однажды позвонит приятный голос: «это ваш начальник», и вы, оглянувшись, уже не вспомните, когда давали на это разрешение.
