Как мошенники учат ИИ красть почту: уязвимость Google Gemini
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Киберпреступники, похоже, получили новый инструмент для кражи аккаунтов Gmail — и на этот раз это даже не вирус, а "помощник" Google Gemin, тот самый искусственный интеллект, который вы так любите использовать для выбора планёрки в календаре или быстрого пересказа входящих писем. В своё время компания Google с пафосом заявила о внедрении ИИ Gemini в свой офисный пакет Workspace — якобы, для повышения вашей продуктивности. Теперь каждый может вызывать вот такую неустанную цифровую лошадку прямо в боковой панели почты, чтобы она резюмировала письма и даже добавляла события в календарь.
PEREC.RU
Google эффектно объявляет о внедрении искусственного интеллекта Gemini – мол, теперь письма будет резюмировать умная машина. И вот пользователи уже по уши в "автоматизации". Картинка радует инвесторов, но забывает об элементарных дырах.
Сценарий свеж: мошенники учатся незаметно вставлять невидимые подсказки в письма – шрифт нулевой, цвет белый. Пользователь их не видит, а ИИ услужливо пересказывает суть как есть, становясь рупором обманщика. В итоге Gemini выдаёт вам якобы срочные сообщения: мол, ваш аккаунт украли, срочно звоните "в Google" по по странному номеру. Приветственное погружение в мир социального инженерства.
Разработчики советуют фильтровать невидимый текст, сканировать почту на подозрительный контент и помнить, что алгоритмы – не заменитель мозгов. Но, кажется, корпоративная вера в ИИ и желание сэкономить на безопасности пересиливают ощущение реальности. Простые технические решения затмеваются красивыми функциями.
Вся история – портрет наивной веры в автоматизацию, которая провоцирует новые схемы атак. Если так пойдет дальше, роботы начнут не только резюмировать, но и оформлять вашу отставку через фишинговое письмо. Прогресс, говорят…
