Как мошенники используют искусственный интеллект
«Предупреждён – значит вооружён». Поэтому начнём с обзора распространённых методов обмана с помощью нейросетей, которые сегодня применяют аферисты.
«Здравствуйте, я ваша тётя»
Множество мошеннических схем связано с созданием так называемых «дипфейков». Это технология, позволяющая правдоподобно синтезировать изображения, звуки и видео. С её помощью злоумышленники могут направить потенциальной жертве фотографию известного ей человека или голосовую аудиозапись от его имени, позвонить чужим голосом либо вступить в контакт по видеосвязи.
При таких возможностях аферистам остаётся только придумать убедительную легенду. Вот, например, кем они могут представиться, обратившись с дипфейком к рядовому гражданину:
Родственником или приятелем, который поведает о личной беде и попросит помочь деньгами. В развитие схемы мошенники воруют доступ к аккаунту человека в соцсети или мессенджере и рассылают голосовые сообщения оттуда, что дополнительно повышает доверие адресатов.
Начальником, который потребует организовать перевод средств на указанный счёт.
Симпатичным молодым человеком с сайта знакомств, который незаметно вовлечёт в общение и попытается добиться финансовой помощи.
Сотрудником авторитетного госучреждения, который убедит совершить определённые действия.
Представителем банка, клиентом которого является гражданин. Собеседник напугает, что на имя человека пытаются оформить заём, а для предотвращения хищения средств предложит создать «зеркальную заявку»
Цели аферистов во время подобных контактов могут быть разными. В одних случаях они напрямую стимулируют человека перевести деньги. В других уговаривают взять кредит и перечислить на «надёжный» счёт, который по факту принадлежит им самим. Иные мошенники стремятся получить секретные сведения, которые затем применяют в преступных схемах без участия потерпевшего: паспортные данные, логин и пароль от аккаунта в финансовом сервисе, номер банковской карты с защитным кодом.
А иногда аферистам достаточно узнать цифры из SMS-сообщения, которое пришло жертве. С помощью такого кода осуществляется вход в личный кабинет на «Госуслугах», откуда можно сделать много «полезного». Также цифрами из SMS можно удалённо подтвердить согласие человека оформить кредит, который затем переводится на счёт мошенников.
Злоумышленники используют дипфейки и в другом ключе: с помощью нейросетей создают компрометирующие человека изображения и видео. Затем преступники шантажируют жертву распространением компромата и вымогают деньги. Особенно хорошо это работает в отношении граждан, которым дорога публичная репутация.
«Купите то, чего нет»
Осенью 2022 года маркетплейс Wildberries предупредил граждан, что мошенники создают карточки несуществующих товаров. Когда покупатель размещает заказ, «продавец» предлагает продолжить общение в мессенджере, где направляет ссылку на оплату через посторонний платёжный сервис. Переведённые деньги пропадают в никуда.
Маркетплейс пообещал ввести дополнительные механизмы защиты от мошенников, но и пользователей попросил быть осторожнее: оплачивать заказы через внутреннюю платёжную систему или при получении в пункте самовывоза. Однако случай с Wildberries – не единственный, а у менее солидных платформ меньше ресурсов для отслеживания подобных махинаций. Да и сами покупатели «помогают» аферистам, соглашаясь выходить за пределы Интернет-магазина.
Упомянем ещё одну схему, связанную с несуществующими предложениями. Мошенники с помощью ИИ массово создают ботов и заполоняют ими популярные каналы и соцсети – например, в качестве комментаторов. Невзначай они начинают рекламировать что-то: заработок в миллион, выгодную покупку по акции и др. Когда случайный пользователь проявляет интерес, его начинают «обрабатывать» более тщательно.
«Хочу взять кредит»
С помощью дипфейков-аудиозаписей злоумышленники могут попытаться обмануть не только гражданина, но и кредитную организацию – чтобы оформить заём на чужое имя.
Оговоримся: в настоящее время в российских банках кредиты по одному только голосу не выдаются. Голосовые данные клиентов действительно используются при обслуживании, но, когда речь идёт о кредитовании, проводится многофакторная идентификация личности заёмщика: с использованием паспортных данных, биометрии, путём подтверждения заявки в личном аккаунте и пр.
Поэтому мошенники преуспеют в этом направлении, если в дополнение к голосу завладеют другими персональными данными человека: добудут фотографию паспорта, перехватят логин и пароль от банковского приложения, поменяют контактный номер телефона. Учитывая все доступные аферистам методы, такой риск есть.
И многое другое…
Нет никаких сомнений в том, что мошенники будут использовать инструментарий нейросетей всё интенсивнее, так что каждый день грозит появлением новых угроз. Да и разработок в сфере ИИ становится всё больше. Например, в феврале 2024 года в СМИ появилась информация о сайте OnlyFake, на котором можно создавать фотографии поддельных документов – в том числе паспортов и водительских прав. Подделками преступники пользовались и раньше, но изготовление занимало много времени. А с помощью подобного сервиса добиться результата можно за считаные минуты. При наличии же скан-копии «паспорта» аферисты получают самые разнообразные возможности…
Ещё хуже то, что злоумышленники комбинируют потенциал ИИ с другими современными технологиями. Приведём типичный пример. Киберпреступники активно используют «фишинг»: создают поддельные Интернет-сайты со знакомым пользователям интерфейсом и адресом. Жертве направляют сообщение со ссылкой на такой сайт и мотивируют пройти по ней: получить подарок, прочитать важное сообщение, оставить заявку.
Человек заходит на страницу и вводит персональные сведения, которые оказываются в руках аферистов. Похожим образом мошенники заставляют скачать и установить вирусное приложение, которое позволяет им перехватить управление смартфоном или пересылает имеющуюся в памяти устройства информацию.
В результате таких действий мошенники получают доступ к личным аккаунтам человека. Там они находят подходящего знакомого и связываются с ним, чтобы «украсть» голос и сгенерировать с помощью ИИ аудиозаписи. Далее мошенники возвращаются к первоначальному «объекту» и, используя дипфейк, вынуждают сделать перевод на свой счёт.
Как защититься от мошенничества с использованием ИИ
Учитывая, что злоумышленники применяют целый арсенал средств, обороняться нужно не только от нейросетей как таковых, а от любых опасностей.
Используйте для важных аккаунтов и приложений сложные пароли, периодически меняйте и не передавайте в чужие руки.
Не пересылайте копию паспорта и другую конфиденциальную информацию по незащищённым Интернет-каналам, через соцсети и мессенджеры.
Не переходите по ссылкам, полученным от неизвестных лиц.
Не устанавливайте на смартфон непроверенные приложения.
Не сообщайте по телефону конфиденциальные сведения (номера карт, реквизиты паспорта, учётные данные) и коды из SMS-сообщений. Запомните: ни один сотрудник «настоящих» организаций или госорганов такую информацию запрашивать не станет.
Не совершайте финансовых операций по указке телефонного собеседника. В первую очередь это касается случаев, когда вас просят перевести на некий счёт собственные или кредитные деньги, – даже если это якобы счёт полиции или банка, который выдаст заём.
Отдельное внимание стоит уделить психологической подготовке. Мошенники искусно манипулируют чувствами людей. Их задача – «расшатать эмоции» жертвы: вызвать радость, страх, панику, тревогу, желание воспользоваться супер-акцией и т.д. В таком состоянии человек не контролирует себя и решается на нужные преступнику действия. По той же причине злоумышленники любят торопить жертв с принятием решений и связываться с ними в неожиданное время: например, рано утром или поздно ночью. Так что важно критически оценивать любые попытки вывести вас из равновесия.
Ещё один метод психологического давления, который успешно применяют аферисты, – влияние авторитета. Они часто представляются сотрудниками правоохранительных органов или других госучреждений. Иногда человека «обрабатывают» целой группой: переводят от одного «важного специалиста» к другому, в результате жертве кажется, что ею занимается серьёзная структура, и соглашается выполнять любые указания.
Что касается противодействия плодам искусственного интеллекта – дипфейкам, – приведём ряд советов:
Придумайте для своей семьи и близкого круга кодовое слово. С его помощью вы сможете сигнализировать друг другу, кто вышел на связь, особенно когда обсуждаются чувствительные темы.
Если вам позвонил или начитал голосовое сообщение знакомый, чья просьба вызывает подозрения либо связана с финансовыми операциями, не спешите соглашаться. Свяжитесь с человеком по другому известному каналу и поговорите «вживую».
Если же собеседник представился сотрудником некой организации, не используйте для обратной связи номер, с которого поступил звонок, он тоже может быть «фейковым». Найдите для проверки другой контакт на официальном сайте учреждения.
Распознать дипфейк можно и непосредственно во время телефонного разговора или сеанса видеосвязи. Созданные нейросетями образы ведут себя менее живо и натурально, чем прототипы, не знают их любимых словечек и говорят короткими рублеными фразами. Для проверки стоит задать ряд вопросов: дипфейк рано или поздно начнёт отвечать неестественно или невпопад. При общении по видео можно попросить визави сделать необычное движение: такие задачи даются цифровым подделкам с трудом.
Если взломали ваш аккаунт в соцсети или мессенджере, как можно скорее восстановите контроль над ним либо заблокируйте и сообщите об инциденте близким.
Без серьёзных поводов не беседуйте с незнакомцами по телефону, чтобы не «украли» ваш голос. Как говорится в одном из исследований, для создания аудио-дипфейка с помощью ИИ мошенникам достаточно заставить человека говорить буквально 3 секунды.
По той же причине не увлекайтесь передачей голосовых сообщений через мессенджеры неизвестным лицам.
Для успешного противостояния липовым продавцам на маркетплейсах и других Интернет-ресурсах внимательно изучайте их перед тем, как начнёте тратить деньги. Почитайте отзывы о товаре и компании, поищите информацию через обычный поисковик. Не отправляйте платёж на неизвестный кошелёк по реквизитам, присланным через мессенджер. Догнать деньги будет крайне сложно, так что лучше найти товар-аналог у более надёжного продавца.
Что делать, если мошенники добились своего
Если вы всё-таки стали жертвой хитроумного обмана, как можно скорее напишите заявление в полицию. В обращении подробно опишите детали происшествия и приложите имеющиеся свидетельства того, как действовали аферисты.
Сделайте это в письменном виде с требованием провести внутреннее расследование и аннулировать кредитный договор. Далее остаётся ждать, по возможности помогая полицейским и службе безопасности кредитной организации: отвечать на вопросы, предоставлять запрошенные сведения.
Правда, в случаях, когда преступники убедили потерпевшего самостоятельно взять деньги и перечислить на их счёт, добиться аннулирования займа бывает непросто. В подобной ситуации единственным выходом может стать банкротство. Оно позволяет списать кредитные долги независимо от того, появились они у человека по его собственной инициативе или были навязаны обманным путём.
