Как злоумышленники используют ИИ в своих схемах

Мошенники стали выманивать деньги с помощью голосовых сообщений. В декабре 2023-го злоумышленники начали рассылать в Telegram аудиопослания от знакомых с просьбой срочно перевести определенную сумму, пишет РБК. Для этого они взламывают аккаунт и генерируют голосовые файлы с помощью искусственного интеллекта. Как звучат такие сообщения? И можно ли защитить свои данные? Расскажет Григорий Колганов.

Обычными сообщениями с просьбой перевести деньги потенциальную жертву уже почти не обмануть. За последние несколько лет такие послания получил чуть ли не каждый второй. Доверие к ним если не потеряно, то точно снижено. Бдительность жертвы теперь проверяют на прочность голосовыми. Мошенники взламывают аккаунты и рассылают сообщения, записанные якобы голосом отправителя:

Это сообщение в конце декабря в Telegram получили друзья москвички Натальи. Она признается, что часто общается с мужем голосовыми, причем использует длинные фразы. Видимо, из них мошенники и сгенерировали звук, считает собеседница “Ъ FM”: «У меня был выключен телефон, и коллеги, друзья начали звонить мужу, чтобы узнать, все ли в порядке. От моего имени приходили очень странные сообщения, с моим голосом, но измененным. То есть искусственный интеллект сгенерировал сообщение буквально на четыре секунды о том, что я прошу 40 тыс. руб. на пару часов. Стало понятно, что меня взломали.

Люди, которые со мной общаются, прекрасно понимают, как я разговариваю, есть узнаваемые интонации, слова-паразиты и т. д. Все друзья задавали контрольные вопросы, например, как зовут мою собаку, где мы были весной и другие подобные вещи. Потому что голос действительно был мой.

Из всех, кому была рассылка, попался только один человек, моя коллега, с которой мы работали буквально пару месяцев. То есть мы знакомы, но близко человек меня не знает. Она перевела деньги, причем от души. Просили 40 тыс. руб., а она перевела 60 тыс. руб. Я потом с ней созвонилась, спросила, как же так. А она ответила, что подумала, что у меня проблемы».

Наталья считает, что злоумышленники получили доступ к ее аккаунту через сайт, где она недавно прошла регистрацию. Девушка использовала привязку к Telegram. Киберпреступники также ищут жертв на сайтах знакомств, отмечает преподаватель Московской школы программистов Кирилл Ситнов:

«Они могут получить запись разными способами. Например, найти человека через какое-нибудь приложение для знакомств, познакомиться, попытаться развести на разговор голосовыми сообщениями или по видеосвязи. Если мошенники получат достаточно длинную запись, чтобы в ней было передано большинство звуков и интонаций, то дальше через нейросеть они уже могут генерировать нужные слова, фразы и предложения.

В зависимости от того, насколько качественным и подробным будет исходник, настолько же хорошим получится итоговый результат. Сейчас без проблем можно так же создать видео. Опять-таки берется видеозапись, и на нее накладывается аудиодорожка, а ИИ меняет мимику и жесты.

Чтобы распознать фейковый файл, отправленный мошенником, в первую очередь нужно попытаться выйти на телефонный разговор. Потому что в реальном времени очень сложно сгенерировать чужую речь.

Единственный признак, по которому можно вычислить, что, скорее всего, вас пытаются обмануть,— это очень большие временные промежутки между отправкой голосовых сообщений. Помню, мне приходилось ждать по 10 минут ответа в форме "да-да, я согласен" или "да-да, прикольно сказал". Пара фраз, которые реальный человек записал бы достаточно быстро».

Только голосом мошенники не ограничиваются. Они также вступают в переписку под видом владельца аккаунта и используют Photoshop, чтобы отправить фото карты, куда нужно перевести деньги. Как правило, на ней указано настоящее имя жертвы, но фальшивый номер счета, пояснил директор компании «B2G-Алгоритмика» Станислав Косарев:

«Они используют свои банковские счета и посредством обычного Photoshop меняют имя и фамилию. Соответственно деньги уходят на мошеннический счет, а человек, которого обманывают, думает, что действительно пересылает деньги своему знакомому. А на самом деле у того уже угнали Telegram-аккаунт, а голос и банковский счет вообще не его».

Подобные схемы мошенничества используют не только в Telegram. Как пишут СМИ, случаи с отправкой фейковых голосовых отмечались и в VK. Запрашиваемые суммы варьируются от 3 тыс. руб. до 200 тыс. руб.

С нами все ясно — Telegram-канал "Ъ FM".

Дарья Фоменко, Светлана Белова