Угрожает ли разработанная deepfake-технология безопасности компании

Российский программист подключился к Zoom-конференции под видом Илона Маска, но никто из участников не заметил подмены. Как утверждает разработчик Али Алиев, с помощью его технологии создания deepfake можно подделать видеоизображение любого человека. Обучать нейросеть не требуется, достаточно одной фотографии. Программа выложена в открытом доступе. Ожидает ли Zoom волна фальшивых Илонов Масков? И угрожает ли эта технология безопасности компаний? Разбирался Илья Сизов.

Российский разработчик Али Алиев утверждает, что написал программу для создания deepfake за пару часов. Чтобы притвориться Илоном Маском, Гарри Поттером или кем-то из знакомых, достаточно загрузить его фото в специальную папку. Алиев протестировал программу на своих коллегах, которые, похоже, не ожидали увидеть Илона Маска среди участников видеоконференции в Zoom.

Программа выложена в открытом доступе, и для создания deepfake подойдет любой достаточно мощный компьютер. На игровых, например, работает без нареканий, утверждает автор кода. Конечно, картинка получается не такая реалистичная, как при использовании сложной нейросети, говорит директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин.

Но, по его словам, для разговоров в Zoom такого качества достаточно: «Приглядевшись, можно понять, что это что-то не так. Несколько лет назад, когда только появились такие приложения, это было невероятно. Сегодня таким уже никого не удивишь. Тут даже не нужна нейросеть. Если качество передаваемого видео в мессенджерах не сильно высокое, а технологию подогнать так, чтобы синхронизация мимики и разговора была на уровне, и лицо все-таки выглядело человечнее, тогда с нами будут общаться не те, кого мы хотим видеть».

Автор предлагает использовать программу в развлекательных целях. Но применима ли она, скажем, в промышленном шпионаже, когда под видом сотрудника компании, которого ждут на конференции, к ней подключается совершенно другой человек? Консультант по интернет-безопасности Cisco Алексей Лукацкий относится к такой возможности скептически. Хотя Zoom в последнее время действительно оказался под пристальным вниманием хакеров. «Продукт, разработанный для домашних пользователей, внезапно обрел большую популярность, в том числе и среди корпоративных клиентов. Это привлекло внимание злоумышленников, которые достаточно быстро нашли огромное количество способов обойти невысокую защиту программы. Разумеется, сама компания предпринимает усилия по устранению уязвимостей.

Кроме того, никакие deepfake не будут страшны, если рассылать приглашения по определенному списку контактов и требовать вход по паролю».

Еще одно важное уточнение: программа, которая подделала облик Илона Маска, не может имитировать голос. Впрочем, и такие технологии, конечно, есть. В прошлом году в компании Тимура Бекмамбетова заявили о планах копировать речь знаменитостей. Разработчики записали видео, в котором объяснили, как работает сервис. Ролик озвучили синтезированные голоса Владимира Путина и Владимира Познера.

Авторы сервиса пообещали заключать контракты на использование голосов знаменитостей и заверили, что технология не попадет в неправильные руки. Но у мошенников есть и свои разработки. Прошлой осенью хакер позвонил главе британской энергетической компании, представился его партнером и потребовал перевести 243 тыс. фунтов. Голос был подделан с помощью deepfake. Разоблачить мошенника удалось только благодаря подозрительному номеру, с которого он звонил.

Тем временем розыгрыши в Zoom обернулись для российского пранкера уголовным делом. Он срывал дистанционные уроки в школах в Санкт-Петербурге. Теперь ему грозит штраф в 200 тыс. руб.