Когнитивный хакинг выходит на тропу кибервойны
Высокие технологии переводят психологическое манипулирование на новый уровень
Повсеместное распространение интернета, социальных сетей и других видов социального общения в киберпространстве привели к явлению, которое специалисты называют когнитивным хакингом. В основе этого явления лежит особый вид социальной инженерии — совершаемая в киберпространстве манипуляция общественным сознанием — не только для кражи денег или данных, но и для влияния на поведение пользователей. Эксперты считают, что приемы когнитивного хакинга могут применять не только преступники, но и недобросовестные компании, СМИ или политики — посредством кампаний по дезинформации или распространения на интернет-платформах контента, меняющего восприятие действительности пользователями.
Фото: Дмитрий Коротаев, Коммерсантъ / купить фото
Фото: Дмитрий Коротаев, Коммерсантъ / купить фото
Многоходовочка
В последнее время все больше специалистов в области IT-безопасности и психологии обращают внимание на растущее число случаев, когда злоумышленники успешно обходят технические способы защиты в киберпространстве, используя психологические уловки на когнитивном (познавательном) уровне. Такое явление получило название «когнитивный хакинг» — кибератака, нацеленная на манипуляцию человеческим восприятием действительности с использованием уязвимостей человеческой психологии.
Цель таких атак — изменение человеческого поведения или отношения к каким-то вещам, часто они совершаются при помощи дезинформации или подтасовки фактов.
Эксперты определяют когнитивный хакинг как определенную форму социальной инженерии, то есть манипуляций, направленных не на отдельную личность, а на широкие массы, совершаемых в киберпространстве и при помощи технологий используемых хакерами — фишинг, спуфинг и т. д. В интервью “Ъ” американский математик, автор универсальной теоремы аппроксимации, известной как «теорема Цыбенко», профессор инженерии Дартмутского колледжа Джордж Цыбенко сообщил, что тема когнитивного хакинга стала актуальной на фоне «бурного роста популярности соцсетей, которая привела к сегментации общества — что может быть использовано в политических и экономических целях».
Вице-президент занимающейся кибербезопасностью американско-израильской компании Ironscales Иэн Бакстер отмечает, что «сейчас, больше чем никогда ранее, организации и специалисты в области безопасности должны понимать, что при таких атаках используются психологические приемы. Только понимая, как именно злоумышленники дурачат пользователей, специалисты могут ликвидировать пробелы в системах безопасности и снижать риски обмана».
По его мнению, злоумышленники все чаще используют психологические приемы, эксплуатируя такие человеческие эмоции, как желание сделать приятное, эмпатия, симпатия, страх.
В качестве примера недобросовестной эксплуатации определенных форм поведения он приводит ставшую популярной хакерскую атаку — компрометацию корпоративной электронной почты — когда сотрудник-жертва получает письмо якобы от вышестоящего сотрудника другого департамента своей организации, который принуждает к немедленным действиям, например, внести «точные данные» на оплату счету, поскольку ранее якобы были введены «неточные данные». Распространение коронавируса привело к усилению активности различных мошеннических схем и в рунете. Компании в сфере кибербезопасности, в частности, зафиксировали рассылку фейковых писем якобы от государственных структур, в которых содержится вредоносное программное обеспечение.
Отвлечь деталями внимание от главного
По подсчетам исследовательской компании Webroot, в 2019 году резко выросли объемы фишинговых атак — создание фейковых сайтов или ссылок, мимикрирующих под сайты известных компаний. Сообщается, что число таких атак в прошлом году выросло на 400%. Почти четверть (24%) вредоносных адресов страниц (URL) находились на легальных доменах, таким образом преступники использовали доверие пользователей к таким доменам для создания на них вредоносного URL. Кроме того, Webroot отмечает, что фишинг стал более персонализированным,— программы, которые используют злоумышленники, могут отслеживать деятельность конкретного пользователя в интернете и сообщать ему о распродаже в его любимом магазине, давая ссылку с адресом, похожим на сайт этого магазина. По данным же Ironscales, почти четверть вредоносных электронных писем теперь содержат ссылки на фишинговые сайты. Тенденция продолжилась и в этом году — в июле поставлен рекорд по фишингу среди клиентов российских банков: появилось 312 доменных имен, что больше, чем за все предыдущие месяцы 2020 года, вместе взятые.
Вице-президент Ironscales Иэн Бакстер считает, что подобные электронные письма используют такой психологический прием, как «слепота невнимания», когда внимание жертвы преднамеренно отвлекается деталями — сообщениями о распродаже, предупреждением о якобы краже данных или несанкционированном переводе средств, чтобы он не заметил главного — поддельного адреса в ссылке, который может отличаться всего на один знак. Подобный вид психологической манипуляции, который сейчас все чаще стали использовать хакеры, описывает известный еще с 1990-х видеоэксперимент. Перед просмотром видео испытуемых просят посчитать число пасов, сделанных баскетболистами в белой форме. Пока испытуемые сконцентрированы на игроках в белой форме, прямо посреди игроков появляется человек, одетый в костюм гориллы/медведя. Он находится в самом центре происходящего и в какой-то момент даже начинает танцевать. Однако многие испытуемые, чье внимание сосредоточено на мяче и мелькающих перед глазами игроках в яркой белой форме, попросту не замечают трюк с обезьяной, который проворачивают с ними авторы видео.
Помимо фишинга злоумышленники используют приемы когнитивного хакинга и при другом популярном виде хакерской атаки — спуфинге (маскировка вредоносной программы под легальную.— “Ъ”).
В марте 2016 года один из высокопоставленных сотрудников избирательного штаба Хиллари Клинтон, Джон Подеста поддался на поддельное уведомление о нарушении безопасности якобы от Google, ввел свои учетные данные на фейковой странице. После этого произошел взлом, и злоумышленники получили доступ к его данным.
Некоторые западные эксперты опасаются, что когнитивный хакинг может быть использован на вполне легальных платформах с целью манипуляции пользователями и их восприятием действительности, например, в политических целях. Бывший советник по высоким технологиям в администрации Барака Обамы, а ныне эксперт специализированного портала TechRepublic Дэн Патерсон полагает, что когнитивный хакинг уже стал «новым фронтом кибервойн», к которым относят и кампании по дезинформации на таких ресурсах, как Facebook или Twitter; а также распространение полуфейковых новостей — особый подбор или подтасовка реальных фактов для создания ложных выводов. Как известно, с началом пандемии COVID-19 интернет захлестнула волна мифов/фейков и полуфейков о вирусе и борьбе с ним. Например, в ряде стран неоднократно циркулировали фейковые сообщения о том, что против вируса помогает лимон или имбирь. В свою очередь, к полуфейковым новостям можно отнести сообщения об успешных или безуспешных испытаниях того или иного препарата, но на самой предварительной стадии и на основании незначительной выборки — из чего делался вывод о том, что тот или иной препарат помогает или не помогает от вируса.
Более технологичные алгоритмы работы тех или иных легальных интернет-платформ могут вызвать и более технологичные способы когнитивного хакинга. В интервью Financial Times эксперт в области ИИ и социальных медиа Пол Даброва сообщил, что «в отличие от Facebook, который предлагает вам контент от ваших друзей или их друзей, ИИ платформы TikTok использует более предиктивный механизм, основанный на анализе вашего поведения. Анализируя поведение, ИИ этой платформы предлагает в друзья таких пользователей или их контент, который, по его мнению, может вам понравиться. Обладая такими возможностями, ИИ TikTok может воздействовать на поведение своих пользователей так, как это делает инструктор с собаками, например размещая цепи той или иной позитивной или негативной информации для стимулирования поведения пользователей в том или ином направлении».
Полуфейки опаснее фейков
Профессор Цыбенко из Дартмутского колледжа сообщил “Ъ”, что некоторые виды фишинговых атак, использующих приемы когнитивного хакинга, можно отражать техническими способами, например, при помощи фильтрации электронных писем или лингвистического анализа фейковых новостей. Однако с кампаниями по дезинформации, применяемыми в киберпространстве и также использующими приемы когнитивного хакинга, по мнению ученого, можно бороться только «при помощи повышения уровня образования в обществе и/или анализа происхождения» такой кампании. Среди приемов борьбы он, в частности, называет:
- понимание того, насколько та или иная информация соответствует существующим научным представлениям о предмете не только в данной местности и стране, но и остальном мире;
- насколько логично изложена та или иная информация — для чего необходимо уметь логически мыслить или быть знакомым с главными принципами логических построений и их нарушениями;
- понимать, исходит ли какая-то информация из заслуживающего доверия источника или нет.
И если с проблемой фейковых новостей могут бороться современные технологии ИИ, которые уже применяет Facebook, то проблема полуфейков представляется более сложной. Тем не менее специалисты пытаются бороться и с ними. Так, например, в Университете Ливерпуля уже работает команда экспертов, которая разрабатывает доступную методику обучения для распознавания полуфейков — как путем образовательных программ для населения, так и путем создания специального чатбота для пользователей соцсетей и мессенджеров. Автор проекта Елена Муси отмечает, что «более половины циркулирующих в интернете фейков по сути таковыми не являются,— это не сфабрикованный ложный контент, выдуманный факт или событие. Это дезинформация, созданная при помощи подтасовки или преднамеренно ложной трактовки реальных фактов или контента. Такие полуфейки могут распространять даже заслуживающие обычно доверия СМИ, которые в погоне за сенсацией или не очень понимая суть вопроса, могут делать ложные выводы из реальных фактов».