ИИ немедленно выписал штраф
Никита Королев о цифровой наркоторговле
В последнюю неделю Facebook начал проявлять озабоченность моими доходами: алгоритмы соцсети стали в среднем восемь раз в день подсовывать в ленту баннеры, предлагающие поработать курьером. Объявления, на которых изображены парни с характерными для известных российских сервисов доставки рюкзаками, обещают от 50 тыс. руб. в неделю и свободный график. Кликнув на одно из них, я провалился в Telegram-чат с «кадровиком». Она (на аватарке была девушка модельной внешности) ожидаемо предложила поработать закладчиком. Упражнение повторилось пять раз за несколько часов с разными объявлениями. Менялась лишь внешность девушек.
Никита Королев
Фото: Глеб Щелкунов, Коммерсантъ
Никита Королев
Фото: Глеб Щелкунов, Коммерсантъ
Facebook и наркоторговцы не первый год мечутся в своих отношениях между любовью и ненавистью. В 2018 году вице-президент компании Моника Бикерт утверждала, что она борется с рекламой наркоторговли, рассказав о разработке технологии, способной анализировать тексты объявлений и блокировать их еще до публикации. Однако осенью 2021 года благодаря громким расследованиям The Wall Street Journal всплыла противоречивая информация. Алгоритмы одной из самых технологически продвинутых IT-компаний в мире способны подсовывать пользователю контент, который вызовет эмоции и заставит листать ленту. А фильтровать объявления наркоторговцев — нет. Особенно если авторы прилагают хоть какие-то усилия для обмана глуповатого ИИ.
В России еще в феврале 2021 года заработал закон «о саморегулировании соцсетей», который обязывает площадки находить и блокировать незаконный контент. Но владельцы зарубежных соцсетей «неохотно соблюдают закон», говорят юристы, предполагая, что алгоритмы «не настроены на выявление объявлений на русском языке». Действительно, в англоязычной среде модерация явно лучше, а хуже всего, по словам экспертов, на многочисленных африканских языках и диалектах.
При этом топ-менеджер крупной IT-компании утверждает, что обучить нейросеть выявлять подобные объявления и даже вести осмысленную переписку с людьми, предлагающими заняться торговлей наркотиками, «можно, хоть и дорого»: «Нейросеть теоретически сможет находить ключевые слова и вычленять семантику. Но здесь работает принцип "снаряд—броня": как только злоумышленники научатся обходить логику такой системы, нейросети придется дообучаться».
Похоже, этот принцип применим и к отношениям между российскими властями и Facebook. Только броня здесь — нежелание корпорации модернизировать ИИ-системы, а снаряд — штрафы. До недавнего времени снаряды были мелковаты — штрафы исчислялись тысячами рублей. Только 24 декабря 2021 года суд наложил на Facebook оборотный штраф почти в 2 млрд руб. Возможно, это все же заставит компанию тратить больше средств на ИИ-модерацию рекламы в России.