Facebook зовет на помощь нейросеть
Как социальная сеть противостоит фейкам
Facebook начнет проверять на достоверность фото и видео. Об этом социальная сеть сообщает в своем блоге. Таким образом она собирается бороться с фейками. Находить подозрительный визуальный контент будет нейросеть, а непосредственным фактчекингом займутся компании-партнеры социальной сети.
Фото: Зотов Алексей, Коммерсантъ
Сомнительные фото и видео получат специальную отметку. Сейчас Facebook проверяет на предмет дезинформации только новости и тексты. Попытка с помощью нейросети бороться с фейковыми фото и видео приведет к развитию контртехнологий. В итоге эта мера может стать неэффективной, пояснил руководитель канала технологии журнала Forbes Александр Баулин.
«Нейросеть вполне можно обучить отличать признаки монтажа на фотографии и видео, которые потенциально были искажены, чтобы создать фейковую новость, подставить другого человека и так далее. К сожалению, человек точно так же понимает, что надо изменить, чтобы фотография казалась естественной — есть достаточно похожие на реальные фото и видео, смонтированные с помощью нейросети. Таким образом, сейчас будет происходить борьба искусственного интеллекта, который будет учиться фабриковать фото и видео, и того, который будет пытаться распознать подделку. У нас нет возможности потребовать высококачественные фото и видео, а без этого понять, насколько оригинал подлинный, будет невозможно», — считает Баулин.
Эта технология вряд ли сможет искать фейковые фото и видео во всей социальной сети. Эксперт по информационной безопасности Александр Власов считает, что проверять контент будут живые люди, ориентируясь прежде всего на российские аккаунты: «Разработчики программного обеспечения и железа заявляют, что уже сейчас это возможно, хотя многие эксперты считают, что пока это дело будущего.
Если бы у нас в полном объеме работали нейросети и способы анализа больших данных, то не составляло бы труда очень быстро находить людей по фотографии, отслеживать их перемещение.
Пока это скорее пиар-ход, все остальное будет делаться достаточно выборочно в ручном режиме на подозрительных аккаунтах — например, на тех, которые можно опознать как русские. Конечно, неприятно, потому что искать будут эти новости, фотографии, видеоролики в основном у нас».
В июле о борьбе с фейками заявил YouTube. Фильтровать выдачу на сайте видеохостинга будут известные медиакомпании и авторитетные журналисты. На это хостинг собирается потратить $25 млн.