Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) планирует запустить систему поиска противоправного контента в изображениях и видео в интернете «Окулус». Она будет работать на основе искусственного интеллекта (ИИ), что, по мнению ведомства, повысит эффективность выявления экстремистских материалов и порнографии. Но внедрение такой системы грозит замедлением работы анализируемых ресурсов, опасаются эксперты.
Фото: Эмин Джафаров, Коммерсантъ / купить фото
Фото: Эмин Джафаров, Коммерсантъ / купить фото
“Ъ” обнаружил на портале госзакупок, что ГРЧЦ 15 сентября опубликовал тендер стоимостью 15 млн руб. на разработку техзадания для системы поиска нарушений в интернете в изображениях и видеофайлах. Система будет называться «Окулус», запустить ее планируется в 2022 году, она будет выявлять распространение экстремистских материалов и порнографии, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству, описано в техзадании.
До сих пор поиск нарушений в изображениях и видео происходил вручную, ИИ позволит «ускорить процесс», говорится в документации.
Завершить работы нужно до 17 декабря.
С 2019 года товарный знак Oculus закреплен за Facebook, которая развивает VR-систему под этим брендом. По поводу его использования с интернет-компанией судилась ветеринарная клиника ООО «Эко», причем во время спора Facebook подала заявку на товарный знак «Окулус» в кириллическом варианте (ее одобрили в марте 2021 года, указано в базе Роспатента). У Facebook теоретически есть возможность запретить компьютерные программы и информационные сервисы под этим названием, если ГРЧЦ будет использовать его при оказании коммерческих услуг, указывает зампред комитета по интеллектуальной собственности РСПП Анатолий Семенов. Впрочем, по его словам, центр не относится к лицам, осуществляющим коммерческую деятельность.
Между тем материалы на самом Facebook тоже войдут в зону мониторинга системы.
Текстовый контент уступает место фото- и видеоматериалам, которые сильнее влияют на сознание человека, «по информации TikTok, количество ежемесячных пользователей сервиса выросло с 2018 года на 800%, в Facebook посты с изображениями привлекают пользователей в 2,3 раза чаще, чем сообщения без них, именно в таком контенте появляется все больше запрещенной законами РФ информации», объясняют в ГРЧЦ. В интервью “Ъ” глава Роскомнадзора Андрей Липов прогнозировал, что к концу года объем информации, которую смогут проанализировать сотрудники на предмет нарушений, увеличится благодаря ИИ в 14 раз (см. “Ъ” от 25 мая).
Сейчас ответственность за размещение в сети противоправных материалов варьируется от административной до уголовной. За возбуждение ненависти или вражды, унижение достоинства человека по признакам пола, расы и т. п. предусмотрен как штраф до 500 тыс. руб., так и лишение свободы от двух до пяти лет, рассказал руководитель направления фирмы «Рустам Курмаев и партнеры» Ярослав Шицле. За изготовление, приобретение, хранение детской порнографии предусмотрено лишение свободы от трех до десяти лет, уточняет он.
В июле Роскомнадзор уже заказал за 41,7 млн руб. доработку системы мониторинга телерадиовещания, чтобы превращать аудиозаписи в текст (см. “Ъ” от 4 августа). Это позволит ему эффективнее искать нарушения в ТВ-контенте и радиоэфире. В конце августа было объявлено о закупке «автоматизированной системы мониторинга нарушений прав субъектов персональных данных в сети» за 41,1 млн руб., а в середине сентября — системы мониторинга сайтов за 58,5 млн руб.
Разработка системы «Окулус» может стоить от десятков до сотен миллионов рублей, ее внедрение обойдется в миллиарды, а обслуживание — в десятки миллионов в год, оценивает совладелец компании «Ланит-Терком» Владимир Уфнаровский.
Реализовать подобный проект в масштабах рунета будет проблематично, считает исполнительный директор Artezio (входит в группу «Ланит») Павел Адылин. «Нужно не только разработать систему мониторинга, но и обеспечить прохождение через нее всего интернет-трафика»,— говорит он. Но если все видеоматериалы и изображения будут подвергаться предварительной фильтрации, подчеркивает эксперт, скорость доступа в интернет существенно замедлится, поскольку пользователя придется ждать, пока ИИ проанализирует контент.