Экономика искусственного интеллекта на примере модерации изображений

Сегодня каждый интернет-пользователь является участником той или иной социальной сети. Поначалу это были сервисы для общения на расстоянии, сейчас же они превратились в полноценные платформы с огромным функционалом: здесь можно не только общаться с друзьями, но и решать рабочие вопросы, торговать, дарить подарки, делать денежные переводы и многое другое.

Так, крупнейшей сервисной платформой и лидером по просмотрам видео среди соцсетей Рунета сегодня стали «Одноклассники» (ОК). Согласно внутренним данным, ежемесячная активная аудитория у ОК в России составляет 43 млн человек. Каждый день пользователи загружают более 40 млн изображений. Очевидно, не все из них соответствуют политике соцсети: некоторые картинки или фотографии могут содержать негативный контент — оскорбления, спам, нецензурные выражения и т. д. Чтобы оградить пользователей «Одноклассников» от таких изображений, модераторы тщательно проверяют каждый файл — еще в начале 2020 года над этим работали 40 человек.

Модераторы вряд ли могут уследить за всем. Поэтому в начале этого года у команды появился «умный помощник» — платформа для автоматического анализа и обработки контента «Робби». Решение на базе нейросетей позволило перейти на практически мгновенное (со скоростью до 50 мс) распознавание негативного контента еще на стадии загрузки без участия человека. Разработка платформы вместе с созданием нейронных моделей заняла два с половиной года, в течение которых все больше контента в ОК обрабатывалось автоматически. Сейчас на ручную обработку стали отправлять только пограничные случаи, а число модераторов удалось сократить до 18 человек. Если говорить языком бизнеса, использование AI-технологии позволило увеличить эффективность команды за счет перераспределения ресурсов и сокращения часов работы модераторов, а также сократить затраты на персонал в 2 раза.

Не менее важным для бизнеса является то, как реагируют на внедрение AI-платформы пользователи. Быстрый анализ контента существенно увеличил лояльность пользователей «Одноклассников». Согласно данным внутренних опросов, спам больше не входит в топ вещей, которые не нравятся пользователям в «Одноклассниках». А число пользователей, которые видят спам в соцсети, снизилось до 3%. Все это позитивно влияет на имидж социальной сети и повышает комфорт для ее пользователей.

По собственным оценкам, появление «Робби» позволяет оптимизировать существующие бизнес-процессы и экономить до 2 млн руб. в месяц на фонде оплаты труда, а также в 16 раз быстрее разрабатывать новые модели для поиска негативного контента. Получить подобный эффект может не только социальная сеть — у «Робби» уже есть несколько клиентов как внутри Mail.ru Group, так и за ее пределами.

Сотрудничество команд «Одноклассников» и сервиса бесплатных объявлений «Юла» началось еще на ранних этапах разработки нейронных моделей, которые затем легли в основу «Робби». Платформа позволила в разы снизить стоимость модерации одного объявления, а также обеспечила конкурентное преимущество в скорости: обработка одного объявления с помощью автоматических алгоритмов занимает считанные секунды. «Робби» также помог «Юле» быстро увеличить число объявлений в сутки без потери качества и скорости модерации, а следовательно, обеспечить большее число сделок для своих клиентов. «Наличие большой базы объявлений — одно из ключевых составляющих успеха для сервиса объявлений. Использование технологий „Одноклассников“ в модерации поддержали быстрый и качественный рост нашей базы и помогли бизнесу „Юлы“ так сильно вырасти в последние годы», — сообщил директор по продукту сервиса «Юла» Егор Данилов.

Способность «Робби» распознавать фотографии использует в своей работе и сервис заказа такси «Ситимобил» — технологии помогают проверять документы водителей при регистрации. В день «Робби» обрабатывает в среднем более 5 тыс. фотографий документов, проверяя, соответствуют ли они требованиям сервиса. В среднем вместе с учетом ручной модерации в некоторых случаях на обработку одной фотографии уходит всего 25 секунд, при этом робот анализирует изображение мгновенно.

Сейчас «Робби» может работать с любым видом контента, будь то изображение, тексты, видео, ссылка или метаданные контента.

Возможность обработки видео использует для своего бизнеса принадлежащая Mail.ru Group рекламная платформа myTarget. С помощью новой технологии myTarget в 11 раз ускорил процесс модерации видеорекламы.

Первым пользователем «Робби» за пределами Mail.ru Group стала жилищная экосистема группы ВТБ «Метр квадратный». Здесь AI-платформа применяется для анализа каталога — с ее помощью можно оперативно убирать дубли объявлений, спам, а также определять запрещенные элементы на фотографиях. С точки зрения бизнеса это означает рост лояльности клиентов, ведь благодаря технологии они всегда будут иметь доступ к актуальной и качественной информации. При этом бизнес также сможет снизить издержки на обновление контента.

Разработчики «Робби» считают, что в первую очередь он будет полезен бизнесу в сфере онлайн-торговли, ресурсам с пользовательским контентом, производителям товаров, сервисам доставки и др. Так, интернет-магазины с помощью «Робби» могут автоматически обрабатывать отзывы клиентов о товарах, видеосервисы — определять в роликах запрещенный контент и рекламу, а медиа — оптимизировать работу с комментариями читателей. При этом стоимость обработки контента с помощью платформы начинается от 10 тыс. руб. в месяц, что делает ее доступной бизнесу любого размера.

Специалисты «Одноклассников» работали над созданием «Робби» на протяжении двух с половиной лет. «За это время мы не только разработали саму платформу, но и создали нейронные модели по более чем 190 базовым кейсам нежелательного контента в „Одноклассниках“ и других сервисах. Все это время, как и сейчас, также происходил постоянный процесс совершенствования и дообучения моделей», — рассказывает руководитель проекта Алексей Сенников.

Обучать «Робби» также помогают пользователи «Одноклассников» — они могут участвовать в проверке контента на соответствие правилам соцсети с помощью специального приложения «Модератор ОК». Такой механизм краудсорсинга позволяет «Одноклассникам» размещать и классифицировать до 6 млн изображений в сутки — эти данные впоследствии используются для повышения точности работы «Робби».

К слову, сегодня «Робби» может обрабатывать контент со скоростью более 600 млн единиц в сутки.

Среди приоритетных задач для «Робби» — разработка рекомендательных систем. На платформе «Робби» уже работают рекомендации музыки и товаров в «Одноклассниках», а значит, запускать новые модели рекомендации контента с ее помощью становится все проще.

Развитие платформы идет постоянно, растет и ее эффективность для бизнеса. Использование машинного обучения при выполнении ежедневных задач позволяет повысить точность работы системы, а поиск новых возможностей расширяет горизонты использования искусственного интеллекта. Подобные «Робби» платформы уже сегодня делают новые технологии доступными широкой аудитории, и тем, кто начнет повышать эффективность бизнеса с помощью AI уже сегодня, не придется думать о том, как не отстать в технологической гонке ближайшего будущего.