«Яндекс» дал возможность заказчикам выявлять запрещенный контент с помощью нейросетей
Yandex Cloud (облачный провайдер «Яндекса» (MOEX: YNDX)) дал пользователям возможность классифицировать тексты посредством нейросетей. Как сообщили «Ъ» в компании, классификатор на базе YandexGPT понадобится в том числе для «обнаружения противоправной информации», а также для работы с обращениями клиентов, спамом и противодействия мошенничеству.
Классификация текстов, по сообщению компании, реализована следующим образом: заказчик определяет категории, по которым он хочет классифицировать тексты, затем загружает в сервис «Яндекса» примеры текстов для каждой категории, а потом получает доступ к созданной под задачу модели-классификатору.
Компании уже пытались использовать сервисы «Яндекса» для выявления запрещенной в РФ информации. В декабре 2022 года, после вступления в силу поправок о запрете «пропаганды нетрадиционных сексуальных отношений», онлайн-издательство Ridero разместило на сервисе «Толока» задачу выявить такую информацию в отрывках текста; «Яндекс» отключил такие задания как потенциально оскорбительные. Позднее директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов отмечал, что ассистенту «Алиса» сейчас лучше всего уходить от ответа на некоторые вопросы, «потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего».
Подробнее — в материале «Ъ» «Цифре слова не давали».