Искусственный интеллект в поисках мягкой силы
Участники рынка обсуждают будущее регулирование отрасли
Роботы уже сейчас замещают сотрудников колл-центров, и постепенно сфера их применения будет расширяться, в том числе и за счет развития речевых технологий, заявили участники форума «Лидеры цифрового развития». Однако перспективы рынка сильно зависят от регулирования — международные эксперты выступают за его ужесточение, в том числе обязательные предупреждения о взаимодействии с искусственным интеллектом (ИИ). Российский кодекс этики ИИ, который будет представлен в октябре, будет мягче — ключевым его критерием должна стать оценка степени риска от внедрения системы ИИ.
Фото: Анатолий Жданов, Коммерсантъ
Фото: Анатолий Жданов, Коммерсантъ
Расширение использования технологий искусственного интеллекта потребует разработки нового регулирования, но пока позиции даже самих участников рынка расходятся — к примеру, компании, активно использующие речевые технологии, предпочли бы предупреждениям, что начинается взаимодействие с роботом, менее жесткие требования по идентификации ИИ. В России в разработке кодекса этики ИИ участвуют Альянс ИИ (включая Сбербанк) и Аналитический центр при правительстве — его планируется представить рынку 12 октября. Подобные документы уже приняты во многих странах и имеют статус «мягкого права». Более того, у 35 крупных компаний уже есть собственные кодексы (в России — у Сбербанка, «Яндекса» и ABBY).
Основная проблема регулирования — поиск баланса развития технологий и защиты от рисков.
«Нельзя ввести обязательство, чтобы система ИИ всегда себя идентифицировала при абсолютно любом соприкосновении с человеком, как это предлагают в Совете Европы и в ЮНЕСКО, где готовят глобальные инициативы; это не просто избыточно, а часто технически неисполнимо. Но, безусловно, есть сферы, где это нужно сделать, потому что ИИ вызывает беспокойство у людей»,— пояснил “Ъ” исполнительный директор по вопросам нормативного регулирования технологий ИИ Сбербанка Андрей Незнамов. По его словам, авторы проекта предлагают применять риск-ориентированный подход, который несет «конкретная система ИИ в конкретном контексте» и применять адекватные этому меры. «У нас уже пройдена развилка о том, что система ИИ никогда не может восприниматься как самостоятельный субъект, мы везде ставим человека. Более того, ответственность не может нести и один конкретный человек, поэтому мы рекомендуем разработчикам максимально идентифицировать, кто на какой стадии за что отвечает»,— говорит эксперт. Вопрос о правах доступа к данным также остается сложным, но в ЕС, где были утверждены жесткие нормы по их защите, сейчас меняется подход, что должно облегчить использование обезличенных данных.
В рамках федерального проекта по ИИ уже начался и сбор заявок на грантовую поддержку (за ее распределение отвечает «Сколково»).
«Всего планируется поддержать не менее 50 проектов по внедрению ИИ до 2024 года, объем поддержки составит около 5 млрд руб., средства будут выделяться заказчикам, в том числе госкомпаниям, но на этапе конкурса заявитель должен выступать с компанией-разработчиком, которая займется непосредственным внедрением своей технологии на площадке заказчика»,— рассказал “Ъ” вице-президент по грантам, экспертизе и тендерной деятельности «Сколково» Сергей Кржановский. Гранты будут выделяться безвозмездно — при условии тиражируемости продукта.
Впрочем, технологии активно развиваются и без дополнительных стимулов — так, роботы постепенно заменяют сотрудников колл-центров. Генеральный директор АБК Дмитрий Теплицкий рассказал, что в компании вместо 1000 операторов осталось всего 80, которые отвечают на самые сложные вопросы, остальные звонки совершают роботы (стоимость звонка робота — 2 рубля, тогда как работы оператора — 25 рублей за минуту). Сферы роботизации также расширяются — это не только финансовая сфера, но и ЖКХ, обзвоны перед выборами и т. д. Более того, голосовой скоринг делает роботов «чувствительнее» к эмоциональным реакциям (например, позволяя определять, лжет ли собеседник, намерен ли он приобрести предлагаемый товар, или выявлять, кто из кандидатов при наборах на массовые вакансии сможет проработать в компании больше трех месяцев). Однако международные эксперты, включая экономиста Дарона Аджемоглу, выступают против скорингов из-за возможных последствий их применения, особенно негативным считается китайский опыт их учета при доступе к социальным благам.