Эксперты назвали главные риски применения ИИ

С 2014 года Университет Иннополис разрабатывает проекты с применением компьютерного зрения и машинного обучения для коммерческих компаний. В ИТ-вузе открыт один из шести российских исследовательских центров по искусственному интеллекту для решения задач цифровой трансформации приоритетных отраслей экономики. Вместе с 11 индустриальными партнерами центр ведет проекты по поиску новых материалов, автоматизации складской логистики, обеспечению безопасности ТЭКа, техническому обслуживанию транспорта, по медицинской диагностике и подбору аналогов с применением ИИ в каталоге продукции.

В этом году Университет Иннополис организовал международную конференцию по искусственному интеллекту для бизнеса — AI IN 2023, в работе которой участвовали 1630 человек из 34 стран. В рамках конференции сотрудники ИТ-вуза провели опрос экспертов о влиянии ИИ на бизнес, цель которого — определить степень влияния искусственного интеллекта на компании, а также оценить риски, барьеры и ожидания, которые выделяют исследователи и представители бизнеса при внедрении этой технологии.

Анкетирование прошли 100 представителей бизнеса, научных и исследовательских организаций—участников конференции AI IN 2023 из компаний «Газпромнефть», «Авито», МТС, «Яндекс», «Сбер», АвтоВАЗ, ОАК, НИУ ВШЭ, МФТИ, Сколтех, TenChat, «Тинькофф», «Ростелеком», Diginavis, Mind Simulation и др.

Согласно опросу, непредсказуемые последствия ошибок эксперты назвали главным риском применения ИИ. Далее по степени нежелательных последствий расположились усиление технологической зависимости и утечка конфиденциальных данных. Наиболее перспективным применение ИИ видят в анализе данных и составлении прогнозов, клиентском сервисе, цифровых ассистентах, а также для автоматизации производства и решения рутинных административных задач. Среди очевидных барьеров для внедрения ИИ, таких как недостаток компетенций и нехватка специалистов, эксперты выделяют недостаточную зрелость самой технологии и отсутствие решений специфических задач. Делегирование искусственному интеллекту ответственности за принятие сложных решении, включая врачебные и юридические, опрошенные считают самой острой этической проблемой. Также спорными остаются вопросы сбора и обработки больших объемов персональных данных, в том числе биометрических.

Полученные в ходе опроса результаты станут предметом обсуждения на экспертной панельной дискуссии по ИИ в рамках предстоящего форума о цифровой независимости DID 2023, который пройдет в Иннополисе 19–20 октября.

Рамиль Кулеев, директор Института искусственного интеллекта Университета Иннополис: «Мы провели опрос экспертного мнения среди представителей бизнеса, научных и исследовательских организаций, чтобы оценить степень влияния ИИ на процессы в компаниях, а также риски, ожидания и барьеры при внедрении этой технологии. ИИ не только трансформирует бизнес-модели, но и оказывает заметное влияние на переосмысление деятельности целых отраслей. Вместе с тем, несмотря на все очевидные выгоды от использования этой технологии, мы не должны игнорировать и возникающие вызовы в областях безопасности и этики, которые нуждаются во всесторонней экспертной оценке и общественном дискурсе».

Андрей Рыбинцев, «Chief Data Officer Авито»: «Искусственный интеллект может быть отличным помощником благодаря технологиям. Бизнес автоматизирует рутину, прогнозирует риски и создает продукты, способные предугадывать и подстраиваться под интересы пользователя. Бизнес ожидает от ИИ повышения продуктивности и экономии времени — здесь алгоритмы уже показывают превосходные результаты. Например, модерация в “Авито” на 99% автоматизирована:150+ ML-моделей анализируют объявления на соответствие нашим правилам, человек подключается только в сложных вопросах. Ключевым барьером развития остается человеческий фактор — компании отметили нехватку специалистов и недостаток компетенций. Решить это можно созданием среды, в которой даже небольшие бизнесы будут иметь доступ к технологиям ИИ».

Подготовлено при поддержке Университета Иннополис