Экономист Дарон Аджемоглу описал риски более широкого использования ИИ корпорациями и странами

Распространение технологий искусственного интеллекта может повлечь различные риски, которые снизят общее благосостояние, негативно скажутся на уровне ценовой конкуренции, рынке труда и свободе выбора. Однако сама по себе технология крайне перспективна — риски связаны в первую очередь с ее нерегулируемым использованием, предупреждает экономист, профессор MIT Дарон Аджемоглу.

«Исследования в области искусственного интеллекта (ИИ) будут иметь значительные последствия для власти и общества, поэтому полагать, что нерегулируемый рынок сам выберет лучшие решения — наивно, особенно если учесть, что сейчас за развитие технологии отвечают топ-менеджеры и ведущие инженеры всего нескольких крупных корпораций»,— пишет экономист MIT Дарон Аджемоглу в статье о потенциальном вреде ИИ (работа опубликована Национальным бюро экономического анализа, NBER). Пока нет достаточных свидетельств о том, что эти риски будут реализованы, и в любом случае применение искусственного интеллекта имеет большие перспективы, уточняет автор. Сейчас такие технологии чаще всего используются для работы с данными, в социальных медиа и для автоматизации рабочих процессов.

Дарон Аджемоглу выделяет три основных группы рисков.

Первая касается получения и контроля над информацией. Концентрация информации о пользователях и обработка этих данных ИИ повышает риски того, что корпорации будут забирать большую часть выгоды потребителей (речь идет о том, что повышение полноты информации о пользователе позволяет повышать цену для тех потребителей, которые готовы платить больше, тогда как ранее корпорации были вынуждены держать более низкую среднюю цену, чтобы привлечь больше покупателей). Конкуренция может стать менее справедливой — опять же из-за того, что у одной компании будут более полные данные, чем у другой. Более того, развитие ИИ потенциально дает возможность манипулировать поведением граждан или потребителей, используя их уязвимости (то есть ИИ будет знать больше информации о пользователе, чем он сам). Эти проблемы частично решаются установлением справедливого вознаграждения за данные, учитывающего их социальную ценность, полагает автор статьи.

Вторая группа рисков касается влияния новых технологий на рынок труда: когда автоматизация лишь замещает труд, а не ведет к увеличению производительности, общее ее влияние на экономику будет негативным из-за снижения зарплат и доли занятых. Поэтому автоматизация может быть невыгодна с точки зрения общего благосостояния, поясняет господин Аджемоглу. Помимо этого, существует представление, что ИИ позволит избавить сотрудников от рутинных задач, дав больше возможностей для решения креативных,— но использование этих технологий, наоборот, может снизить способность людей принимать самостоятельные решения, так как все большее их количество будет передаваться алгоритмам. Мониторинг ИИ эффективности сотрудников также может выглядеть крайне привлекательно для работодателей — но может вести к тому же снижению выгоды для работников, что и в случае с покупателями, и в итоге — к негативным социальным последствиям.

Третья группа рисков касается влияния ИИ на коммуникацию и демократические процессы. В этот блок автор включает негативные последствия от распространения несуществующей или некорректной информации, что усиливается эффектом «эхо-камеры» — когда пользователи соцсетей получают только ту информацию, которая подтверждает их собственную позицию (это ведет к поляризации мнений), а также риски установления тотального контроля над обществом — «большого брата»: ИИ повышает способность государств выискивать и блокировать диссидентов. Процесс автоматизации сам по себе также несет риски снижения эффективности демократических процессов из-за снижения роли труда и его потенциально более легкого замещения.

Татьяна Едовина