Есть ли у России шанс поучаствовать в борьбе за первенство в разработке искусственного интеллекта

Борьба за первенство в разработке искусственного интеллекта стала одним из основных трендов мирового научно-технического развития. Что есть и чего нет у России для полноценного участия в этой гонке?

Игорь Каляев, академик РАН, председатель Совета по приоритету научно-технологического развития Российской Федерации «Переход к цифровым, интеллектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования, создание систем обработки больших данных, машинного обучения и искусственного интеллекта»

В настоящее время одни считают искусственный интеллект (ИИ) чуть ли не новым мессией, который спасет наш мир от всех бед и напастей, а другие, наоборот, видят в нем нечто сродни всаднику Апокалипсиса, который полностью уничтожит человеческую цивилизацию, превратив всех нас в рабов машин.

Считается, что внедрение технологий ИИ обеспечит к 2025 году удвоение темпов роста ВВП ведущих государств мира и увеличение мирового ВВП на 15 трлн долларов. В то же время все чаще раздаются голоса тех людей, которые считают ИИ огромной угрозой человечеству. Незадолго до своей смерти знаменитый английский ученый Стивен Хокинг сказал: «Развитие искусственного интеллекта может стать как наиболее позитивным, так и самым страшным фактором для человечества». А предприниматель Илон Маск был еще более категоричен: «Искусственный интеллект — это самый большой риск, с которым мы сталкиваемся как цивилизация».

О чем это все?

Как вас теперь называть

Первым делом необходимо разобраться, что вообще следует понимать под искусственным интеллектом. В настоящее время существует огромное количество различных определений ИИ, большинство из которых имеет очень неконкретный и расплывчатый характер. Приведем некоторые из них.

1. Научное направление, в котором решаются задачи аппаратного и программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными.

2. Свойство систем выполнять функции, которые традиционно считаются прерогативой человека.

3. Свойства автоматических систем брать на себя отдельные функции интеллекта человека.

4. Программные системы, отличительным свойством которых является то, что они могут решать некоторые задачи так, как их бы решал человек.

Если исходить из этих определений, то можно сделать вывод, что стиральная машинка обладает искусственным интеллектом, поскольку она «выполняет функции, которые традиционно считаются прерогативой человека». Действительно, еще совсем недавно люди во всем мире стирали белье руками, да и сегодня, наверное, не менее 70 процентов земного населения продолжает делать это вручную, то есть стирка белья — это «традиционная прерогатива человека», и поэтому машина, выполняющая эту функцию, обладает искусственным интеллектом.

Существует также классическое определение ИИ, предложенное еще в 1950 году знаменитым английским математиком Аланом Тьюрингом в статье «Вычислительные машины и разум». Он предложил процедуру, которая, по его мнению, позволит определить, когда вычислительная машина сравнивается по интеллекту с человеком. Суть этой процедуры заключается в следующем: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или с компьютером. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор». Так вот в 2015 году программа «Соня Гусева», созданная Иваном Голубевым из Санкт-Петербурга, смогла обмануть судей в 47 процентах случаев, то есть, исходя из определения Тьюринга, можно сделать вывод, что ИИ на 50 процентов уже создан. В действительности это абсолютно не так, поскольку программа «Соня Гусева» — это просто очень хороший чат-бот, который «может ввести человека в заблуждение», и не более того.

С моей точки зрения, при определении искусственного интеллекта следует отталкиваться от определения естественного интеллекта, то есть «способности мозга человека решать интеллектуальные задачи путем приобретения, запоминания и целенаправленного преобразования знаний и использования этих знаний для управления средой». При этом под «интеллектуальной задачей» понимается задача, связанная с отысканием алгоритма решения задач некоторого класса, то есть точного предписания (инструкции) о выполнении в определенном порядке последовательности операций для решения любой задачи из данного класса.

Исходя из этих понятий, можно дать следующее определение: искусственный интеллект — это свойство искусственных систем решать интеллектуальные задачи, для которых отсутствует алгоритм решения. Отсюда важный вывод — как только задача решена на компьютере (а это означает, что для нее создан алгоритм решения, поскольку компьютер может работать только по алгоритму), она перестает быть интеллектуальной. Следовательно, все, что сегодня называют ИИ (а это просто различные компьютерные программы, имитирующие те или иные функции, которые до недавнего времени считались «прерогативой человека»), никакого отношения к ИИ не имеет. Хотя термин ИИ по отношению к компьютерным программам уже устоялся и используется во всем мире.

60 лет прогресса и бесконечность

Исследования в области искусственного интеллекта развиваются уже более 60 лет по двум основным направлениям: логическому и нейрокибернетическому. Логический подход направлен на создание прикладного (слабого) искусственного интеллекта, то есть компьютерных программ, предназначенных для решения какой-либо одной задачи или их небольшого множества. Нейрокибернетический подход направлен на создание универсального (сильного) искусственного интеллекта, то есть аналога человеческого мозга, способного решать любые интеллектуальные задачи.

Что их «роднит»? Можно утверждать, что большинство достижений в области ИИ напрямую связано с ростом производительности компьютеров. То есть мы имеем дело не с каким-либо повышением «интеллекта» машин, а просто с ростом их быстродействия, за счет чего машина успевает за ограниченный промежуток времени перебирать все большее число вариантов развития ситуации на большее число шагов вперед и, как следствие, выбирать наиболее оптимальный вариант действий в текущей ситуации.

Возникает вопрос: когда компьютеры смогут достичь производительности, достаточной для создания «сильного» искусственного интеллекта, то есть аналога человеческого мозга?

Это можно оценить, исходя из следующих соображений. Моделирование 1 секунды активности 1 процента мозга человека на самом быстродействующем в мире (на начало 2018 года) суперкомпьютере Sunway Taihulight (КНР) занимает около 4 минут машинного времени. При этом суперкомпьютер имеет производительность ?1017флопс, содержит 10,5 млн процессорных ядер, занимает ?1000 кв. м площади и потребляет примерно 16 МВт электрической мощности. Отсюда можно сделать вывод, что для моделирования 100% активности человеческого мозга в реальном времени необходим суперкомпьютер с производительностью 1020–1021 флопс.

Оптимисты утверждают, что он может появиться ориентировочно после 2025 года. Но ситуация не столь радужна или, наоборот, не столь критичная, как кажется на первый взгляд. Если исходить из сегодняшних технологий, то суперкомпьютер с производительностью 1020 флопс будет занимать около 4·106 куб. м объема, что эквивалентно зданию 300х300 метров в основании и 50 метров высотой и потреблять около 15 ГВт электроэнергии, что сравнимо с тремя Саяно-Шушенскими ГЭС. Для сравнения: человеческий мозг занимает всего лишь 0,0015 куб. м объема и потребляет около 20 Вт. То есть все наши попытки создания аналога человеческого мозга с помощью современных компьютерных технологий — это путь в никуда, поскольку мозг работает по совершенно другим, до сих пор непонятным нам принципам.

Квантовая соломинка

Конечно, к 2025 году технологии уйдут вперед, поскольку до сих пор действует закон Мура, гласящий, что «количество транзисторов, размещаемых на единице площади кристалла микросхемы, удваивается через каждые два года». Поэтому если исходить из закона Мура, то можно сделать вывод, что к моменту создания суперкомпьютера с производительностью 1020 флопс число транзисторов на кристалле увеличится примерно на порядок и, соответственно, габариты суперкомпьютера и его потребляемая мощность также снизятся на порядок. Но все равно это не решит проблему. Более того, в настоящее время действие закона Мура начинает замедляться, поскольку мы подходим к технологическим пределам создания микроэлектронной компонентной базы, таким как максимальная частота работы — 1011 Гц (в настоящее время уже достигнута 1010 Гц) и минимальный топологический размер — 5–7 нм (в настоящее время уже достигнуты 12–14 нм). Исходя из приведенных рассуждений, можно сделать вывод, что создание сильного искусственного интеллекта (то есть компьютерного аналога человеческого мозга) на базе традиционных компьютерных технологий маловероятно.

Некоторые ученые в настоящее время возлагают большие надежды на так называемые квантовые компьютерные технологии, которые, по их мнению, станут основой искусственного интеллекта в будущем.

Преимущества квантовых компьютеров основаны на том, что в них для обработки данных используются не классические логические элементы, которые могут находиться только в двух состояниях (0 или 1), а так называемые кубиты (qubit, quantum bit), представляющие собой квантовые объекты, состояние которых может быть произвольной суперпозицией этих двух значений. Теоретически, если все кубиты связаны (запутаны) между собой, то квантовый компьютер может одновременно (параллельно) обрабатывать сразу 2N данных, где N — число вычислительных элементов — кубитов, в то время как в классическом компьютере подобная операция потребует выполнения 2N последовательных шагов.

Ниже приведены основные достижения, полученные в области квантовых компьютеров.

• 2001 год — IBM продемонстрировала квантовый компьютер из 7 кубитов.
• 2006 год — создан 8-кубитный квантовый компьютер.
• 2011 год — создан 16-кубитный квантовый компьютер.
• 2017 год — IBM объявила о создании 50-кубитного квантового компьютера.
• 2018 год — Google объявила о создании 72-кубитного квантового компьютера.

Как видно, достижения, полученные почти за 20 лет развития данного направления, не столь впечатляющие, и никаких признаков закона Мура здесь не наблюдается и близко. Основными проблемами создания квантовых компьютеров являются: чрезвычайная подверженность шумам (причем чем больше число кубитов, тем сильнее эта зависимость), а также сложности ввода-выводы информации, поскольку любое внешнее воздействие может приводить к разрушению квантового состояния кубитов.

По оценкам специалистов, решение практически значимых задач потребует создания квантового компьютера с числом логических кубитов (эффективно участвующих в вычислениях) как минимум в диапазоне от 500 до 2000. При этом использование в квантовой вычислительной системе кодов квантовой коррекции ошибок потребует существенного (примерно на порядок) увеличения числа «запасных» (используемых только для коррекции) кубитов.

Таким образом, с большой долей вероятности можно утверждать, что в ближайшее десятилетие квантовые компьютеры вряд ли обгонят по эффективности классические суперкомпьютеры при решении задач ИИ.

Реальные угрозы

Но существуют проблемы, косвенно связанные с искусственным интеллектом, на которые уже сейчас необходимо обратить самое пристальное внимание. На начало 2017 года к Всемирной сети «Интернет» было подключено около 8,5 млрд компьютерных устройств, причем число таких устройств последнее время возрастает экспоненциально. Для сравнения, число нейронов в мозге человека оценивается в 80 млрд. То есть в ближайшем будущем число компьютерных устройств, подключенных к Всемирной сети, сравняется с числом нейронов в мозге человека, причем каждое такое устройство будет обладать своим «локальным» интеллектом. При этом система становится настолько сложной, что любой сбой или преднамеренное внешнее воздействие на устройства, подключенные к Всемирной сети, могут привести к возникновению непредвиденных свойств системы, то есть возникновению так называемого эмерджентного интеллекта.

По определению эмерджентный интеллект — это проявление новых свойств системы, которыми не обладает ни один входящий в нее элемент. Наглядными примерами эмерджентного интеллекта являются колонии муравьев или пчелиные ульи, где каждый отдельный элемент системы (муравей или пчела) обладают крайне ограниченными возможностями, но их коллективное взаимодействие приводит к проявлению значительно более сложных свойств и возможностей системы в целом. В настоящее время в мире все чаще наблюдаются различного рода техногенные аварии и катастрофы, которые зачастую списывают на каких-то мифических хакеров. А возможно — это первые проявления возникновения эмерджентного интеллекта во Всемирной сети, и к этому необходимо готовиться.

Еще одна назревающая проблема связана с происходящим в настоящее время переходом от биосферы, управляемой человеческим разумом (интеллектом), к киберсфере, управляемой компьютерным «искусственным» интеллектом. С одной стороны, конечно, переход к киберсфере несет целый ряд неоспоримых благ для человечества, освобождая людей от монотонного и тяжелого труда, повышая эффективность производства и сельского хозяйства, уровень медицинского обслуживания и т.п. Но, с другой стороны, киберсфера приводит к проявлению целого ряда крайне негативных последствий, таких как деградация естественного интеллекта; распространение клипового мышления; рост интеллектуально-психической зависимости людей от компьютерных устройств; стирание границ между реальным и виртуальным миром; снижение качества образования и т.п.

Возникают возможности и для целенаправленного (искусственного) манипулирования сознанием, что ведет к возникновению нового типа войн — эволюционных, основным оружием в которых становится Всемирная сеть: кто владеет ею и наполняет ее контентом, тот и обладает стратегическим преимуществом.

Принять вызов правильно

Так что при всей размытости перспектив вряд ли стоит удивляться, что в настоящее время борьба за первенство в разработке ИИ стала одним из основных трендов мирового научно-технического развития. Каждое уважающее себя государство считает своим долгом сформировать национальную программу в области ИИ. Бесспорным лидером в этом деле является Китай, на который приходится около 60 процентов мировых инвестиций в исследования и разработки в области ИИ. В фундаментальные и прикладные исследования Китай уже сегодня вкладывает около 20 млрд долларов в год, а в смежные отрасли — более 150 млрд долларов. Планируется, что к 2025 году годовые инвестиции в ИИ в Китае достигнут 60 млрд долларов в фундаментальной части и 745 млрд долларов в смежных отраслях. Для сравнения: в США федеральные ассигнования в области ИИ в настоящее время составляют более 1 млрд долларов в год, суммарные затраты крупнейших корпораций и венчурных фондов — около 25 млрд долларов в год; в Европе цифры еще скромнее: за последние 3 года финансирование НИОКР в области ИИ составило около 1,8 млрд долларов, планируемый объем целевых инвестиций в ИИ до 2022 года — около 30 млрд долларов.

Не остается в стороне и Россия. В февральском послании Федеральному собранию президент поставил цель запустить масштабную программу национального уровня в области искусственного интеллекта. Проект такой программы был разработан Минкомсвязи совместно с ПАО «Сбербанк» и недавно представлен президенту. В целом это добротный документ, в котором обозначены основные цели и задачи развития и внедрения ИИ в стране, а также достигаемые при этом контрольные индикаторы. Однако есть несколько моментов, которые, с моей точки зрения, могут существенно снизить эффект от реализации данной стратегии.

В документе дано определение ИИ как «комплекса технических и программных решений, приводящих к результату, аналогичному и превосходящему результат интеллектуальной деятельности человека, и используемых для решения прикладных задач на основе больших данных с помощью систем компьютерного зрения, обработки естественного языка, распознавания и синтеза речи, рекомендательных систем и интеллектуальных систем поддержки принятия решений, а также систем, основанных на перспективных методах и технологиях искусственного интеллекта». Как и большинство существующих в настоящее время определений ИИ, данное определение оставляет множество вопросов. Ну, например, с помощью каких критериев можно определить, что результат работы «комплекса технических и программных средств аналогичен или превосходит результат интеллектуальной человеческой деятельности»? Исходя из данного определения опять-таки получается, что стиральная машинка обладает искусственным интеллектом. И наоборот: ИИ определяется как «комплекс технических и программных решений, используемых для решения прикладных задач на основе больших данных», но, например, программа Deep Blue, которая обыграла чемпиона мира по шахматам в 1997 году, не использовала никаких больших данных, поскольку все необходимые ей для принятия решения данные — это расстановка фигур на шахматной доске. То есть, исходя их предлагаемого стратегией определения, данная программа никакого отношения к ИИ не имеет, хотя на самом деле она действительно «приводит к результату, аналогичному и превосходящему результат интеллектуальной деятельности человека».

Можно сказать, что это мелкие придирки, но все дело в том, что на приведенном определении ИИ базируются многие положения стратегии и, главное, контрольные индикаторы. Например, один из контрольных индикаторов гласит: «доля крупных и средних компаний, органов государственной власти и подведомственных организаций, использующих ИИ в своей деятельности, должна достигнуть 10 процентов к 2024 году и 20 процентов к 2030 году». Если к ИИ будут относиться «стиральные машинки», то соответственно эти индикаторы можно будет выполнить без труда. Поэтому очень важно использовать в стратегии такое определение ИИ, которое не позволило бы отчитаться простым количественным параметром.

Очень спорными являются и контрольные индикаторы разработки программного обеспечения в области ИИ, предлагаемые в стратегии, в частности, по направлениям «Системы компьютерного зрения», «Системы обработки естественного языка» и «Системы распознавания и синтеза речи». Качество такого программного обеспечения, по мнению авторов стратегии, «должно быть сопоставимо с человеческим уровнем или превосходящим его». Но, во-первых, непонятно, по каким критериям мы будем «сопоставлять» данные системы с человеческим уровнем, и, во-вторых, люди тоже бывают разные.

Большие сомнения вызывает пункт стратегии, гласящий, что «в результате поддержки разработки отечественных высокоскоростных и энергоэффективных микропроцессоров, оптимальных для решения задач ИИ, будут созданы российские чипы, близкие к мировым лидерам по параметрам быстродействия и энергоэффективности». Непонятно, как мы сможем создать «российские чипы» такого класса, если имеющиеся в настоящий момент в стране технологии создания ЭКБ на порядок отстают от зарубежных: технологические нормы отечественных микроэлектронных производств 65–90 нм, а зарубежных — уже сейчас 12–14 нм, а в ближайшее время будет достигнут уровень 7–10 нм. Если же мы будем производить эти чипы на зарубежных линиях (что в условиях санкций проблематично), то говорить о том, что они будут «российскими», можно только с большой натяжкой. Поэтому если в стратегии ставятся задачи создания российских чипов, близких к мировым лидерам по параметрам быстродействия и энергоэффективности, то они должны быть в обязательном порядке синхронизированы с задачами создания отечественных микроэлектронных технологических линий, не уступающих передовым зарубежным.

В стратегии никоим образом не отражены эффекты от применения ИИ в области робототехнических систем, систем виртуальной и дополненной реальности, интерфейса «человек — компьютер» и т.д. Между тем именно эти направления являются одними из важнейших с точки зрения практического применения технологий ИИ.

Развитие технологий ИИ невозможно без наличия инфраструктуры высокопроизводительных вычислений. В настоящее время все ведущие страны создают свои национальные суперкомпьютерные центры, ориентированные на решение задач искусственного интеллекта и цифровизации экономики. К сожалению, мы сильно отстаем в этом плане, и это отставание продолжает неуклонно нарастать. В настоящее время самый быстродействующий российский суперкомпьютер «Ломоносов-2» занимает 79-е место в мире и в недалеком будущем вылетит из первой сотни самых производительных суперкомпьютеров мирового сообщества (на прошлой неделе вышла новая версия топ-500 суперкомпьютеров, в которой «Ломоносов-2» съехал на 93-ю позицию — «О»). Недавно Минобрнауки совместно с ведущими институтами и специалистами РАН подготовлена концепция развития национальной суперкомпьютерной инфраструктуры, которая предусматривает создание разветвленной сети суперкомпьютерных центров различного уровня, в том числе ориентированных на решение задач ИИ. В то же время в проекте национальной стратегии развития искусственного интеллекта отсутствуют какие-либо упоминания о необходимости создания суперкомпьютерных центров, ориентированных на ИИ, а также нет какой-либо синхронизации с концепцией развития национальной суперкомпьютерной инфраструктуры.

Как мне кажется, корректировка национальной стратегии развития искусственного интеллекта с учетом высказанных замечаний позволит существенно повысить эффективность ее реализации.

И последнее. Полагаю, что мы вряд ли когда-либо сможем создать реальный искусственный интеллект, сравнимый с естественным и тем более превосходящий его, поскольку физические законы природы не позволят нам сделать это. Так что готовиться стать «рабами искусственного интеллекта» нам пока еще рано. Но выйти на уровень компьютерных технологий, который вполне достаточен для реализации различных функций, считавшихся ранее «прерогативой человека»,— мы в состоянии. Это и есть вызов.