«Далеко не все функции естественного интеллекта могут быть формализованы и автоматизированы»

Виктор Финн, доктор технических наук, профессор, главный научный сотрудник ФИЦ «Информатика и управление» РАН, руководитель отделения интеллектуальных систем в гуманитарной сфере РГГУ

Выйти из полноэкранного режима

Развернуть на весь экран

1. Направление «Искусственный интеллект» (ИИ) возникло в США в середине 50-х годов. Создателем ИИ был профессор Джон Маккарти, с которым я был знаком; он же и дал название этому направлению компьютерной науки. Вторым создателем ИИ был Марвин Минский (недавно в России вышла его книжка «Сообщество разума»). Хотя оба они считаются основателями этого направления, их точки зрения на его развитие были принципиально разные.

Маккарти считал, что исследования в области ИИ будут плодотворны тогда и только тогда, когда будет уточнено само понятие интеллекта. Под уточнением он понимал не только определение интеллекта, но и еще два важных обстоятельства: эпистемологию и эвристику. Эпистемология — то, как приобретается новое знание с точки зрения его пользы для решения задач; эвристика — то, каким образом эти задачи решать: какими процедурами и какими средствами, в частности — как порождать гипотезы на основании имеющихся данных и как проводить правдоподобные рассуждения.

ИИ как научное направление будет успешно развиваться, если будут сформулированы эпистемологические основания приобретения и представления знаний и будет исследована и предложена эвристика решения задач. Но этого так и не произошло. Почему? Проблематика ИИ развивалась в основном как академическая: изучали игры (прежде всего — шахматы), автоматическое доказательство теорем, формализацию доказательств, реализацию идей математической логики и проч. Но этого недостаточно для понимания человеческого мышления и познавательного процесса, ибо игры и доказательства имеют специфические правила.

Минский же в противоположность Маккарти говорил: «Что такое ИИ, с моей точки зрения,— скорее вопрос эстетики и самолюбия, нежели науки и техники. Для меня "интеллект" означает едва ли больше, чем комплекс активностей, которые мы уважаем, но не понимаем». Это сказал один из создателей искусственного интеллекта! А вот Маккарти говорил другое: «Работа над искусственным интеллектом, особенно общим интеллектом, пойдет гораздо успешнее, если будет уточнено само понятие интеллекта». И Маккарти был прав! Но, к сожалению, не смог реализовать то, что хотел.

2. Важно заметить, что словосочетание «искусственный интеллект» не означает некоторый продукт. Поэтому утверждение, к примеру, «у меня работает искусственный интеллект, ибо я посчитал цену покупок в магазине» — это полная чушь. Все равно что сказать: «У меня работает математика». Действительно, применяются какие-то компьютерные программы и некоторые из них имеют отношение к проблематике ИИ, а некоторые — просто компьютерные программы. Естественно, когда начиналось академическое изучение этой проблемы, интуитивной предпосылкой было создать такие компьютерные системы, которые были бы равновелики человеческому разуму. Разумеется, это не получилось. И на самом деле, большой вопрос, можно ли вообще это сделать.

Это не значит, что проблематика ИИ не полезна, просто надо понимать ее место и ее возможности. Зачастую возникала потребность практических приложений, и отцы-основатели говорили, что польза от этого будет. Наступил период, когда появились конкретные системы — так называемые экспертные системы, которые действительно решали некоторые задачи. Экспертная система построена следующим образом: опрашивается специалист в какой-то области, записываются его соображения, из них делают некие процедуры — например, если выполняются такие-то условия, то будет то-то и то-то. И вот эти экспертные системы использовались в медицине (например, система MYCIN, позднее — E-MYCIN), в геологии (одна из таких систем помогла открыть залежи какого-то металла). И вскоре такие системы стали чем-то рутинным — например, экспертная система «как вам выбрать подходящий санаторий на Лазурном берегу» или понять, где лучше быть — на Лазурном берегу или в Сочи. Вот такие экспертные системы с легкостью делают наши студенты на втором курсе. Тогда же это были первые конкретные приложения ИИ.

3. Кроме того, считалось, что в проблематику ИИ входит машинный перевод и распознавание образов. Что касается последнего, то понятно, что это очень активно развивающаяся область, потому что распознавание изображений нужно в разных областях — в медицине, в криминалистических делах и проч. И сейчас распознавание реализовано в технологии нейронных сетей, с помощью которых много чего делается. Но это лишь распознавание и обучение, всего две интеллектуальные способности. Впрочем, некоторые люди на вопрос, а что ж такое ИИ, отвечают: «Как что? Нейронные сети! Потому что "нейронные сети, они же с мозгом как-то связаны", значит, это и есть искусственный интеллект». Это, конечно, заблуждение. И даже такое утверждение, что искусственный интеллект — это машинное обучение, тоже неверное.

4. Чтобы определить понятие интеллекта, мы должны сначала перечислить естественные интеллектуальные способности. Оказалось, что их 13. Я это давно уже сделал, но не могу сказать, что это пользуется большой популярностью. Люди проходят мимо этого в силу одного важного обстоятельства: удобно понимать, что ИИ — это скорее собрание технологий. Ведь работают же такие программы! Совокупность технологий. Это заблуждение, и вредное при этом.

И вот мы перечисляем основные интеллектуальные способности, которые необходимы идеальному теоретическому интеллекту. В науке всегда важно сформулировать идеальный объект. Физики это знают: если мы рассматриваем движение, то сначала рассматриваем его без учета трения, а потом уже эти побочные условия мы добавляем.

1). Обнаружение существенного в данных. Любопытно, что в книге «Общая психопатология» выдающегося философа и психиатра Карла Ясперса именно так определялся интеллект — это распознавание существенного в данных, это инициатива и спонтанность. Оно далеко не полное, но то, что он говорит,— разумно, и мы в какой-то мере это используем.

2). Порождение последовательностей «цель—план—действие».

3). Поиск посылок, релевантных цели рассуждений.

4). Способность к рассуждению: вывод, следствие из посылок (человек — рассуждающее животное).

5). Синтез познавательных процедур, производящих синтетические выводы — такие выводы, которые непосредственно из посылок не следуют и носят творческий характер: выводы по аналогии, индуктивные обобщения данных, выводы с помощью объяснения данных (абдукция), решение задач при помощи различных познавательных процедур.

6). Способность рефлексии — оценка знаний и действий.

7). Способность к объяснению — ответ на вопрос «почему?». Без этого вопроса нет человеческого познания.

8). Аргументация при принятии решения. Здесь может быть четыре варианта:

• Есть аргументы за, но нет аргументов против — решение принимается.

• Есть аргументы против, но нет аргументов за — отвергается ваше предположение.

• Если есть аргументы за и есть аргументы против — это фактическое противоречие: надо думать, что делать.

• Если никаких аргументов — ситуация неопределенности. Это четырехзначная логика — механизм принятия решений, свойственный идеальному человеческому мышлению.

9). Познавательное любопытство и способность к распознаванию — ответ на вопрос «что это такое?».

10). Способность к обучению и использованию памяти. Эти две способности (9 и 10) реализуются в нейронных сетях.

11). Способность к интеграции знания для образования концепций и теорий.

12). Способность уточнения неясных идей и преобразования их в точные понятия: один понимает одно, другой понимает другое, и договориться они не могут. Поэтому такие идеи необходимо уточнить до точной, абсолютной и содержательной конструкции.

13). Способность к изменению системы знаний при получении новых знаний и изменениях ситуации.

Если все эти 13 способностей реализовать в компьютерной системе, то это и будет главный продукт ИИ. Всего их три вида:

• системы ИИ — компьютерные системы, которые реализуют отдельные интеллектуальные способности (например, нейронные сети реализуют распознавание и обучение);

• интеллектуальная система — определенная архитектура, которая состоит из открытого множества фактов (постепенно может увеличиваться) и базы знаний (тоже может расширяться в результате работы системы — обучения, получения нового знания);

• решатель задач — это «мозг» интеллектуальной системы, состоящий из «рассуждателя», вычислителя и синтезатора — объединяет рассуждения и вычисления и формирует стратегии в интерактивном режиме, делает вывод из посылок (это может происходить синтетически, посредством аналогии, индукции и принятия гипотез на основе объяснения — абдукции — и посредством их синтеза.

Последний модуль интеллектуальной системы — это комфортный интерфейс, дающий возможность человеку общаться с компьютерной системой, решать задачи, получать ответы на вопросы. Он может учитывать даже психологические особенности. Интеллектуализация интерфейса — это тоже важная проблема для создания интеллектуальной системы.

5. А теперь ответим на вопрос: если у нас есть такая архитектура, будет ли такая компьютерная система интеллектуальной. Ответ: нет, не будет. Потому что она будет интеллектуальной тогда и только тогда, когда она будет в состоянии реализовать все 13 способностей, о которых мы говорили. И сразу же мы можем задать вопрос: а все ли она сможет реализовать в автоматическом режиме. Ответ: нет. У нее два режима — какие-то из способностей она может реализовать только в интерактивном режиме, во взаимодействии с человеком. Устранить человека из решения этой проблемы нельзя. Следовательно, разговоры о сверхразуме, который будет самостоятельным и будет угрозой для человека,— это заблуждение фантастов. Это интересно, но лишь как литературный прием.

Мы можем перечислить, какие из интеллектуальных способностей у нас должны быть реализованы в интерактивном режиме. Во-первых, это порождение последовательности «цель—план—действие», способность к рефлексии, затем способность к интеграции знаний, затем способность к уточнению неясных идей, способность к изменению системы знаний при получении новых знаний. Мы смотрим на результаты наших экспериментов, но дальше мы используем уже собственные знания, и компьютер у нас только помощник. Следовательно, интеллектуальная система с такой архитектурой — это партнерская человеко-машинная система.

6. Среди некоторых здравомыслящих специалистов в области искусственного интеллекта бытует мнение о трех точках роста в развитии этого направления:

1) создание партнерских человеко-машинных систем;

2) реализация рассуждений, включающих обучение в синтез познавательных процедур;

3) интеллектуальный робот, то есть соединение трех модулей: интеллектуальной системы, сенсорного блока (общение со средой в динамическом режиме — зрение, слух, тактильность, даже запах) и мехатроника.

Если мы рассмотрим интеллектуальную систему и сенсорный блок — это будет когнитивная система, система автоматического познания, например непрерывное наблюдение за больным. И в случае, если наблюдаемые параметры достигнут некоторых предельных опасных точек,— сигнализация. Таким образом, имеются три продукта ИИ: системы ИИ, интеллектуальные системы и интеллектуальные роботы.

7. Если мы теперь охарактеризуем ИИ самым общим образом, то это в первую очередь представление знаний, автоматизация рассуждений и компьютерная система, реализующая взаимодействие знаний, рассуждений и вычислений. К сожалению, все развиваемые на сегодняшний день системы ориентированы на применение лишь отдельных технологий. В частности, например, эти программы начинаются с компьютерного зрения, но это очень частный вопрос, это лишь один из видов распознавания образов, не более того. Человеческий интеллект не сводится только к распознаванию образов. Кроме того, тревожным явлением является предположение, что бизнес должен руководить развитием ИИ. Это опасное заблуждение. Если бы бизнес руководил развитием молекулярной биологии, то у нас никогда не было бы достижений в генетике. Другое дело, что от бизнеса может быть следующая польза: он может формулировать некоторые свои потребности, которые помогут создать аппарат в рамках теории ИИ, который бы решал эти задачи — обратная связь с жизнью всегда для приложения науки полезна. Но нельзя считать, что бизнес должен руководить какой-то наукой. Это означает ограничение научной свободы и свободы исследования и творчества.

8. Кроме того, есть еще одна опасная тенденция: многие считают, что наука сделала свое дело, а вот технологии!.. Технологии — полезны, и будем заниматься технологиями. В ответ я говорю: развития технологий из самих технологий быть не может; они могут лишь распространяться и совершенствоваться, но новых технологий из них самих же возникнуть не может. Только академическая наука является источником развития технологического совершенства. И тут важная проблема, которая в немецкой интеллектуальной жизни некоторым образом обсуждалась, а в англо-саксонской — нет. Дело в том, что в немецкой мыслительной традиции цивилизация и культура различаются, а в англосаксонской — цивилизация культуру содержит в себе. Наука, с одной стороны, принадлежит к культуре, с другой — к цивилизации и влияет на ее развитие. Точка зрения, что искусственный интеллект — это сумма технологий, это точка зрения цивилизации. А точка зрения культуры такова, что это есть научное направление, которое имеет своими следствиями различные применения его идей и методов. Систематическое их применение превращается в технологии. Технологии — это дети науки. Если вы хотите, чтобы технологии были наиболее эффективны и развивались, уважайте академические исследования и создайте для них условия, и пусть бизнес не диктует свои условия, а способствует развитию науки.

9. Идеальный теоретический естественный интеллект — это система знаний, множество интеллектуальных способностей и высшие психические функции, каковыми являются интенция, интуиция, инициатива, воображение и рефлексия. Эти функции вместе с интеллектуальными способностями применяются к системе знаний и дают возможность решать творческие задачи. А теперь нам легко сделать вывод, что далеко не все это может быть не только автоматизировано, но и даже формализовано. Мы не можем формализовать интуицию, воображение (потому что воображение есть результат действия всего человеческого организма и его личности, а субъективный мир личности невозможно формализовать и автоматизировать). А высшие психические функции образуют субъективный мир личности. Рефлексия единовременно принадлежит и к субъективному миру личности, и она же является одной из тех интеллектуальных способностей, которые поддерживают интеллектуальный процесс. А он является реализацией 13 интеллектуальных способностей, а реализуются они благодаря тому, что у вас есть система знаний и высшие психические функции. Интенция — вопросы, императивы, цели и установки. Интеллектуальный процесс — взаимодействие мыслительного процесса и познавательного. Мыслительный процесс — интенция, поиск посылок релевантных цели, рассуждения и рефлексия. Мысль — любой элемент мыслительного процесса. Познавательный процесс — анализ данных, предсказания, объяснения, порождение закономерностей.

Интеллектуальный процесс есть взаимодействие мыслительного и познавательного процессов, это взаимодействие имитируется и усиливается в интеллектуальных системах — партнерских человеко-машинных системах. Эти системы не заменяют человека, а являются мощным инструментом в науках о жизни и социальном поведении (в том числе в управлении и медицине), в которых знания слабо формализованы, а данные можно структурировать.