На Физтехе появится «думающая» машина со способностью планировать собственное поведение

Классический Deep Learning (глубокое обучение) искусственного интеллекта напоминает создание скульптуры. «Я беру глыбу мрамора и отсекаю от нее все лишнее»,— говорил Огюст Роден. Разработчики берут «пустую» нейросеть и обучают ее определенным задачам посредством множества примеров, например, угадать, что на картинке, и выбрать верный вариант. Ученые МФТИ решили пойти дальше и создать (точнее, обучить) сильный интеллект — модель искусственной психики ADAM с неограниченным горизонтом планирования своего поведения и мышления. О том, что такое сильный ИИ, рассказывает Сергей Шумский, заведующий лабораторией когнитивных архитектур Исследовательского центра прикладных систем искусственного интеллекта МФТИ.

Сейчас почти каждая вторая техническая новость — о применении «технологий ИИ». Но к интеллекту это не имеет отношения. То есть несмотря на то что ИИ уже давно умеет не только угадывать картинки, но и отлично их рисовать, не только читать тексты, но и писать стихи, рассказы и сценарии, масштаб его мышления весьма ограничен, он пассивный, так как ограничивается решением задач, которые ставит ему человек. Парадокс в том, что искусственный интеллект давно может обыграть человека в шахматы, но при этом он по-прежнему слабый, так как элементы целеполагания, творчества и созидания остаются за разработчиком.

Сильный ИИ

Сильный ИИ — это моделирование творческой личности, способной к рациональному мышлению. В отличие от «классического» логического ИИ, ключевой здесь является свобода принятия решений — не только на уровне планирования достижения уже поставленных целей, но и на уровне самого целеполагания. Агент самостоятельно ставит задачи и решает их. Для этого ему необходима мотивация. По сути, все наши поступки вызваны мотивацией: у живых систем это выживание, у личности — цель, которую она желает достичь. Мы работаем над тем, чтобы заложить такую мотивацию в искусственный интеллект.

Мы создаем систему поощрений и наград (подкреплений). Задача ИИ — заработать в ходе обучения как можно больше очков. И чем сложнее задачи, за которые даются награды, тем больше этапов требуется для их решения, тем сложнее задача планирования целенаправленного поведения и тем сильнее интеллект. Все как у людей: я не буду испытывать бытовых проблем в жизни, если получу высокооплачиваемую и нужную обществу профессию, для этого я должен хорошо учиться в школе и получить дополнительные знания, посещая курсы подготовки в престижном вузе, поступив в этот вуз, я буду хорошо учиться и получу желаемую профессию и т. д. Личность начинает структурировать свою деятельность, чтобы увеличить интеграл ожидаемых поступлений.

Иерархия целей

Это и есть общий подход к построению сильного искусственного интеллекта, который мы реализуем в нашей лаборатории когнитивных архитектур МФТИ. Вся сложность целенаправленного поведения — выстраивание длинной цепочки целей и задач на будущее. Это очень непросто. Обычный когнитивный (мыслительный) акт у человека длится около половины секунды, что соответствует, например, сказанному слову, но чтобы выстроить план на год, потребуется распланировать миллиарды когнитивных актов в соответствии со своими желаниями и потребностями.

Очевидно, что для этого необходима иерархическая структура мышления: набросать общий план и разбить его на этапы, детально рассмотреть каждый из них и решить таким образом задачу комбинаторного взрыва (много долгосрочных планов). Такое иерархическое планирование люди, как правило, и используют в жизни. Проблема состоит в том, чтобы научить ИИ самостоятельно вырабатывать иерархии планов поведения и добиваться их реализации в постоянно меняющихся условиях. И чем больше горизонт планирования — тем сильнее интеллект (и у человека, и у машины).

Мы предлагаем систематический подход к созданию сильного ИИ и придерживаемся гегелевского метода «от абстрактного — к конкретному», последовательно разбирая тему интеллекта на трех уровнях: функциональном, алгоритмическом и уровне имплементации. Такой подход сверху вниз позволяет выявить оптимальный для понимания интеллекта уровень моделирования мозга и сконструировать искусственный интеллект по тем же лекалам. Наша команда создала биологически обоснованную модель искусственного мозга. Мы назвали ее ADAM, и сейчас проводим тестирование на решении простых задач. Это алгоритмы для выстраивания иерархического мышления, и чем задачи сложнее, тем больше этажей мышления требуется построить.

Пока тестируются и отлаживаются модели с двумя-тремя слоями, но в идеале можно строить и многоэтажные конструкции — «алгоритмические небоскребы». Чем больше этажей, тем более сложные задачи она способна решать. При этом ИИ необходимо не только обучаться, но также не забывать предыдущих знаний. В идеале процесс должен перейти от машинного обучения к воспитанию. Для этого необходимо привить роботу систему человеческих ценностей.

Искусственная психика

Создание сильного ИИ равносильно разработке целостной искусственной психики вместо моделирования ее отдельных подсистем в виде искусственных глубоких нейросетей. Мы рассмотрели устройство человеческого мозга как систему со множеством уровней, число которых и отличает нас от других млекопитающих. Уровней у нас больше, что и позволило человечеству создать свой язык общения, разработать абстрактное мышление и нарастить огромный базис знаний, который передается от поколения к поколению.

К настоящему моменту у нас в лаборатории создан прототип модели сильного ИИ ADAM, способной неограниченно наращивать количество своих уровней и расти без ограничений горизонта планирования и сложности решения задач. Все упирается только в вычислительные мощности.