Начато создание интерактивной системы, объясняющей пользователям работу AI

Американская научно-исследовательская компания Parc объявила о начале работы над созданием интерактивной системы COGLE, которая должна доступно объяснять обычным пользователям механизмы работы искусственного интеллекта (AI). Ученые считают, что такая система становится весьма востребованной в условиях все большего распространения автономных транспортных средств и других устройств, в которых применяется AI.

Вчера компания Parc, входящая в группу Xerox, сообщила, что подразделение Министерства обороны по перспективным научно-исследовательским разработкам (DARPA) выбрало ее в качестве подрядчика для создания интерактивной системы COGLE (COmmon Ground Learning and Explanation). В рамках контракта на несколько миллионов долларов (более подробная информация не разглашается) Parc создаст систему, которая будет объяснять «обычным человеческим пользователям» принцип работы искусственного интеллекта. Подразумевается, что COGLE «создаст связующее звено между концепциями и абстракциями, используемыми человеком, и возможностями, которым обучается машина». Смысл создания такой системы — дать людям понять, как работает система искусственного интеллекта, которой оснащена какая-нибудь конкретная машина наподобие самоуправляемого автомобиля, и научиться предсказывать поведение такой автономной системы.

Контракт предоставлен в рамках более широкой программы DARPA по исследованию и объяснению работы искусственного интеллекта (Explainable Artificial Intelligence, XAI). Исследователи из Parc будут сотрудничать с такими известными учебными центрами и организациями, как Университет Карнеги—Меллон, Университет Мичигана, Университет Эдинбурга, военная академия Вест Пойнт, Институт Флориды по изучению когнитивных способностей человека и машины.

Ученые считают, что более понятная система взаимодействия человека и умных машин жизненно необходима уже сейчас. «Системы машинного обучения и алгоритмы искусственного интеллекта начинают все лучше решать сложные задачи реального мира и продолжают таким образом самообучаться. В свою очередь, люди способны увязывать свои новые знания с контекстом, в котором они получают эти знания. Когда машины и люди работают вместе, многие задачи могут быть решены. Пользователи автономных транспортных средств не всегда могут понимать, почему система управления принимает то или иное решение в данный момент, поэтому могут не всегда доверять этой системе — и это является главной проблемой при совместной работе машины и человека»,— отмечает Parc.

Подразделение Минобороны США DARPA ведет масштабные разработки, направленные на более тесное взаимодействие человеческого мозга и компьютерного интеллекта, в том числе распознавания компьютером импульсов головного мозга, речи. В начале недели стало известно, что DARPA направит $65 млн на создание нейроимплантов, которые позволят давать прямые команды из мозга в компьютер. В рамках программы Neural Engineering System Design к работе будут привлечены исследователи из таких учебных заведений и научных центров, как Колумбийский университет, Университет Брауна, Калифорнийский университет, французский Центр изучения зрения и слуха (Fondation Voir et Entendre), нейролаборатория имени Джона Пирса в Йельском университета.

Евгений Хвостик