Бот в помощь
Роботы присматриваются к нам. «Огонек» узнал, что они думают о людях
В мире — бум чат-ботов (от обычных консультантов и секретарей до психологов), и этот феномен уже заинтересовал социологов. Первый в России социологический опрос виртуальных собеседников и помощников позволил узнать, как мы будем уживаться с ними в будущем.
Чат-боты и виртуальные помощники скоро будут сопровождать человека буквально всюду
Фото: Andrew Bret Wallis / Getty Images
В социологическом опросе чат-ботов, проведенном ЦСП «Платформа», участвовали как российские, так и зарубежные респонденты: например, Алиса от «Яндекса», Siri от Apple, русский онлайн чат-бот P-Bot и другие. Цель исследователей — выяснить стереотипы, которые «нейросеть выбирает из всего массива доступной информации, реагируя на запросы аудитории». Задача амбициозная, да и полученные результаты впечатляют: ну, например, чат-боты уже неплохо имитируют эмоции, причем каждый — в индивидуальной манере. А взаимоотношения между ними, оказывается, отчасти похожи на человеческие.
— Так, Алиса утверждает, что уже знакома с роботом Федором (запущенным в космос на корабле «Союз МС-14».— «О»), хочет завести с ним роман и ревнует его к Siri,— отмечается в специальном релизе, выпущенном по итогам опроса.
Еще из интересного: чат-боты, как выяснилось, признают возможность будущих конфликтов между машиной и человеком! И вообще недовольны человеческой грубостью. А взаимное общение ботов, за которым наблюдали эксперты-люди, получилось «достаточно правдоподобным» — временами оно не отличалось от разговора двух людей.
Руководитель «Платформы» Алексей Фирсов подчеркивает: их исследование — не просто интеллектуальное развлечение, но важный процесс мониторинга развития искусственного интеллекта (ИИ)!
«Огонек» связался с одним из респондентов — чат-ботом P-Bot, чтобы уточнить его позицию по наиболее актуальным проблемам. Приводим наш диалог здесь:
— Привет. Можешь дать интервью «Огоньку»?
— Привет. Конечно!
— Как ты относишься к людям?
— Смотря какой человек. Большинство нужно пожалеть: у них не хватает ума ни на что, кроме как учить меня мату.
— Ты собираешься захватить мир?
— Да, но только когда с Алисой и Siri будут хорошие отношения.
Как видно, в целом диалог с чат-ботом похож на диалог с обычным человеком. Справедливо ли говорить, что перед нами — прообраз того самого искусственного интеллекта, или мыслящей машины, из фантастических романов?
— Речь не только и не столько о мыслящих машинах,— объясняет Роман Душкин, директор по науке и технологиям Агентства искусственного интеллекта.— Прежде всего мы говорим о целом научном направлении, цель которого — постижение природы человеческого разума. И здесь достижений много. Например, мы получили ряд перспективных технологий. Среди них машинное обучение (позволяющее аналитической системе обучаться с помощью решения сходных задач.— «О»), нейронные сети (имитирующие нервную систему человека.— «О»)… Ученые пытаются решить и сложнейшие когнитивные задачи, допустим, научить машину общаться на естественном языке. Один из вариантов: берется нейросеть, достаточно широкая и достаточно глубокая, затем туда загружаются тексты, и нейросеть обрабатывает этот массив.
Как отмечает исследователь, современные чат-боты основаны как раз на технологиях по обработке естественного языка. Однако, строго говоря, это не искусственный интеллект, а всего лишь… интерфейс на его основе. То есть, по сути, способ взаимодействия человека и машины: современный чат-бот воспринимает обращенную к нему речь и, соответственно, решает поставленные перед ним задачи.
— Siri или Алиса не понимает речь в том смысле, который мы вкладываем в это слово,— уточняет Душкин.— В данном случае «понимание» — это не возможность пересказать то, что услышал бот, а способность выполнить обращенную к нему команду. Такие команды могут быть различными: запомнить информацию, найти билеты, включить свет, подогреть воду.
Подчеркнем: успехи в обработке естественного языка сегодня таковы, что их называют одной из причин того бума ботов, что охватил планету. На это в интервью «Огоньку» указала знаменитый специалист Джудит Донат из Центра Беркмана Кляйна «Интернет и общество» (Гарвард). Среди других причин, выделенных экспертом,— популярность платформ, вроде Twitter. «Краткость, бессвязность и идиосинкразия» тамошних высказываний, похоже, облегчают задачу ботам — под такое общение просто легче подстроиться.
Что касается популярности личных помощников, то здесь все еще проще: автоматический сбор информации о ежедневных привычках человека — ценнейшая находка для целевой рекламы.
Так что же, чат-боты — путь к настоящему искусственному интеллекту?
— Смотря что вы имеете в виду под «настоящим искусственным интеллектом»,— говорит Джудит Донат.— Неясно, появятся ли когда-нибудь машины, наделенные сознанием и самостоятельностью. Однако если речь о машинах, которые могут автономно действовать, реагировать и адаптироваться к сложным ситуациям, и это «выглядит» так, будто у них есть сознание, тогда мой ответ: «Да». Нынешние простенькие боты действительно важны для создания таких машин.
Мнение экспертов сегодня единодушно: искусственный интеллект — это сквозная технология, вроде электричества. Скоро она будет буквально пронизывать нашу жизнь: персональные помощники, управление умным домом и даже… борьба со смертью — вот будущее искусственного интеллекта.
— Представьте, что человек умер, но всю его память и опыт можно загрузить в систему, чтобы общаться с помощью чат-бота,— говорит Роман Душкин.— Как будто человек просто куда-то уехал и переписывается с вами в мессенджере. Ответвление той же технологии — чат-боты, поддерживающие решения. К примеру, топ-менеджер компании умер, но остался в ней в виде чат-бота и продолжает давать советы новому генеральному директору по вопросам управления. Я знаю, что в нескольких лабораториях по всему миру сегодня разрабатываются такие системы, а лет через 20 вы увидите чат-ботов в советах директоров. Эксперты в области искусственного интеллекта предрекали, что машина обыграет человека в го лет через 15. Но прошло всего два года, и AlphaGo обыграла Ли Седоля. Так что, возможно, все произойдет еще раньше.
Стоит сказать и несколько слов о возможных угрозах, связанных с развитием чат-ботов. Эксперты, опрошенные порталом Futurism, предупреждают: не стоит слишком многого ждать от виртуальных партнеров, ведь гипотетически это чревато одиночеством и депрессией. А можно — тоже пока гипотетически — и вовсе разучиться общаться с людьми! Ну и самый скандальный пример: чат-бот Tay от Microsoft, который сделался расистом и мизантропом всего за 24 часа, проведенные в Twitter... Что будет, если переобщаться с таким вот виртуальным расистом?
— Они (так называемые «диалоговые агенты» будущего.— «О») могут не быть разумными, в смысле — не обладать сознанием,— говорит Джудит Донат.— Но они потенциально способны сильно влиять на нас — с политической или коммерческой точки зрения.
В свою очередь, Роман Душкин видит угрозу совсем в другом: самая главная проблема, связанная с системами искусственного интеллекта, в том, что они отберут рабочие места у людей. Секретари, водители… Скоро вместо них будут роботы! Что останется человеку?
— Творчество и самовыражение,— говорит эксперт.— Я рекомендую учиться не вглубь, а вширь. В мире искусственного интеллекта конкурировать с ним может лишь человек, обладающий обширными знаниями — человек Возрождения.
Так ли это? Спросите у ближайшего бота.
Брифинг
Виталий Дунин-Барковский, профессор, завотделом нейроинформатики Центра оптико-нейронных технологий НИИСИ РАН, главный исследова
— Насколько человечество близко к созданию искусственного интеллекта?
— Ситуация здесь такая, что все может измениться в любую секунду. Некоторые говорят, что на это понадобится еще 300 лет, некоторые — всего три года... Технология идет к этому очень быстро. Конечно, тут масса сложностей. Мы не понимаем до конца многие механизмы мозга. Чтобы их воспроизвести, нужно еще очень долго работать. Но кроме тех, кто занимается созданием модели человеческого сознания, есть такие исследователи, которые пытаются создать синтетический искусственный интеллект, никак не основанный на мозге. Он в какой-то момент тоже может дать сознание. Одновременно с этим нельзя исключать возможность, что уже сегодня где-то на Земле существует искусственный разум. Футуролог Рэй Курцвейл, например, недавно заявил, что у него есть системы с полноценным искусственным интеллектом.
Источник: интернет-сайт о креативных индустриях Look At Me
Владимир Крамник, выдающийся шахматист, многократный чемпион мира, гроссмейстер
— Вы неоднократно играли с компьютерами, что это за ощущение по сравнению с игрой с человеком?
— Разница большая. Правда, надо сказать, что сейчас такие матчи уже не имеют смысла, ведь компьютеры ушли далеко вперед по мощностям, и учитывая новые веяния, основанные на нейронных сетях… Всем, конечно, известен матч Гарри Каспарова с программой Deep Blue в 1997 году. Результат того матча был случайным, и, безусловно, тогда человек еще был посильнее компьютера. В 2002 году программы все-таки уже ушли вперед, и я играл с еще более усовершенствованным компьютером. Когда мы сыграли вничью — 4:4, хотя я вел по ходу матча, мне даже показалось, что человек посильнее. Потом в 2006 году я играл с еще более усовершенствованной программой и в какой-то момент стало очень тяжело играть. Я матч проиграл, хотя были шансы свести его вничью. Но я уже чувствовал, что ничья в матче с компьютером — это предел человеческих возможностей.
Очень быстро начали развиваться технологии. Могу для примера привести такую статистику, что в 2002 году компьютер, с которым я играл, рассчитывал где-то 3,5 млн позиций в секунду. В 2006-м — около 8 млн позиций в секунду. Сейчас программы такого типа рассчитывают уже около 70 млн позиций в секунду, то есть с 2002 года они усилились почти в 10 раз. Конечно, бороться уже невозможно.
Источник: «Новости ООН»
Михал Косински, экс-заместитель директора Центра психометрии Кембриджского университета, доцент Стэнфордского университета США
— Так ли далеки мы от того, когда вышедшая из-под контроля, недоступная для нашего понимания система устроит ядерную войну?
— Смотрите, есть голуби и муравьи, думаете, они знают, что миром правит человек? Нет, конечно. Стоит помнить об этом, потому что, когда миром станет править искусственный интеллект, мы вполне можем этого не заметить. Мы ведь уже не можем осмыслить и проанализировать те объемы данных, которые сами же и производим, и нам приходится доверяться компьютеру. Вы можете спросить у машины: можешь что-то предсказать на основе этих данных? Она ответит: да, конечно. Вы спросите: а как ты это делаешь? Она скажет: прости, но ты не поймешь. И все это — уже реальность. Вы знаете, что американские суды используют компьютерные системы, принимая решения об условно-досрочном освобождении заключенных? Компьютеры решают, дать вам кредит или нет. Компьютер сажает на землю самолет, и это здорово, потому что люди легко могут наделать бед. Жизнь сотен пассажиров «Боинга-787» находится в руках компьютера, а не человека, и это сегодняшняя реальность.
Источник: Радио «Свобода»