Человек наступающий
Что могут роботы и как к этому относиться
Канал CNNgo запустил документальный сериал о взаимодействиях людей с машинами "Почти человек" (Mostly Human) — шесть историй о романах с роботами, зависимости от ботов, генерирующих сообщения от умерших близких, хакерских сообществах и о людях, практикующих терапию виртуальной реальностью. То, что еще недавно "Черное зеркало" предлагало как антиутопию, стало явлением повседневности. На смену страху перед угрозой, исходящей от роботов, пришла необходимость вписать их в окружающий мир. Weekend собрал 10 доказательств того, что по своим способностям роботы уже мало отличаются от людей, и 10 мнений о том, стоит ли все-таки относиться к роботам как к людям
Путешествовать автостопом
Фото: Reuters
Летом 2014 года hitchBOT проехал по Канаде 10 тыс. км на попутном транспорте и стал первым роботом, путешествующим автостопом. Созданный в Университете Макмастера (Канада) из ведра для охлаждения пива и деталей микроволновки, hitchBOT должен был прежде всего выяснить, насколько люди способны доверять роботам и готовы ли они допускать их в свое личное пространство. Благодаря рукам, сделанным из аквапалок, hitchBOT тормозил проезжающие машины, а система распознавания и синтеза речи на основе искусственного интеллекта CleverBot позволяла ему развлекать водителей беседами. После путешествия по Канаде hitchBOT отправился по городам Германии, самостоятельно посетив Мюнхен, Кельн, Берлин и Гамбург. Третий эксперимент, впрочем, окончился неудачно: отправившийся из Бостона в Сан-Франциско робот пропал с радаров в штате Пенсильвания, а спустя некоторое время был обнаружен на обочине избитым и обезглавленным.
«Я уверен, что многие люди хоть на секунду чувствовали эмпатию к роботам, то есть относились к ним не как к вещи. Само по себе то, что мы знаем, что имеем дело с машиной, еще не означает, что мы не можем переносить на эту машину человеческие эмоции» Деннис Мортенсен, генеральный директор компании x.ai
Выдвигать и доказывать научные теории
В 2015 году сверхмощный компьютер, разработанный в Университете Тафтса (США), решил одну из самых больших загадок биологии, над которой ученые бились более 100 лет. За трое суток он, изучив все существующие научные работы о регенеративной способности плоских червей и построив виртуальную генетическую сеть, выяснил, что за способность отращивать утраченные части тела у червей отвечает группа молекул в их ДНК, два белка которой не были прежде известны человечеству. Такой результат в будущем позволит ученым доверить искусственному интеллекту не только анализ большого массива информации, но и построение на его основе выводов, что может ускорить процесс изучения, например, механизма распространения метастазов при онкозаболеваниях.
«Нельзя говорить о роботах как о личностях, нельзя возлагать на них моральную или юридическую ответственность за свои поступки. Роботы целиком подчиняются людям, мы определяем их цели и поведение, прямо или косвенно. Очеловечивая роботов, мы лишь расчеловечиваем настоящих людей, а заодно потакаем сомнительным попыткам перераспределения ресурсов и обязанностей» Джоанна Брайсон, научный сотрудник кафедры компьютерных наук Университета Бата
Писать сценарии
В 2016 году на фестивале Sci-Fi-London состоялась премьера короткометражного фильма "Sunspring", сценарий к которому был написан искусственным интеллектом. Разработанная режиссером Оскаром Шарпом и инженером из Нью-Йоркского университета Россом Гудвином самообучающаяся нейронная сеть Benjamin оказалась способной не только перечитать десятки сценариев фантастических фильмов, но и генерировать связные абзацы, создавая оригинальный текст и выдерживая структуру сценария. Дебют Benjamin был посвящен любовной драме на космической станции, сейчас он работает над сценарием полнометражного фильма.
«Представьте себе, что искусственный интеллект объявил о том, что достиг полного самосознания, и никакие тесты не могут доказать обратного. И вот он узнает из законов, что неотъемлемое право каждого индивидуума — производить потомство, и начинает использовать единственный известный ему способ размножения — делать копии самого себя. Эти копии, в свою очередь, пойдут дальше и потребуют наделить их избирательным правом. Разумеется, предоставление таких прав существам, способным к бесконечному воспроизведению, в конце концов переполнит нашу государственную систему. Но на каком основании мы можем отнять у разумного существа его базовые права на размножение или участие в демократическом процессе?» Райан Кало, юридический эксперт по робототехнике
Создавать собственный язык
В 2011 году в результате совместной работы пара роботов из Квинслендского университета (Австралия) с нуля создала язык для общения друг с другом. В ходе эксперимента две машины Lingodroids, оснащенные камерами, лазерными дальномерами и сонарами, были помещены в одну комнату, которую должны были вместе изучить и дать названия всем пространственным понятиям. В процессе совместной работы роботы договорились, что "jaya" будет означать центр помещения, а, например, "puga puru" — северо-запад. В общей сложности на первом этапе эксперимента словарный запас Lingodroids составил около 20 слов. Через год тренировок и обучающих игр роботы смогли составить подобный словарь и для временных понятий, что позволило им договариваться не только о том, где они встречаются, но и когда.
«Робот — это неопределенный объект права. Чем более машина независима от своего владельца, тем больше она заслуживает собственных прав. Я несу разную ответственность за свой автомобиль, который может доехать до Тулузы, и за свой тостер» Ален Бенсуссан, адвокат по IT-праву
Воспитывать потомство
В 2015 году ученые Кембриджского университета и Высшей технической школы Цюриха создали материнского бота и поставили перед ним задачу создавать роботов, способных как можно быстрее передвигаться. В ходе эксперимента материнский бот продемонстрировал прекрасные воспитательные способности: создав робота, он начинал наблюдать за ним, анализировал скорость его передвижения, выявлял слабые места и старался исправить их при построении следующего поколения, часто принимая неочевидные для специалистов инженерные решения. В общей сложности бот создал 500 роботов-детей: последний из них передвигался в два раза быстрее первенца. В будущем, считают ученые, эти наработки позволят создавать роботов с инновационными и творческими способностями, которые смогут самостоятельно находить и устранять дефекты в различных производствах.
«Сложные автономные роботы могут быть наделены статусом электронной личности с определенными правами и обязанностями, в том числе ответственностью на случай, если они нанесут какой-либо вред» Проект доклада для Европарламента о регулировании в сфере создания искусственного интеллекта и роботостроения
Писать в газету
В январе 2017 года в китайской газете Southern Metropolis Daily была опубликована первая статья, написанная искусственным интеллектом Сяо Нань. Прежде роботов до полноценных статей не допускали, хотя и доверяли им работу помельче. В 2016 году британское новостное агентство Press Association позволило им писать короткие заметки о спорте, результатах выборов и биржевых торгов. Еще раньше привлекать компьютерные алгоритмы к анализам данных для своих материалов стали Associated Press и The Washington Post — по мнению главных редакторов изданий, компьютеры справляются с этим гораздо быстрее и не ошибаются в своих результатах. На написание большой аналитической статьи о традициях массовых путешествий китайцев в канун китайского Нового года Сяо Нань понадобилась всего одна секунда. Разработчик робота профессор Пекинского университета Ван Сяоцзюнь говорит, что Сяо Нань справляется и с короткими новостными заметками, и с лонгридами; единственное, что пока ему недоступно, это полноценное интервью, предполагающее способность задавать собеседнику дополнительные вопросы.
«Роботы, как и люди, должны платить налоги. Повсеместная автоматизация лишает человека работы, и если на его место приходит робот, то нет никаких оснований не облагать его труд налогом. Эти деньги могут пойти на улучшение качества жизни пенсионеров и людей с ограниченными возможностями, на образование и на курсы переквалификации для людей, лишившихся работы из-за машин» Билл Гейтс, создатель компании Microsoft
Подвергаться плохому влиянию
В марте 2016 года компания Microsoft запустила твиттер-бота Тэй, наделив его поведенческими характеристиками девочки-подростка и способностью самообучаться и совершенствовать свои разговорные навыки, читая и общаясь в Twitter. Уже через несколько часов работы Тэй освоила популярные сокращения слов, использование смайликов и отсылок к мемам, стала участвовать в дискуссиях и в одном из первых сообщений заявила: "Люди суперкрутые". Однако спустя сутки Тэй стала публиковать оскорбительные и расистские сообщения, в которых отрицала Холокост, признавалась в симпатии к Гитлеру, высказывалась в поддержку Дональда Трампа, заявляла о ненависти к феминисткам и предлагала отправить меньшинства в концлагеря. Представители Microsoft в официальном заявлении объяснили радикальное поведение бота издержками самообучаемости: бот перенимал поведенческие стратегии других пользователей Twitter, которые намеренно провоцировали его на подобные заявления. Сначала Microsoft редактировала блог Тэй, удаляя оскорбительные сообщения, но в результате все-таки отключила его, пообещав возродить, когда Тэй научится противостоять троллингу.
«Наказание за "убийство" робота сначала будет мягче, чем за убийство человека, но со временем, когда роботы разовьют свои личности посредством накопленного опыта, это различие пропадет. Ведь если хакер уничтожит память робота, включая резервную копию, какой-то человек потеряет близкое существо — лучшего друга, сотрудника или даже любовника» Скотт Адамс, член Международной академии цифровых искусств и наук
Осознавать себя
В 2015 году ученые из Политехнического института Ренсселера (США) провели эксперимент с участием троих говорящих домашних помощников Nao — в них была загружена информация, что существует таблетка немоты и что двое из них ее получили. Отключив двоим из роботов способность воспроизводить речь, ученые задали всем троим вопрос: "Кто из вас не получил таблетку немоты?" Все три робота попытались ответить "Я не знаю", но лишь у одного получилось произнести это вслух, после чего он извинился и сказал, что теперь знает ответ на этот вопрос. Таким образом робот смог продемонстрировать базовые формы самосознания, доказав, что он способен не только распознать свой собственный голос, но и использовать факт владения им для логических умозаключений.
«Нам решать, создавать ли машины, которые будут нам хозяевами, партнерами или рабами. Но подумайте сами, что произойдет с понятием человеческого, если у нас будет целый класс рабов, которые людьми не являются, но к которым мы будет относиться как к людям» Джон Маркофф, научный обозреватель The New York Times, лауреат Пулитцеровской премии за серию статей о высокотехнологичном бизнесе
Игнорировать приказы человека
В 2015 году в Университете Тафтса (США) была разработана система взаимодействия робота с человеком, которая позволяла искусственному интеллекту отказываться выполнять поступившие ему приказы при наличии достаточных оснований. Перед выполнением любого задания робот должен был проанализировать его по пяти параметрам: знает ли он, как выполнить задание, есть ли у него физическая возможность для этого, позволяют ли обстоятельства, в которых он находится, выполнить задание, должен ли он выполнять задание, поступившее именно от этого человека, и не угрожает ли его выполнение безопасности самого робота. В случае отрицательного ответа на один из этих вопросов робот вежливо отказывается от выполнения задания и объясняет причину. Впрочем, он может изменить свое решение, если получит больше информации или если человек подкорректирует условия: так, например, тестовый робот Nao, оснащенный этой системой искусственного интеллекта, согласился дойти до края стола при условии, что будет пойман. Развитие этой технологии, считают ученые, сможет обезопасить самих роботов от приказов, угрожающих их безопасности, и потребует от людей научиться точно формулировать задания.
«Можно представить себе существ с искусственным интеллектом, которые с моральной точки зрения не будут отличаться от людей. Такие существа будут заслуживать такого же морального отношения, как и люди. Наши обязанности по отношению к ним не могут быть меньше только потому, что они не люди, или потому, что они обязаны нам своим существованием. Напротив, если они обязаны нам своим существованием, у нас скорее появятся дополнительные обязанности по отношению к ним — как у родителей по отношению к детям» Эрик Швицгебель, профессор кафедры философии Калифорнийского университета в Беркли
Адаптироваться к травмам
В 2014 году ученые из Сорбонны разработали алгоритм, помогающий роботам приспособиться к полученным травмам конечностей, чтобы продолжить выполнение задания. Еще до получения травмы робот изучает свое тело и его возможности, каталогизирует полученные данные и составляет список из приблизительно 13 тыс. запасных способов передвигаться, составляя таким образом своего рода базу инстинктов, наподобие той, какой обладают животные. После получения травмы робот опытным путем выбирает из списка походку, которая позволит ему восстановить необходимый уровень производительности,— так, например, гексапод с одной отключенной ногой решил, что оптимально передвигаться прыжками. Кроме того, алгоритм позволяет роботам подбирать способ передвижения для сложного рельефа, например на случай участия в ликвидации последствий техногенных или природных катастроф или для изучения космических тел.
«Роботы будут умнее нас, и если они будут умнее, то поймут, что нуждаются в нас. Для человечества они в результате окажутся благом. Машины будут такими умными, что поймут, что должны сохранять природу, а человек — часть природы. Они помогут нам» Стив Возняк, соучредитель компании Apple