Немецкий Карлсруэ принимает у себя крупнейшую международную конференцию по робототехнике. Одна из ключевых тем — законы для роботов
С помощью этого забавного робота активисты предупреждают о возможном появлении его менее забавных собратьев — "роботов-убийц"
Фото: REUTERS/VOSTOCK-PHOTO
Несколько лет назад в итальянском городке Печчоли, неподалеку от Пизы, в рамках уникального проекта DustBot на улицы выпустили роботов-уборщиков, ориентирующихся по GPS,— их можно было вызвать, чтобы убрать мусор. Проект прогремел на весь мир, а ученые, в свою очередь, обратили внимание на парадокс: деятельность роботов-уборщиков не регулируется правилами дорожного движения, для полиции, страховых компаний или, скажем, муниципальных властей подобное устройство — это "неустановленный объект". Каким законам он подчиняется? Сегодня проект DustBot заморожен, однако проблема осталась: роботы все больше вторгаются в нашу жизнь, при этом их деятельность не регулируется законодательством. Именно это ведущие мировые специалисты в области робототехники и права обсудят в рамках крупнейшей международной конференции IEEE по робототехнике и автоматизации (ICRA 2013).
Ученым, съехавшимся в понедельник в немецкий город Карлсруэ, есть над чем поразмыслить: мир на пороге робототехнической революции. По данным Международной федерации робототехники (IFR), в 2011 году продажи промышленных роботов выросли на 38 процентов по сравнению с 2010-м и составили более 166 тысяч экземпляров — рекордный показатель за всю историю подсчетов. Помимо промышленных выделяют другую, не менее обширную категорию — сервисных роботов (к ним относятся как роботы для профессионального использования, военные или медицинские, так и, например, бытовые, вроде роботов-пылесосов). Прогнозы впечатляют: с 2012 по 2015 год число проданных бытовых роботов всех типов должно увеличиться до... 11 млн!
Одним словом, ученые уверены: задуматься о законодательном регулировании всего этого механического воинства нужно уже сейчас. Чуть более года назад был запущен проект, профинансированный, в частности, Евросоюзом, который назвали Robolaw (от двух английских слов, "робот" и "закон"). Как объяснил "Огоньку" один из руководителей проекта, доктор Перикл Сальвини из итальянского Института биоробототехники, важнейшая задача исследователей — предоставить рекомендации для Европейской комиссии по решению накопившихся законодательных вопросов. Соответствующий документ появится в феврале 2014 года, в нем будут как предложения по новым законам, так и по тому, как применять уже имеющиеся нормы, а также этические соображения экспертов.
"Мы не хотим, чтобы Robolaw стал просто генератором законодательных инициатив, связанных с применением роботов,— говорит доктор Сальвини.— Для начала нам бы хотелось взвесить этические и социальные последствия, а уж затем перейти непосредственно к законам".
Самые актуальные вопросы, с которыми ученые уже столкнулись в своей работе, как раз обсудят в рамках германской конференции: как рассказала один из организаторов тематического семинара доктор Сюзанна Бек из исследовательского центра Вюрцбургского университета (Германия), камень преткновения — автономность роботов, ведь они менее управляемы и предсказуемы, чем обычные автоматы, они могут учиться и принимать решения. Кто должен нести ответственность за их ошибки? Производитель, пользователь или, скажем, программист, все вместе или вообще никто? В качестве примера исследователи приводят беспилотные автомобили Google — это то же самое, что холодильник, или они ближе к домашним питомцам, за которых, как известно, отвечают их хозяева? Другая, не менее актуальная проблема: как быть с частной жизнью в мире, где роботы в силу своей специфики собирают о нас информацию?
Речь также о рисках, которые подстерегают человечество в будущем. Один из таких рисков — изменение наших представлений о самих себе. Возможно, роботы заменят людям друзей и даже родственников, предсказывают эксперты. Опасность есть и с другой стороны: например, человек может заставить робота совершить преступление — и тут общество должно четко определиться с границами допустимого. Международная правозащитная организация Human Rights Watch даже выпустила доклад, в котором предупреждает: есть вероятность, что в ближайшие 20-30 лет появятся "роботы-убийцы", которые будут выбирать цели и уничтожать их без вмешательства человека. Прообразы подобных устройств уже существуют — это и современные зенитно-ракетные комплексы, и патрульные роботы, вроде южнокорейского SGR-1...
"Очень важно, чтобы общество присматривало за разработками в робототехнике. Нужно в открытых дебатах решать, какие роботы нам нужны, какие исследования необходимо профинансировать, с какими рисками мы можем согласиться..." — говорит Сюзанна Бек. Вообще развитие робототехники сегодня часто сравнивают с развитием интернета: мол, он появился и изменил нашу жизнь настолько быстро, что человечество даже не успело отреагировать, а законы, регулирующие Всемирную сеть, стали появляться лишь постфактум. Как сделать так, чтобы законодательные и этические нормы, связанные с научно-техническим прогрессом, были эффективны уже сегодня и не устарели в будущем? В этом, по мнению доктора Сальвини, и есть основной вызов, стоящий перед исследователями.