Миру грозит появление роботов-убийц. В связи с этим более 100 специалистов из 26 стран мира обратились к ООН с призывом запретить разработку и использование автономных систем летального оружия. По их мнению, мир стоит на грани новой гонки вооружений. Свою подпись под документом, в частности, поставил глава компаний SpaceX и Tesla Илон Маск. Андрей Загорский выяснял, есть ли реальная почва для опасений экспертов.
Фото: Skydance Productions, Paramount Pictures
То, что послание, среди прочих, подписал Илон Маск — факт весьма показательный. Вдумайтесь: за приостановку военных разработок в сфере искусственного интеллекта и робототехники высказался один из самых страстных энтузиастов новых технологий из сферы бизнеса. Ясно, что ему, как и другим специалистам, выступившим с письмом, известно о работах над продвинутыми вооружениями гораздо больше, чем СМИ, не говоря уже об обывателях.
Авторы послания указывают, что новые типы высокотехнологичных военных систем могут стать оружием диктаторов и террористов, а также использоваться хакерами в недопустимых целях.
Идея автономного оружия и искусственного интеллекта, им управляющего, великолепно отыграна Голливудом — достаточно вспомнить фильм «Робокоп» Пола Верхувена и знаменитую киносагу «Терминатор». Сегодня на телеэкраны и в интернет-пространство попадает в основном информация о мирных проектах в этой сфере. Но военные разработки уже зашли довольно далеко, рассказал также подписавший письмо в ООН гендиректор компании NaviRobot Игорь Кузнецов: «Уже, если проводить аналогии, то мышцы, скелет и спинной мозг военных роботов практически уже готовы по технологиям, не хватает пока еще только искусственного интеллекта, который принимал бы решения. Если этот искусственный интеллект разрабатывать бесконтрольно, то, конечно, может это привести к печальным последствиям. Там будет отсутствие такого барьера, как мораль. Это будет стопроцентно чистый робот-убийца».
Не исключено, что в отдаленном будущем сюжет фильма Джеймса Кэмерона о восстании машин вполне может реализоваться. А вот появление смертоносных систем вооружения, управляемых искусственным интеллектом без участия человека - будущее уже ближайшее. Это и понятно: одна из главных проблем в современном бою — несовершенство каналов связи, которые могут быть повреждены либо блокированы. При этом очевидно, что сбои в работе боевых роботов или их попадание «не в те руки» действительно ничего хорошего не сулят. Появление таких боевых систем — дело нескольких лет, поскольку остановить процесс их создания вряд ли удастся, считает директор по науке и технологии проекта «Джейн» Роман Душкин: «Технологии уже шагнули в такую сторону, что письма в ООН писать, в общем-то, поздно. Кто когда слушал запреты ООН из крупных игроков, которые действовали всегда с позиции силы и себе на уме? Все это будет продолжаться явно или тайно, в конце концов. Я думаю, что ближнесрочная перспектива в пять лет — это вполне обосновано. Нам надо всем готовиться и как-то учиться жить в новом мире».
При этом сейчас невозможно сказать, кто именно окажется лидером в сфере военной робототехники. Во всяком случае, это совсем не обязательно будет Америка, считает аналитик группы компаний «Финам» Леонид Делицын: «Шанс, что именно Соединенные Штаты выиграют эту гонку, сейчас кажется не очень высоким. Например, Китай может вполне успешно принять в ней участие. И тревога по этому поводу открыто звучит в американской прессе, что китайские инвесторы проникают в американские стартапы со своими деньгами».
Практика показывает, что до сих пор новые технологии в любом случае пробивали себе дорогу, в том числе в военной области. Но, может быть, человечество уже успело накопить в этом плане критическую массу негативного опыта?
Илон Маск, кстати, и раньше не раз заявлял, что, по его мнению, искусственный интеллект является одной из самых опасных угроз человечеству и что в этой области необходим строгий контроль.
Как сообщают зарубежные СМИ, военные роботы разрабатываются в том числе и в России. Так, по данным британской газеты The Guardian, российскими специалистами уже создан многофункциональный робототехнический комплекс разведки и огневой поддержки «Уран-9».