Как разрабатываются автономные боевые системы и кто выступает против них

В последнее время все больше стран заявляют о собственных разработках автономных боевых систем — боевых роботов, которые в скором будущем смогут сами принимать решения о применении оружия. На этом фоне все активнее звучат голоса противников автономного оружия, а также тех, кто предлагает по меньшей мере договориться о правилах применения таких систем.

На этой неделе Европейское оборонное агентство провело конференцию «От беспилотных к автономным системам: тенденции, проблемы и возможности», на которой обсуждались возможности применения роботизированных боевых систем и необходимость разработки правил их использования. Создана специальная международная техническая экспертная группа из представителей компаний и исследовательских институтов, члены который будут работать над основными принципами и границами применения искусственного интеллекта в оборонном секторе.

Разработкой боевых роботов занимаются сейчас самые разные страны — на этом фоне все чаще встает вопрос этичности использования таких систем, а также правил их применения.

Как пишет Bloomberg, в ближайшие несколько лет только Минобороны США вложит в разработку роботов около $1 млрд. «Я не сомневаюсь, что через пять лет роботы будут в каждом войсковом соединении. Мы переходим от разговоров про роботов к реальным разработкам и поступлению их в войска»,— считает руководитель проекта по защите войск армии США Брайан Маквей. За время войны в Афганистане и Ираке у вооруженных сил США накопилось более 7 тыс. роботов, использовавшихся прежде всего для обнаружения взрывчатки, но это были достаточно примитивные и по сути одноразовые системы.

Американские компании уже занимаются производством роботов для армии. Так, этой весной Пентагон заключил два контракта с компаниями Endeavor Robotics и QinetiQ, сумма контрактов составила $429 млн. В прошлом году Endeavor также получила контракт на $158,5 млн на производство 1,2 тыс. роботизированных систем Man-Transportable Robotic System, предназначенных для обнаружения взрывчатых веществ, а также радиоактивных веществ, химического и биологического оружия и т. д. Эти системы должны вступить в строй уже к лету следующего года. Пока речь идет в основном о роботах небольшого и среднего размера, но в ближайшее время Минобороны США собирается определить, какие именно роботы тяжелого класса ему необходимы.

Несколько недель назад британская армия провела крупнейшее в своей истории испытание боевых роботов — было протестировано около 70 образцов высокотехнологичных боевых систем. Среди них модернизированные беспилотники, автоматизированные наземные транспортные средства и т. д. Еще в 2015 году Министерство обороны Великобритании выделило £800 млн на различные высокотехнологичные военные разработки.

Пока о роботизированном летальном оружии, абсолютно не контролируемом человеком, речи не идет, но эксперты считают это вопросом времени.

«Кажется неизбежным, что технология подведет нас к тому моменту, когда страны столкнутся с вопросом, можно ли поручить машине приятие смертоносных решений»,— считает директор программы по технологиям и национальной безопасности Центра новой американской безопасности Пол Шарре.

Собственные автоматизированные боевые системы разрабатывают не только на Западе. В мае Минобороны Индии рассказало о разработке новых видов вооружений, среди которых беспилотные танки и боевые роботы. В начале ноября Пекинский технологический институт сообщил о том, что отобрал 30 студентов для четырехлетней «экспериментальной программы по "умным" системам вооружения». По мнению экспертов из Комиссии по вопросам экономики и безопасности в американо-китайских отношениях, действующей при правительстве США, Пекин рассматривает роботов как ключевое звено «революции военного дела»: спрос только на военные БПЛА в Китае растет на 15% в год — с 2013 по 2022 год он должен вырасти с $570 млн до $2 млрд. Среди военных китайских разработок — робот AnBot, оснащенный сенсорами и электрошоковым устройством, он может самостоятельно патрулировать территорию и поражать током.

По мере того как все больше стран сообщают о разработке боевых роботов, это вызывает беспокойство ряда экспертов в области робототехники. Так, в феврале Корейский институт передовых технологий (KAIST) совместно с южнокорейским производителем оружия Hanwha Systems создал лабораторию для проведения «исследований в сфере национальной обороны, в том числе связанных с искусственным интеллектом». После этого более 50 мировых экспертов в сфере робототехники, в том числе Кембриджского университета, Калифорнийского университета в Беркли и других научных центров, опубликовали открытое письмо, в котором осудили позицию KAIST и объявили о его бойкоте.

Этим летом представители 164 организаций и более 2,4 тыс. человек из 90 стран мира подписали письмо о недопустимости разработки автономного оружия на базе искусственного интеллекта. В числе поставивших подписи основатели DeepMind Демис Хассабис, Шейн Легг, Мустафа Сулейман, основатель Tesla и SpaceX Илон Маск, основатель Skype Яан Таллинн. Пока многие эксперты говорят о недопустимости автономного оружия, правительства пока не очень далеко продвинулись в этом вопросе. В сентябре в Женеве состоялась встреча делегаций 88 стран, посвященная автономным системам летального действия, на ней государствам — сторонники запрета таких систем вооружений не смогли добиться мандата ООН на выработку юридически обязывающего международного договора в этой сфере.

Яна Рождественская