В Женеве на этой неделе проходит первая сессия Группы правительственных экспертов ООН открытого состава Конвенции о негуманном оружии по смертоносным автономным системам вооружений (САС). Именно на площадке этого международного форума рождались запреты кассетных боеприпасов, напалма, ослепляющих лазеров и противопехотных мин.
Директор проекта по новым технологиям и международной безопасности ПИР-Центра Вадим Козюлин
Фото: Григорий Собченко, Коммерсантъ / купить фото
Для России боевые роботы стали одним из символов возрождения вооруженных сил, перспективным экспортным товаром и сигналом миру о готовности страны бросить вызов технологическому лидерству Соединенных Штатов.
Между тем в последние годы все больше известных людей выступают за полный запрет «роботов-убийц». Под соответствующей инициативой подписались более 20 лауреатов Нобелевской премии мира, 150 религиозных лидеров и 3 тыс. специалистов по искусственному интеллекту. Мировую общественность ужасает сама мысль, что право распоряжаться человеческой жизнью может достаться бездушной машине, которая, конечно, не станет соблюдать нормы гуманитарного права.
Однако запретить боевых роботов будет нелегко — хотя бы потому, что пока в мире нет принятого на международном уровне термина не только «смертоносные автономные системы» или «роботы-убийцы», но даже простого термина «оружие». Если же попытаться сформулировать это определение, то выяснится, что под него, скорее всего, подпадут давно известные «роботы-убийцы»: системы ПВО, длинный ряд ракет, действующих по принципу «выстрелил и забыл», активная защита для бронетехники и даже противотанковые, морские и прочие мины.
При этом образцы САС, которые производит современная оборонная промышленность, пока вызывают у общественности скорее разочарование. Роботизированная южнокорейская пулеметная вышка SGR-A1, американская морская противовоздушная система Phalanx System, израильская автоматизированная система ПВО Iron Dome, беспилотные ударные летательные аппараты Taranis и X-47B или израильский барражирующий боеприпас Harop мало походят на классического голливудского «Терминатора».
Тем не менее широкая общественная и медийная кампания против «роботов-убийц» уже приносит определенные плоды: США и Великобритания первыми подали пример ответственного поведения, включив положения об обязательном контроле оператора над применением оружия во внутреннее законодательство, а представители других ведущих в военном отношении держав сделали заявления о своем обязательном соблюдении принципов международного гуманитарного права при разработке новых видов оружия.
Но мировую общественность, очевидно, подобные заверения едва ли удовлетворят, и тема передачи «критической функции» (по определению Красного Креста) по применению боевого оружия роботам сегодня занимает умы юристов и политиков. Тему подогревают страхи, связанные с военным применением сложных технологий, определяемых понятием «искусственный интеллект». Илон Маск, Билл Гейтс, Стивен Хокинг и Ник Бостром считают суперинтеллект одной из возможных величайших экзистенциональных угроз человечеству.
Между тем трезвый анализ современного искусственного интеллекта показывает, что феномен, который на стадии разработки именуется этим термином, в итоге становится очередной функцией, как, например, спутниковые навигационные системы, программа распознания голоса SIRI или программы распознания образов.
Технические эксперты ведут глубокий и, похоже, пока безрезультатный спор о сроках и вообще возможности создания реального искусственного интеллекта, способного соревноваться с человеческим мозгом в динамично меняющихся условиях. Возможно, этот спор растянется на десятилетия.
Однако помимо аспектов международного гуманитарного права у проблемы есть и другая сторона — стратегическая стабильность. По некоторым оценкам, боевые роботы нового поколения будут способны состязаться в эффективности с ядерным оружием. Так бывший министр обороны США Чак Хейгел даже начал говорить о «третьей стратегии противовеса» в развитие двух предыдущих, опиравшихся на тактическое ядерное оружие и высокоточные обычные вооружения. Новая версия сдерживания предполагает: роботизированное оружие поможет восстановить превосходство, которое якобы было подорвано российскими и китайскими военными разработками.
Технологический отрыв от соперников позволит военным стратегам надеяться, что САС смогут нейтрализовать многоуровневую систему ПРО неприятеля, защитят собственные базы от нападения и дадут возможность вести боевые действия с гораздо большего расстоянии от территории противника. Подобные планы разжигают если еще не гонку вооружений, то гонку военных технологий, в которой рождаются сотни проектов автономных беспилотников, гиперзвуковые ударные системы, роевые эскадроны и глобальные системы по управлению тысячами роботов, которые в скором времени заполнят воздушный и Мировой океаны.