«Я не думаю, что ИИ способен уничтожить человечество сам по себе»

ООН уже годами стремится разработать стандарты для регулирования цифровых технологий и ИИ, в частности, по всему миру. Однако сейчас государства могут опираться на уже существующие международные нормы и гуманитарное право, в том числе в военной сфере, заявил в интервью корреспонденту “Ъ” Лусине Баласян заместитель генерального секретаря ООН и спецпосланник по цифровым и новым технологиям Амандип Сингх Гилл.

— Я участвую в Глобальном цифровом форуме уже во второй раз, в прошлом году он проходил в Нижнем Новгороде. Я ценю возможность взаимодействовать с представителями технологической экосистемы, частными компаниями, учеными и исследователями, занимающимися цифровыми технологиями.

Особенно ценно, что это мероприятие имеет международный характер. Здесь присутствуют министры и другие участники из самых разных стран мира, и я также ценю возможность приехать и рассказать о работе, которую ведет ООН, чтобы объединить мир в решении технологических вопросов. Этот аспект многостороннего сотрудничества сегодня крайне необходим.

— Мы можем рассматривать риски во временной перспективе, но можно также анализировать их с точки зрения воздействия и уязвимости. В ООН мы предпочитаем думать в терминах уязвимости: какие люди, какие институты более уязвимы перед рисками, связанными с ИИ? Ведь если углубиться во временное измерение, то можно впасть в бессмысленные споры о том, сколько ангелов поместится на головке булавки. Такие дискуссии могут отвлекать от сути.

Это касается не только стран, некоторые из которых отстают, но и отдельных обществ: одни люди получат огромную выгоду от ИИ, в то время как многие останутся лишенными этих преимуществ.

Кроме того, существует риск утраты многообразия, культурного и языкового, в результате гомогенизации, которую может вызвать ИИ. В ООН мы заботимся о многообразии. В мире существуют тысячи языков, разные культурные и экономические точки зрения на ИИ, и их следует уважать, я бы даже сказал, почитать. Поэтому мы опасаемся, что ИИ может привести к сокращению этого разнообразия.

И конечно, я должен отметить риски для прав человека, для свободы воли человека, человеческого контроля и подотчетности.

ИИ также может поставить под угрозу рабочие места. Я верю в долгосрочный потенциал ИИ в плане улучшения нашей жизни, но в кратко- и среднесрочной перспективе на рынке могут возникнуть потрясения, затронувшие творческих работников, журналистов, специалистов по данным и программистов.

— Большая часть законодательства уже существует. У нас есть международное гуманитарное право, международное право в области прав человека, обязательства по экологическим вопросам и во многих других сферах. Нам необходимо найти связь между существующим обязательным правом и сферой ИИ.

В 2024 году, с утверждением Глобального цифрового пакта, было принято решение создать некие основополагающие элементы для регулирования ИИ. Во-первых, Генеральная Ассамблея создала независимую международную научную группу по ИИ. Сейчас это постоянный механизм, в состав которого входят 40 экспертов, включая одного российского специалиста.

Эта группа ученых представляет данные, на основе которых отдельные правительства могут самостоятельно решать, какие законы необходимы и какое регулирование требуется на этом этапе.

Глобальный цифровой пакт также положил начало глобальному диалогу по вопросам управления ИИ. Прежде дискуссии велись в узких кругах, многие страны оставались в стороне. Благодаря диалогу под эгидой ООН впервые все 193 государства—члена Организации получили равные права на участие в обсуждении. Они могут формировать повестку дня по вопросам управления ИИ, принимать участие в дискуссиях и обмениваться опытом. Первый глобальный диалог состоялся в июле в Женеве. В мае следующего года второй глобальный диалог пройдет в Нью-Йорке.

Я не исключаю, что в будущем в отдельных сферах международное сообщество и государства-члены примут решение о введении первоочередных к исполнению обязательств. Возьмем, к примеру, вопрос об автономном летальном оружии, который обсуждается в рамках Конвенции об определенных видах обычного оружия. Какие ограничения можно ввести на использование этих систем в военной сфере, опираясь на существующие обязательства? Возможно, в отдельных сферах будут приняты конкретные меры на законодательном уровне.

— Я должен уточнить, что Глобальный цифровой пакт не распространяется на военную сферу и мой нынешний мандат не охватывает этот вопрос.

Но это важный вопрос, поскольку ИИ — это технология, которую можно перепрофилировать: ее можно использовать как в гражданской сфере, так и в военной, причем не только правительствами.

В частности, ведущие державы — те, кто обладает потенциалом для разработки и внедрения ИИ, а также имеет очень развитый военный потенциал,— должны действовать в рамках международного права. И мы должны помнить об «оговорке Мартенса»: все, что не охвачено действующим правом, должно регулироваться принципами гуманности и требованиями общественного сознания.

Всякий раз, когда речь идет о мощных технологиях, будь то ядерные, биологические или химические, на первый план выходят очень весомые гуманитарные соображения, психологические факторы и табу.

Независимо от сферы применения ИИ, мы должны соблюдать определенные фундаментальные принципы, включая контроль со стороны человека, ответственность и подотчетность. Если компании выпускают на рынок небезопасные продукты, они должны нести за это ответственность. В военной сфере командиры несут ответственность за свои действия и за соблюдение норм международного гуманитарного права.

— ИИ в конечном счете — это программное обеспечение. Это математика. Да, очень мощная математика, мощное программное обеспечение. Но в конечном счете оно не обладает физической сущностью, скажем, ядерного оружия.

Один из ключевых уроков, извлеченных из опыта атомной энергетики, заключается в том, что конкуренция и сотрудничество могут сосуществовать. Да, могут быть каналы, по которым вопросы решаются на двусторонней основе или в небольших группах, но всегда существовал более широкий аспект многостороннего сотрудничества — в ядерной, биологической и химической сферах. Со временем в ядерной сфере наряду с ядерной безопасностью и ядерной защитой сформировался многосторонний подход к нераспространению и разоружению.

Международное сотрудничество позволило сосредоточиться на предотвращении угроз и создании многоуровневых гарантий, а также механизмов мониторинга и подотчетности. Международное агентство по атомной энергии разработало положения для сохранения этих гарантий и их обсуждений, в том числе на саммитах по ядерной безопасности.

ИИ требует индивидуальных подходов к решению вопросов безопасности и защиты. В том числе для того, чтобы эту технологию использовали в мирных целях и на благо всех. И именно для обеспечения этой безопасности необходимо международное сотрудничество.

И если страны и компании не будут сотрудничать в сфере цифровых технологий, возникает риск непредвиденных обстоятельств, которые могут привести к потере доверия со стороны общественности.

Общественность должна знать и понимать, что их правительства серьезно работают вместе над снижением рисков, что компании сотрудничают друг с другом и совместно разрабатывают общие подходы к вопросам безопасности.

— Я не думаю, что ИИ способен уничтожить человечество сам по себе. К сожалению, люди способны уничтожить человечество.

Когда люди говорят, что роботы-убийцы сделают что-то еще, нам нужно проявлять осторожность, потому что в конечном счете, как я уже говорил, это математика, это программное обеспечение, это технология.

Но главное — мы должны быть готовы. Нам нужно укреплять устойчивость общества к крупномасштабным кибератакам, повреждению критически важной информационной инфраструктуры и угрозам со стороны негосударственных субъектов, разрабатывающих биологическое и химическое оружие с использованием ИИ.

Нам необходимо принимать защитные меры там, где это необходимо,— на этапе разработки моделей, во время тестирования перед выпуском в открытый доступ, посредством независимых оценок, а также после выпуска — путем мониторинга их воздействия на окружающую среду.