Использование военными разработок компании вызывает серьезные разногласия у ее сотрудников

Министерство обороны США и компания Google активно сотрудничают в сфере искусственного интеллекта в рамках совместного проекта «Специалист». Проект начался почти год назад, однако широкой публике о нем стало известно только сейчас. Как сообщают британские и американские средства массовой информацмм, такие, как The Guardian и Gizmodo, сам проект вызывает вопросы и разногласия как в самой компании, так и за ее пределами.

Прошлой весной министерство обороны США запустило свой проект Maven («Специалист»), цель которого — использование искусственного интеллекта и навыков машинного обучения для обработки огромного количества визуальной информации, поступающей с беспилотных летательных аппаратов министерства, действующих в самых разных концах мира. Предполагается, что весь процесс сбора, обработки информации, принятия решения и его выполнения не будет полностью роботизирован. В рамках проекта Maven ИИ будет лишь отбирать информацию и отмечать такую, которая может представлять интерес. Анализировать ее будут люди. Предполагается, хотя никем и не подтверждается, то, что проект уже использовался в борьбе с исламскими группировками в Сирии. Информация о проекте появилась только сейчас. Как представляется, со стороны министерства обороны проект возглавляет генерал-лейтенант Джон Шанахан, со стороны Alphabet, возможно, сам Эрик Шмидт. Непосредственным руководителем проекта считается полковник морской пехоты Дрю Цукор. В министерстве обороны США отказались комментировать как проект, так тех подрядчиков, которые работают на него.

Контакты технологических компаний, таких, как Google/Alphabet, Microsoft и Amazon, с государственными структурами существуют уже давно. Тем не менее, именно участие Google, предоставившей свои системы ИИ (в частности, TensorFlow) в распоряжение участников проекта Maven, вызывает массу вопросов и сомнений, как внутри компании, так и вне ее. Достаточно сказать, что компания даже выступила со специальным заявлением по этому поводу, отметив, что по ее данным, технологии не используются в наступательных операциях.

«Это совместный пилотный проект с министерством обороны по предоставлению открытых интерфейсов прикладного программирования TensorFlow для распознавания объектов… Технология лишь отмечает изображения для последующего анализа человеком и используется исключительно для ненаступательных целей»,— говорится в заявлении. Более того, компания признает и закономерность высказываемых по поводу сотрудничества с Пентагоном сомнений. «Военное использование машинного обучения вызывает поднимает закономерные вопросы. Мы активнейшим образом обсуждаем эту проблему как внутри компании, так и с другими. Мы продолжаем создавать правила и меры безопасности по использованию наших технологий»,— заявили в компании.

Примерно о том же говорил и уже бывший исполнительный председатель совета директоров Google, а потом и Alphabet Эрик Шмидт, отмечая, что всю отрасль «беспокоит то, что… использование их технологий для того, чтобы убивать людей, неправильно». Тем не менее, сам господин Шмидт и еще один топ-менеджер Google — Майло Медин — являются членами Совета по военным инновациям, консультативного органа при министре обороны США. Сам господин Шмидт, как следует из информации на сайте Совета, является его председателем.

По словам одного из самых информированных экспертов в области взаимодействия министерства обороны США и Силиконовой долины, Грега Аллена из Центра новой американской безопасности (он был соавтором подробного доклада об использовании ИИ военными «Искусственный интеллект и национальная безопасность» совместный проект с Google необыкновенно важен для Пентагона. Министерство, потратившее в 2017 году $7,4 млрд на все, что связано с ИИ (данные The Wall Street Journal), собиравшее и собирающее огромные массивы информации со своих БПЛА, по мнению господина Аллена серьезнейшим образом отставало в том, что касалось обработки этих данных, да и вообще работы с ИИ. «До (проекта — “Ъ”) никто в министерстве не имел ни малейшего представления о том, как правильно покупать, развертывать и использовать ИИ»,— считает он. Поэтому реальная польза от проекта куда больше официально заявленной.

По словам источников Gizmo в компании, многие сотрудники Google возмущены самим фактом сотрудничества с министерством обороны, в то время, как другие замечают, такое сотрудничество поднимает серьезные этические вопросы относительно развития ИИ. Тем не менее, ИИ уже активно используется американскими военными и правоохранительными структурами. К примеру, для определения вероятности рецидивизма у заключенных американских тюрем. Эксперты однако предостерегают, что подобные системы могут, как и люди, быть предвзятыми, причем, определить эту предвзятость у ИИ гораздо сложнее, чем у людей. К примеру, та самая программа по определению рецидивистов, как сообщалось, регулярно проявляла свой расизм.

Филипп Ночевка