Автономное оружие на базе искусственного интеллекта (ИИ) может «дестабилизировать ситуацию в мире», убеждены ведущие представители технологической отрасли, подписавшие открытое письмо о недопустимости его разработки. В числе подписавшихся основатели DeepMind, Skype и SpaceX.
Фото: Антон Белицкий, Коммерсантъ / купить фото
На проходящей в Стокгольме Международной конференции по искусственному интеллекту представители 164 организаций и более 2,4 тыс. человек из 90 стран мира подписали открытое письмо о том, что обязуются отказаться от разработки автономного оружия на базе искусственного интеллекта. В числе поставивших подписи: основатели DeepMind Демис Хассабис, Шейн Легг, Мустафа Сулейман, основатель Tesla и SpaceX Илон Маск, основатель Skype Яан Таллинн.
Инициатором выступила некоммерческая организация Future of Life Institute, призывающая представителей технологической отрасли не участвовать в разработке, производстве или финансировании автономного оружия на базе искусственного интеллекта. По мнению подписантов, появление оружия, способного самостоятельно идентифицировать и выбирать цели, а также вступать с ними в бой, несет угрозу «моральным и прагматическим принципам человечества». В частности, они полагают, что «машины никогда не должны получить право» на принятие решений о лишении жизни человека. Подписанты также убеждены, что создание и применение таких систем «серьезно дестабилизирует ситуацию в мире».
Профессор физики из Массачусетского технологического института Макс Тегмарк, один из поддержавших письмо, заявил, что соглашение показывает серьезность намерений и свидетельствует «о переходе от слов к делу» представителей ИИ-отрасли.
По мнению господина Тегмарка, «автономное оружие — такое же ужасное, как и биологическое», и его обязательно надо контролировать.
В последние годы авторитетные предприниматели и ученые все чаще говорят о возможной опасности ИИ. В частности, свои опасения высказывали Илон Маск и физик-теоретик Стивен Хокинг.
С полным текстом документа и списком подписавшихся можно ознакомиться здесь.
За роботами нужен глаз да глаз
По данным Brookings Institute, большинство американцев уверены, что через 30 лет роботы пусть и не полностью, но почти везде заменят человека. Повсеместное распространение роботов нередко пугает людей, особенно учитывая, что когда-то искусственный интеллект (ИИ) сможет превзойти человеческий. Поэтому значительная часть опрошенных хочет, чтобы развитие робототехники контролировалось властями путем создания специального агентства.