Дмитрий Дризе — о рисках применения искусственного интеллекта

Ученый провел 10 месяцев в СИЗО из-за ошибки системы распознавания лиц. Гидролога Александра Цветкова задержали по обвинению в убийствах 20-летней давности. Камера сочла его лицо похожим на фоторобот предполагаемого преступника. 12 декабря Замоскворецкий суд Москвы заменил ему содержание под стражей на запрет определенных действий. Ранее история обсуждалась на встрече СПЧ с президентом Владимиром Путиным. Политический обозреватель “Ъ FM” Дмитрий Дризе видит во всем этом угрожающую тенденцию, ведь так любой может пострадать.

Вроде бы невероятная, но по-своему очевидная история приключилась в современной России. 10 месяцев назад в московском аэропорту Домодедово был задержан житель Ярославля Александр Цветков. Искусственный интеллект посчитал, что его лицо на 55% совпадает с фотороботом преступника, который был составлен аж 20 лет назад, в 2003 году.

В результате наш герой отправился в СИЗО по подозрению в убийстве четырех человек с особой жестокостью. И провел он в заключении предварительном указанные выше 10 месяцев, хотя у него имелось алиби. В это время он находился в официальной командировке, и документы с места работы были следствию оперативно предоставлены. И отпечатков пальцев господина Цветкова на месте преступления также не оказалось, но вроде бы на него указал другой соучастник преступления.

В ходе общения президента со своим Советом по правам человека Владимиру Путину было обо всем доложено, и гидролог оказался на свободе. Конечно, хорошо, что невиновного удалось отстоять. Также положительный факт, что СПЧ все-таки подтвердил свою нужность, а то разное приходило в голову на сей счет, мол, лишняя эта структура, ничего она не решает.

Однако сложно отделаться от смутных сомнений и грустных мыслей. Иной скажет: вот до чего доводят эти новации — невинного человека, пусть это до конца и неочевидно, компьютер, железяка, пусть и умная, могли подвести под пожизненное заключение. Во вред все эти искусственные интеллекты и различные подобные системы.

Однако заметим, что решение принималось исключительно людьми. Машина еще не дошла до такого, чтобы кого-то в тюрьму отправлять. Программа сделала лишь то, что от нее требовалось. Но технологии новейшие могут и во зло быть направлены. И даже способны зло усиливать. Но это не отменяет соблюдение законов именно самими человеком. Понятно, что на машину проще вину свалить.

А тот, кто принимает решения в человеческом обличии, должен был хотя бы произвести элементарные арифметические действия, ибо 55% — не 100%. А не заметил бы СПЧ, тогда все было бы совсем печально?

Кино такое было старое, американское, «Робот-полицейский» называется. Он в фильме все делал по закону, и многим это не нравилось, так и норовили ему замыкание устроить, а то слишком он уж большую активность проявлял. И приключилась с ним беда в итоге.

И вот, собственно, будущее наступило, но проблемы прошлого, как мы видим, никуда не делись. Не заменит искусственный интеллект профессионализма и элементарной порядочности. К сожалению, подождать с этим еще придется какое-то время.

С нами все ясно — Telegram-канал "Ъ FM".