Amazon запутался в лицах
28 американских парламентариев ошибочно причислили к преступникам
Американский союз защиты гражданских свобод (ACLU) протестировал систему распознавания лиц Amazon Rekognition и пришел к неутешительным выводам — ваша репутация может серьезно пострадать даже в случае, если вы не совершали преступлений и не подвергались аресту. А причиной этому может стать один из сервисов Amazon, который используется в правоохранительных органах ряда американских штатов.
Фото: Reuters
В рамках эксперимента в систему распознавания лиц Rekognition были загружены снимки всех 535 американских конгрессменов, которые в дальнейшем сравнивались с публичной базой из 25 тыс. фотографий ранее задержанных лиц. Несмотря на отсутствие парламентариев на 25 тыс. снимков, технология причислила к преступникам 28 конгрессменов. Причем из них 39% — афроамериканцы, что вызвало особое возмущение Американского союза защиты гражданских свобод. В список «преступников» ошибочно попал и член Палаты представителей США, борец за права человека Джон Льюис.
«Система распознавания лиц и объектов — неважно насколько она точна — может стоить людям свободы или даже жизни. Люди с другим цветом кожи и так часто подвергаются притеснениям со стороны полиции, и Rekognition только усугубит эту ситуацию»,— говорится в исследовании.
В качестве примера организация приводит случай, произошедший в Сан-Франциско в 2014 году. Тогда пожилая афроамериканка была задержана с применением наручников, более того, без видимых на то причин офицеры полиции поставили ее на колени и направили на нее пистолет. Поводом для ареста послужил тот факт, что система ошибочно идентифицировала номерной знак ее автомобиля с номером транспортного средства, числящегося в угоне.
В заявлении Amazon для прессы указывается, что результаты тестирования могли стать следствием неверных настроек системы. «Во время эксперимента ACLU использовал систему с выставленной по умолчанию вероятностью совпадения в 80%, однако Amazon рекомендует правоохранителям повышать этот параметр до 95%»,— сказано в сообщении.
Ранее правозащитники уже выражали обеспокоенность относительно продаж Amazon Rekognition государственным структурам. Кроме того, в мае Черный кокус Конгресса США, в который входят 48 парламентариев-афроамериканцев, направил письмо (.pdf) на имя главы Amazon Джеффри Безоса. В своем обращении они просили остановить поставки системы полиции. По их мнению, ее использование приведет к злоупотреблениям со стороны властей, в том числе к массовой слежке за гражданами. «Мы обеспокоены тем, что у этой технологии могут быть непреднамеренные негативные последствия, от которых пострадают афроамериканцы, нелегальные иммигранты и участники протестных акций»,— говорилось в обращении.
Напомним, подразделение Amazon Web Services представило Rekognition в 2016 году. Система использует искусственный интеллект для быстрой идентификации людей, объектов и текстов на фото и видео. По данным Amazon, система способна распознать до 100 лиц на изображениях с большим количеством людей. В настоящее время система используется полицией Орландо (штат Флорида) и округа Вашингтон (штат Орегон).