26 июля 2018, 17:13

Система распознавания лиц Amazon определила 28 конгрессменов США как преступников

Тест провёл союз ACLU, который выступает против использования системы правоохранителями.

Американский союз защиты гражданских свобод (ACLU) протестировал систему распознавания лиц Amazon Rekognition и выявил, что ПО ошибочно определило 28 членов конгресса США как преступников.

28 конгрессменов

По словам одного из правозащитников Джейка Сноу (Jake Snow), они загрузили в систему 25 000 фотографий преступников из «открытых источников». Затем ACLU пропустил через Rekognition официальные фотографии всех 535 членов конгресса через Rekognition, чтобы тот сравнил их со снимками нарушителей закона. Сноу отмечает:

«Тест обошёлся нам в 12 $ — дешевле, чем большая пицца».

Система выявила 28 совпадений. Из всех «схожих» людей шестеро оказались представителями Чёрного кокуса конгресса США, в том числе известный участник движения за гражданские права Джон Льюис (John Lewis).

ACLU уже выступал против использования Rekognition правоохранителями

В мае ACLU уже требовал от Amazon перестать продавать свою систему распознавания лиц правоохранительным органам. Под письмом к гендиректору компании Джеффу Безосу также подписались представители около 40 других правозащитных групп. Тогда же своё письмо Безосу написали участники Чёрного кокуса конгресса.

В ACLU отмечали, системой Amazon могут злоупотреблять для идентификации активистов из нежелательных организаций, участников митингов или иммигрантов без документов. А после проведения теста правозащитники призвали конгресс ввести мораторий на использование Rekognition правоохранительными органами.

Реакция Amazon

Представители Amazon заявили Ars Technica, что ACLU установил слишком низкий показатель confidence threshold, который определяет пороговое значение для распознавания лиц. Чем меньше показатель, тем больше алгоритм уверен в том, что на фотографии изображён известный ему человек.

В Amazon отмечают, что они рекомендуют устанавливать для распознавания людей порог не менее 95. При этом в компании не ответили на вопросы Ars Technica о том, как часто правоохранительные органы используют Rekognition.

«В реальных сценариях Amazon Rekognition используется почти исключительно для того, чтобы помочь сузить поле поиска и позволить быстрее оценить варианты. Система может помочь найти потерянных детей, ограничить торговлю людьми или предотвратить преступления», — говорится в заявлении Amazon.

О диджитале в удобном формате ➜ читайте нас в Telegram