26 июля, 17:13
1116
0

Система распознавания лиц Amazon определила 28 конгрессменов США как преступников

Тест провёл союз ACLU, который выступает против использования системы правоохранителями.

Американский союз защиты гражданских свобод (ACLU) протестировал систему распознавания лиц Amazon Rekognition и выявил, что ПО ошибочно определило 28 членов конгресса США как преступников.

28 конгрессменов

По словам одного из правозащитников Джейка Сноу (Jake Snow), они загрузили в систему 25 000 фотографий преступников из «открытых источников». Затем ACLU пропустил через Rekognition официальные фотографии всех 535 членов конгресса через Rekognition, чтобы тот сравнил их со снимками нарушителей закона. Сноу отмечает:

«Тест обошёлся нам в 12 $ — дешевле, чем большая пицца».

Система выявила 28 совпадений. Из всех «схожих» людей шестеро оказались представителями Чёрного кокуса конгресса США, в том числе известный участник движения за гражданские права Джон Льюис (John Lewis).

ACLU уже выступал против использования Rekognition правоохранителями

В мае ACLU уже требовал от Amazon перестать продавать свою систему распознавания лиц правоохранительным органам. Под письмом к гендиректору компании Джеффу Безосу также подписались представители около 40 других правозащитных групп. Тогда же своё письмо Безосу написали участники Чёрного кокуса конгресса.

В ACLU отмечали, системой Amazon могут злоупотреблять для идентификации активистов из нежелательных организаций, участников митингов или иммигрантов без документов. А после проведения теста правозащитники призвали конгресс ввести мораторий на использование Rekognition правоохранительными органами.

Реакция Amazon

Представители Amazon заявили Ars Technica, что ACLU установил слишком низкий показатель confidence threshold, который определяет пороговое значение для распознавания лиц. Чем меньше показатель, тем больше алгоритм уверен в том, что на фотографии изображён известный ему человек.

В Amazon отмечают, что они рекомендуют устанавливать для распознавания людей порог не менее 95. При этом в компании не ответили на вопросы Ars Technica о том, как часто правоохранительные органы используют Rekognition.

«В реальных сценариях Amazon Rekognition используется почти исключительно для того, чтобы помочь сузить поле поиска и позволить быстрее оценить варианты. Система может помочь найти потерянных детей, ограничить торговлю людьми или предотвратить преступления», — говорится в заявлении Amazon.

Читайте также: Рынок технологий распознавания лиц превысил три миллиарда долларов и удвоится в ближайшие годы

О диджитале в удобном формате ➜ читайте нас в Telegram

Как стать мастером сквозной аналитики?

Сквозная аналитика — главная магия интернет-маркетинга и самый мощный инструмент развития продаж без роста бюджета. Внедрив её, вы сразу поймёте, где клиенты теряются и что в вашем маркетинге надо улучшить.

Хотите освоить эту магию? Вот учебный курс где детально объясняют, как всё работает, как внедрять и как использовать на практике.

Спешите узнать подробности, регистрация скоро закроется!

Реклама

✉️ Самое интересное шлём по почте, не чаще двух раз в неделю.

Комментарии:

Ответить?
Реклама

Чем живёт digital.
Главное — в рассылке:




Вход на cossa.ru

Уже есть аккаунт?
Выбирай любой вариант входа:
Facebook Twitter Vkontakte

Используйте свой аккаунт в социальной сети Facebook или Twitter, чтобы пользоваться сайтом

Не забудьте написать email на странице своего профиля для управления рассылкой