все новости
С каждым годом системы видеонаблюдения становятся все более совершенными, однако даже самые современные комплексы не застрахованы от ошибок. Так, американский союз защиты гражданских свобод American Civil Liberties Union (далее ACLU) решил протестировать систему распознавания лиц Rekognition от Amazon.
Для этого они загрузили в базу данных свыше 25 тысяч фотографий людей, арестованных за преступления, а затем добавили еще несколько сотен фотографий всех 535 членов Конгресса США. Все изображения были взяты из открытого доступа.
В результате тестов система Rekognition ошибочно приняла 28 членов Конгресса США за преступников, что является достаточно высоким процентом погрешности. Правозащитники из ACLU сразу же потребовали от американского правительства ввести запрет на использование правоохранительными органами подобных систем распознавания лиц ввиду их несовершенства.
Представители Amazon прокомментировали сложившуюся ситуацию, заметив, что во время тестов ACLU использовали некорректные настройки программы, выставив уровень соответствия фотографий лишь на 80%, что неприемлимо при идентификации людей.
«В системах распознавания лиц мы рекомендуем использовать порог соответствия от 95% и выше, поэтому результаты тестирования от ACLU не стоит воспринимать всерьез. Такие настройки приемлемы только для идентификации стульев, животных и хот-догов», — шутливо отмечается в официальном пресс-релизе Amazon.
Так или иначе, факт того, что система может ошибиться и принять невиновного человека за преступника действительно есть, а значит и правозащитники в чем-то правы.