Робот Amazon принял за преступников 28 американских конгрессменов

Рубрики: Технологии


Инновационная система распознавания лиц Amazon Rekognition не вполне оправдала возложенные на нее ожидания, потому что сразу же перепутала сенаторов США с преступниками.

Активисты общественной организации «Американский союз гражданских свобод» решили устроить системе Rekognition тест-драйв. Они загрузили фотографии 25 тыс. арестованных граждан вперемежку с изображениями сенаторов. В итоге робот окончательно запутался и записал в преступники 28 парламентариев.

Представители «Американского союза» отметили, что ошибки при идентификации людей могут иметь серьезные последствия, ведь систему Rekognition хотели внедрить в полицию. Сотрудники Amazon объяснили ошибки системы проблемами с калибровкой. По их словам, робот должен быть уверен в своих показаниях если не на 100%, то хотя бы на 95%, когда речь идет о распознавании лиц людей.

«Уверенность в 80% — это вполне нормальный показатель, если вы хотите распознавать хот-доги на фотографиях с едой. Но если речь идет об идентификации людей, то показатель должен быть как минимум 95%», — пояснили в Amazon.