Система распознавания лиц Rekognition, которую разработала американская компания Amazon, ошибочно приняла 28 конгрессменов США за тех, кого задерживала полиция. Об этом 26 июля сообщил Reuters со ссылкой на результаты теста, проведенные Американским союзом защиты гражданских свобод (ACLU).
В ACLU заплатили чуть больше $12, чтобы система распознавания лиц сравнила фотографии американских законодателей с 25 тысячами изображений, на которых полицейские задерживают людей. В результате Rekognition нашел 28 совпадений с точностью как минимум в 80%.
Больше всего «подозреваемых» система обнаружила среди конгрессменов афроамериканского и латиноамериканского происхождения, утверждают члены союза. Они предупреждают, что использование такой системы силовыми ведомствами может усилить дискриминацию. Полицейские в США и так чаще подозревают афроамериканцев и латиноамериканцев в правонарушениях, чем людей с белым цветом кожи.
В Amazon ответили, что такие результаты связаны с настройками системы распознавания лиц. По словам представителя компании, опознавание объекта с точностью в 80% подходит для вещей, но не людей. Чтобы полиция могла идентифицировать правонарушителей система должна быть «уверена в своих результатах» не меньше чем на 95%.
Подразделение Amazon Web Services представила Rekognition в 2016 году. Система использует искусственный интеллект и нейросети, чтобы в режиме реального времени распознавать изображения людей, например, с видеокамер, и сравнить их с лицами, которые есть в базе данных. Теоретически это поможет ловить преступников и находить пропавших людей. Но в мае 2018 года правозащитники из Американского союза гражданских свобод написали основателю Amazon Джеффу Безосу письмо, в котором отметили, что система компании — инструмент массовой слежки государства за гражданами.
Хотите узнавать все самое важное от RTVI первыми? Подписывайтесь на наш телеграм-канал.