распознавание лиц расизм США суд искусственный интеллект
Сотрудники правоохранительных органов при аресте ориентировались только на результаты распознавания лиц с помощью специального ПО.
В начале прошлого года полицейские приехали на вызов в Вудбридж, штат Вирджиния, где, как им сообщили, в сувенирном магазине темнокожий мужчина украл несколько товаров.
Когда полицейские остановили предполагаемого преступника, тот показал им права, выданные в Теннесси, извинился и сказал, что хотел расплатиться за товары. Полицейские быстро установили, что документ был поддельным и попытались задержать мужчину. Но тот бросился к машине, потеряв при этом ботинок, а потом поехал на ней прямо на полицейских. К счастью, никто из них не пострадал.
Позже мужчина выяснил, что полиция опознала его с помощью Clearview AI – спорного программного обеспечения на основе искусственного интеллекта для распознавания лиц. Использование системы запретили в январе 2020 года после переоценки ее работы (спустя год после ареста Паркса).
После допроса мужчину продержали в тюрьме десять дней. Однако суд постановил отпустить подозреваемого, так как прокурор не имел никаких вещественных доказательств против него (ни отпечатков пальцев, ни ДНК или группы крови), кроме совпадения в базе Clearview AI.
Из-за «расовой предвзятости» ИИ, как считает адвокат парня, он и попал в такую ситуацию. Никаких улик, доказывающих его виновность, кроме совпадения лиц, у полиции не было. Паркс провёл в заключении десять дней, потерял все свои сбережения и отдал год жизни на то, чтобы доказать, что он не совершал этого преступления.
Теперь в суд подал уже сам Паркс: иски направлены к сотрудникам полиции Вудбриджа, директору полиции, мэру города, прокуратуре округа Миддлсекс и окружной тюрьме.
Источник: