Житель Северной Каролины Джалил Ричардсон провел больше 50 дней в тюрьме после ошибки системы ИИ-распознавания лиц. Его арестовали по делу об угоне во Флориде, хотя в момент преступления он был на работе за сотни километров.
Житель Северной Каролины Джалил Ричардсон провел больше 50 дней в тюрьме после ошибки системы ИИ-распознавания лиц. Его арестовали по делу об угоне во Флориде, хотя в момент преступления он был на работе за сотни километров.
По данным Action News Jax, полиция в Джэксонвилле загрузила видео с камеры наблюдения частного бизнеса в систему распознавания лиц. Алгоритм выдал совпадение с Ричардсоном на уровне 85%. Вместе с показаниями двух свидетелей этого оказалось достаточно, чтобы арестовать подозреваемого.
Позже выяснилось, что во время преступления Ричардсон находился на работе за сотни километров от места происшествия. Его адвокаты смогли подтвердить алиби в суде, после чего прокуратура сняла обвинения.
«Не было проведено нормального расследования — никто даже не связался со мной и не проверил, был ли я вообще во Флориде», — сказал Ричардсон. По его словам, из-за ареста он потерял работу, жилье и опеку над двумя детьми.
Это не первый подобный случай, связанный с правоохранительными органами в районе Джэксонвилла. Ранее Роберта Диллона ошибочно арестовали после того, как система распознавания лиц выдала 93-процентное совпадение по делу о попытке похищения ребенка. Диллон жил более чем в 300 милях от места происшествия и утверждал, что никогда не был в том районе.
Сейчас Диллон подал иск против нескольких правоохранительных ведомств. В иске утверждается, что полиция не проверила очевидные доказательства его невиновности, включая данные о местоположении автомобилей и качество изображения, использованного для распознавания.
Правозащитники предупреждают, что такие ошибки становятся системной проблемой. По словам Адама Шварца из Electronic Frontier Foundation, это уже как минимум 14-й известный случай ошибочного ареста из-за технологии распознавания лиц.
«Эта технология слишком опасна, чтобы правоохранительные органы вообще ее использовали», — сказал Шварц. Он отметил, что большинство известных ошибочных арестов чаще всего касаются темнокожих граждан.
Полиция Джэксонвилла отвергает предположения о том, что технология дискриминирует людей с определенным цветом кожи. Однако критики считают, что проблема не только в алгоритмах, но и в том, что полицейские слишком часто воспринимают результат ИИ как доказательство, а не как повод для дополнительной проверки.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
vibeправосудие