В Калифорнии систему освобождения под залог заменят алгоритмы

С октября 2019 года в Калифорнии не нужно будет оставлять денежный залог, чтобы оставаться на свободе до суда — вместо этого решения о необходимости заключения под стражу будет принимать алгоритм, пишет Quartz.

Десять округов штата должны будут внедрить соответствующие системы. Алгоритмы будут оценивать вероятность побега или совершения другого преступления в период судебного разбирательства. Разработку таких систем могут поручить сторонним организациям или осуществить самостоятельно — это остаётся на усмотрение руководства административных единиц.

Разные группы активистов в США долгое время боролись против системы залога, считая, что она даёт преимущество людям с властью и деньгами перед теми, кто неспособен оплатить нужную сумму, чтобы дожидатьсясуда на свободе. Но внедрение новой системы также активнокритикуют: есть опасения, что подобные системы приведут к тому, что белые американцы получат преимущество.

«Это огромный шаг назад. Мы считаем, что это приведёт к росту числа досудебных арестов», — заявил координатор правозащитной организации Silicon Valley Debug.

Ранее уже замечалось, что алгоритмы считают латино- и афроамериканцев более склонными к побегу. А так как процедура принятия решения как правило закрыта в проприетарном коде, оценить «демократичность» алгоритмов будет невозможно.

«Такого рода алгоритмы опираются на данные, собранные системой уголовного правосудия. Офицеры полиции, инспекторы по наблюдению за условно осуждёнными, судьи — никто из них не является специалистом по данным. И выходит, что машинное обучение использует информацию, подверженную тем же предубеждениям, что и само уголовное правосудие», — считает один из руководителей некоммерческой организации AI Now Рашида Ричардсон.