Правительство Великобритании разрабатывает противоречивую программу, которая с помощью алгоритмов анализирует персональные данные пользователей для выявления тех, кто с наибольшей вероятностью может совершить убийство. Проект вызвал ожесточенную критику со стороны правозащитных групп, которые называет его «пугающим и антиутопичным».
Правительство Великобритании разрабатывает противоречивую программу, которая с помощью алгоритмов анализирует персональные данные пользователей для выявления тех, кто с наибольшей вероятностью может совершить убийство. Проект вызвал ожесточенную критику со стороны правозащитных групп, которые называет его «пугающим и антиутопичным».
Проект был инициирован офисом бывшего премьер-министра Риши Сунака. Для его реализации используются данные о преступлениях из различных официальных источников, в том числе базы данных полиции. Обрабатываемая информация включает имена, даты рождения, пол и этническую принадлежность, а также идентификационный номер в национальной полицейской компьютерной системе.
Министерство юстиции королевства заявляет, что проект позволит «пересмотреть характеристики правонарушителей, повышающие риск совершения убийства», а также изучить новые методы оценки такого риска. Ведомство уверено, что исследование будет «способствовать защите населения посредством лучшего анализа».
Правозащитная группа Statewatch, которая обнаружила эту инициативу, утверждает, что в рамках проекта будут использоваться данные людей, не имеющих судимости. Речь идет о личной информации о самоповреждениях и сведения, связанные с домашним насилием. Однако официальные лица это категорически отрицают, настаивая на том, что используются данные только лиц, имеющих хотя бы одну судимость. Критики опасаются, что алгоритм будет предвзят в отношении этнических меньшинств и малоимущих граждан.
Statewatch ссылается на соглашении об обмене данными, которое заключил Минюст с полицией Большого Манчестера, базу которой используют в проекте. Раздел, озаглавленный «тип персональных данных для обмена» между полицией и правительством, включает различные виды уголовных судимостей, а также возраст первого обращения человека в качестве жертвы, в том числе домашнего насилия, и возраст первого контакта с полицией.
Обмену также подлежат «специальные категории персональных данных»: «маркеры здоровья, которые, как ожидается, будут обладать значительной прогностической силой», в том числе касающиеся психического здоровья, зависимостей, суицидальных наклонностей и уязвимости, а также самоповреждений и инвалидности.
София Лиалл, исследовательница Statewatch, назвала попытку создать систему предсказания убийств «последним пугающим и антиутопичным примером намерения правительства разрабатывать так называемые системы ‘прогнозирования’ преступности». Она подчеркнула, что исследования неоднократно показывают, что алгоритмические системы «предсказания» преступлений по своей сути являются ошибочными.
Представитель Министерства юстиции заявил, что «этот проект проводится исключительно в исследовательских целях». Ведомство заявило, что госорганы уже используют разные инструменты для прогнозирования преступлений людей, которые находятся на испытательном сроке. Чиновники пообещали, что по итогам исследования планируется публикация отдельного отчета,
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Робер Шекли. Рассказ "Страж-Птица"
https://www.kinopoisk.ru/film/496/
не вижу минусов, кроме возможного злоупотребления.
Но этоже классно если рациональная система пометит потенциального убийцу , которой например работает вместе с вашей дочерью или педофила который учит вашего сына.