В США школьный ИИ принял за пистолет пачку чипсов и вызвал полицию
В американском городе Балтиморе система искусственного интеллекта, предназначенная для распознавания оружия, ошибочно вызвала полицию, приняв пакет Doritos за пистолет.
В американском городе Балтиморе система искусственного интеллекта, предназначенная для распознавания оружия, ошибочно вызвала полицию, приняв пакет Doritos за пистолет.
В американском городе Балтиморе система искусственного интеллекта, предназначенная для распознавания оружия, ошибочно вызвала полицию, приняв пакет Doritos за пистолет.
Инцидент произошел 20 октября у школы Kenwood High School. Ученик Таки Аллен ждал родителей после футбольной тренировки и ел чипсы, когда школьная камера, подключенная к системе Omnilert, зафиксировала «подозрительный объект». Через 20 минут на место прибыли восемь полицейских машин. Подростка заставили опуститься на колени и надели на него наручники.
Позже выяснилось, что тревога была ложной. Аллен рассказал телеканалу WBAL-TV, что полицейские показали ему снимок, на котором он держал пакет чипсов: «Они сказали, что система решила, будто это оружие. Это было очень страшно». После инцидента школа и разработчик предложили ученику психологическую помощь.
Компания Omnilert, разработчик системы, отказалась комментировать произошедшее, сославшись на внутренние правила. По данным сайта компании, технология проходит три этапа проверки: автоматическое распознавание, подтверждение оператором и только потом уведомление экстренных служб. В данном случае система, по неизвестным причинам, сработала без проверки.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.