В США школьный ИИ принял за пистолет пачку чипсов и вызвал полицию

Инцидент произошел 20 октября у школы Kenwood High School. Ученик Таки Аллен ждал родителей после футбольной тренировки и ел чипсы, когда школьная камера, подключенная к системе Omnilert, зафиксировала «подозрительный объект». Через 20 минут на место прибыли восемь полицейских машин. Подростка заставили опуститься на колени и надели на него наручники.

Позже выяснилось, что тревога была ложной. Аллен рассказал телеканалу WBAL-TV, что полицейские показали ему снимок, на котором он держал пакет чипсов: «Они сказали, что система решила, будто это оружие. Это было очень страшно». После инцидента школа и разработчик предложили ученику психологическую помощь.

Компания Omnilert, разработчик системы, отказалась комментировать произошедшее, сославшись на внутренние правила. По данным сайта компании, технология проходит три этапа проверки: автоматическое распознавание, подтверждение оператором и только потом уведомление экстренных служб. В данном случае система, по неизвестным причинам, сработала без проверки.

ИИ заметил, что его «взломали» во время эксперимента

По теме

ИИ заметил, что его «взломали» во время эксперимента

Meta обвинили в скачивании порно для ИИ. Компания заявила, что качала «для себя»

По теме

Meta обвинили в скачивании порно для ИИ. Компания заявила, что качала «для себя»

Создатель ИИ-бота для техсобесов назвал главную причину провалов стартапов

По теме

Создатель ИИ-бота для техсобесов назвал главную причину провалов стартапов

Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше