Отдел новостей 20 февраля 2020, 13:23

В McAfee обманули автопилот Tesla кусочком скотча

В лаборатории McAfee нашли способ обмануть функцию распознавания дорожных знаков Speed Assist на некоторых электромобилях Tesla. Автопилот заставили превысить скорость на 80 км/ч, пишет TechSpot.

Оставить комментарий

В лаборатории McAfee нашли способ обмануть функцию распознавания дорожных знаков Speed Assist на некоторых электромобилях Tesla. Автопилот заставили превысить скорость на 80 км/ч, пишет TechSpot.

Исследователи всего лишь наклеили кусок тёмного скотча на цифру три на знаке ограничения скорости до 35 миль в час. В итоге система приняла «3» за «8» и разрешила себе дополнительные 50 миль в час.

Проблеме подвержены камеры MobilEye EyeQ3 в электрокарах Model S и X 2016 года выпуска — более новые авто так провести не удастся.

Это далеко не единственный метод ввести в заблуждение автопилот Tesla. Не так давно израильские исследователи придумали для этой цели закрепить на дроне лазерный проектор. Дальше они выводили на дорогу 2D-изображение какого-либо объекта — человека, мотоцикла или же фейковый дорожный знак или разметку. Система распознавала голограмму как настоящее препятствие и тормозила или сворачивала на соседнюю полосу.

Причём оба этих хака не требуют дорогостоящего оборудования и реализовать их может любой желающий. В прошлом году команда Keen Labs похожим образом заставила автопилот Tesla выехать на встречную полосу, нарисовав на дороге три прямоугольника, уводящих авто в сторону.

К слову, уязвимости могут крыться не только в системе распознавания, но и в датасетах, на которых её обучают. Специалисты Roboflow вручную проверили датасет Udacity Dataset 2 на 15 тысяч изображений. Оказалось, что почти на трети из них были не отмечены присутствующие там объекты. Невидимыми для AI остались тысячи автомобилей, сотни пешеходов и велосипедистов.

dev.by проводит новое исследование рынка труда в белорусском ИТ — заполните анонимную анкету, и скоро мы поделимся результатами.

Работа в ИТ в Беларуси

1. Заполните анонимную форму — 5 минут.
2. Укажите зарплатные (и другие) ожидания.
3. Выберите желаемую индустрию или область деятельности.
4. Получайте релевантные предложения.