В McAfee обманули автопилот Tesla кусочком скотча

Исследователи всего лишь наклеили кусок тёмного скотча на цифру три на знаке ограничения скорости до 35 миль в час. В итоге система приняла «3» за «8» и разрешила себе дополнительные 50 миль в час.

Проблеме подвержены камеры MobilEye EyeQ3 в электрокарах Model S и X 2016 года выпуска — более новые авто так провести не удастся.

Это далеко не единственный метод ввести в заблуждение автопилот Tesla. Не так давно израильские исследователи придумали для этой цели закрепить на дроне лазерный проектор. Дальше они выводили на дорогу 2D-изображение какого-либо объекта — человека, мотоцикла или же фейковый дорожный знак или разметку. Система распознавала голограмму как настоящее препятствие и тормозила или сворачивала на соседнюю полосу.

Причём оба этих хака не требуют дорогостоящего оборудования и реализовать их может любой желающий. В прошлом году команда Keen Labs похожим образом заставила автопилот Tesla выехать на встречную полосу, нарисовав на дороге три прямоугольника, уводящих авто в сторону.

К слову, уязвимости могут крыться не только в системе распознавания, но и в датасетах, на которых её обучают. Специалисты Roboflow вручную проверили датасет Udacity Dataset 2 на 15 тысяч изображений. Оказалось, что почти на трети из них были не отмечены присутствующие там объекты. Невидимыми для AI остались тысячи автомобилей, сотни пешеходов и велосипедистов.

Новый рекламный формат в наших телеграм-каналах.

Купить 500 символов за $150