Facebook научила AI обманывать системы распознавания лиц

Facebook уже отключила автоматическое распознавание лиц на пользовательских фото, а теперь её исследователи нашли способ полностью обезоружить предназначенные для этого системы. Новая ML-разработка способна в режиме онлайн изменять лица людей, в том числе на видео, пишет Engadget.

Система включает «состязательный автокодировщик» и нейросеть, которая обучена искажать лица людей — в незначительной степени, достаточной, чтобы помешать AI распознать человека, но так, чтобы его по-прежнему мог узнать обычный зритель.

Систему Facebook не требуется каждый раз переобучать для «маскировки» различных людей или видео, так как она вносит лишь небольшое сбивающее изменение. Причём это первая система, которая поддерживает потоковое видео: ранее аналогичные алгоритмы уже представляли другие исследователи (например, израильский стартап D-ID), но они работают только со статичными изображениями.

Facebook заявила, что не собирается внедрять разработку в свои продукты. Хотя, отмечает Engadget, она имеет ряд очевидных практических применений. Например, с помощью неё можно автоматически сводить на нет стороннее ПО для распознавания лиц, использующееся для отслеживания людей или синтеза фейковых изображений. Также подобная AI-система может мешать сбору информации о пользователях, которые присутствуют на загружаемых в интернет видео, против их воли.