Израильские учёные сгенерировали «универсальные» лица, которые обманывают лучшие системы распознавания

9 изображений покрывают 40-60% лиц в датасете систем распознавания Dlib, FaceNet и SphereFace. Их выбрали потому, что они способны различать «высокоуровневые семантические признаки» лиц — более сложные, чем цвет кожи и световые эффекты.

Сначала с помощью модели StyleGAN исследователи генерировали изображения. Далее они использовали эволюционный алгоритм и специально обученную нейросеть для оптимизации результатов и отбора лучших «кандидатов», которые смогут сымитировать наибольшее число лиц из датасета.

Отмечается, что искусственному интеллекту оказалось проще всего притвориться белокожим мужчиной за 60 — эти лица были наиболее однородны и большой их процент в базе LFW, на которой часто тестируют системы распознавания, охватило всего одно изображение. Две из девяти искусственных фотографий были женского пола, а совпадения случались реже — в 22% случаев.

Своей работой авторы хотели продемонстрировать, что современные системы распознавания лиц чрезвычайно уязвимы. На основе полученных результатов они планируют искать способы их защиты от злоумышленников. Также исследователи считают, что посредством инструментов для создания дипфейков «мастер-лица» можно анимировать и обходить технологию liveness detection, которая проверяет идентификатор на принадлежность реальному, «живому» пользователю.

Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше