Facebook уже отключила автоматическое распознавание лиц на пользовательских фото, а теперь её исследователи нашли способ полностью обезоружить предназначенные для этого системы. Новая ML-разработка способна в режиме онлайн изменять лица людей, в том числе на видео, пишет Engadget.
Система включает «состязательный автокодировщик» и нейросеть, которая обучена искажать лица людей — в незначительной степени, достаточной, чтобы помешать AI распознать человека, но так, чтобы его по-прежнему мог узнать обычный зритель.
Систему Facebook не требуется каждый раз переобучать для «маскировки» различных людей или видео, так как она вносит лишь небольшое сбивающее изменение. Причём это первая система, которая поддерживает потоковое видео: ранее аналогичные алгоритмы уже представляли другие исследователи (например, израильский стартап D-ID), но они работают только со статичными изображениями.
Facebook заявила, что не собирается внедрять разработку в свои продукты. Хотя, отмечает Engadget, она имеет ряд очевидных практических применений. Например, с помощью неё можно автоматически сводить на нет стороннее ПО для распознавания лиц, использующееся для отслеживания людей или синтеза фейковых изображений. Также подобная AI-система может мешать сбору информации о пользователях, которые присутствуют на загружаемых в интернет видео, против их воли.
Работа в ИТ в Беларуси.
1. Заполните анонимную форму — 5 минут.
2. Укажите зарплатные (и другие) ожидания.
3. Выберите желаемую индустрию или область деятельности.
4. Получайте релевантные предложения.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.