Нейросеть обманывает технологии распознавания лиц
Исследователи из Чикагского университета создали алгоритм, который слегка модифицирует фотографии, делая их недоступными для анализа инструментами распознавания лиц. При этом изменения остаются неуловимыми для человеческого глаза, пишет Gizmodo.
Системы распознавания лиц, в отличие от человеческого мозга, сопоставляют не просто геометрию, цвет или другие внешние особенности лица людей на фотографиях, а устанавливают взаимосвязи между пикселями изображений. Суть работы новой нейросети в том, что если удалить или исказить отдельные пиксели исходных файлов, система распознавания лиц примет человека на фото за другого.
Алгоритм получил название Fawkes в честь маски английского заговорщика Гая Фокса, также известной в сети как маска Анонимуса. На базе него исследователи создали бесплатную программу (доступна для Windows и macOS). На обработку одной фотографии уходит примерно 40 секунд, после чего их можно, например, спокойно загружать в соцсети без страха быть «узнанным».
Работа над нейросетью началась в конце прошлого года. Целью разработчиков было «вставить палки в колёса» компаниям вроде Clearview AI, которые занимаются массовым сбором публично доступных фото пользователей социальных сетей для обучения систем распознавания лиц. Исследователи рассчитывают, что их инструмент снизит точность таких систем и сделает менее надёжными, а также повысит затраты на их создание и использование в широком масштабе.
По словам авторов, нейросеть смогла сбить с толку инструменты распознавания лиц Microsoft и Amazon со 100%-ным результатом.
Читать на dev.by