Программа Fawkes блокирует работу всех сервисов распознавания лиц по фото
Logo
Cover

Американские программисты разработали систему защиты от несанкционированного распознавания лиц и назвали ее в честь Гая Фокса, участника Порохового заговора, маска которого стала символом протеста и борьбы против тоталитарной системы. Алгоритм Fawkes вносит в фотографии незаметные человеческому глазу изменения, которых, однако, хватает, чтобы системы распознавания потеряли возможность опознать лицо. Другими словами, на изображение человека как будто надевают невидимую маску.

Разработчики программы Fawkes, специалисты из Чикагского университета, придумали и реализовали процесс маскировки цифровых изображений, который делает их непригодными для технологии распознавания лиц. Они заявили, что Fawkes предназначен для защиты фотографий, загружаемых в социальные сети, от использования для обучения машинных алгоритмов без согласия владельцев. Так, к примеру, поступила компания Clearview AI, которая собрала три миллиарда фотопортретов из Facebook, YouTube, Venmo и прочих мест, и на их примере научила ИИ распознавать незнакомцев.

Авторы Fawkes утверждают, что их программа на 100% эффективна против самых современных сервисов распознавания лиц: Microsoft Azure Face, Amazon Rekognition или Face++ китайского ИТ-гиганта Megvii. Для обработки каждого изображения программе требуется несколько минут, сообщает Verge.  

Покрытые масками фотографии используются, по словам разработчиков, как троянский конь, чтобы сбить с толку неавторизованные модели. Они ошибочно полагают, что нашли отличительные черты, характерные для изображенного человека, но это не так.

Если вы не хотите, чтобы ваше лицо на фотографиях в социальных сетях использовалось для обучения систем распознавания и в их работе, то перед выгрузкой карточек в соцсети вам необходимо пропустить их через алгоритм Fawkes и запостить уже обработанные фото. Для друзей ваше лицо не изменится, но машины перестанут вас узнавать.

Выше — пример работы алгоритма. Слева оригинальный, не измененный потрет королевы Елизаветы II, а справа — обработанный алгоритмом вариант этого снимка. Человеческий глаз не способен найти отличия, но на уровне машинного считывания черт лица они есть и очень существенные.

Исследование с описанием работы алгоритма было опубликовано ранее, а в прошлом месяце Fawkes стала доступна на сайте университета для свободного скачивания и использования. С тех пор ее загрузили свыше 100 000 раз.

Недавно с призывом ввести мораторий на применение технологии распознавания лиц на всей территории США выступила Ассоциация вычислительной техники (ACM) — крупнейшая и старейшая международная организация, объединяющая более 100 тысяч профессионалов в области IT. Причина в задокументированной этнической, расовой и гендерной предвзятости, которую проявляют системы, использующие алгоритмы распознавания.