Hitech logo

Искусственный интеллект

Программа Fawkes блокирует работу всех сервисов распознавания лиц по фото

TODO:
Георгий Голованов4 августа 2020 г., 16:52

Американские программисты разработали систему защиты от несанкционированного распознавания лиц и назвали ее в честь Гая Фокса, участника Порохового заговора, маска которого стала символом протеста и борьбы против тоталитарной системы. Алгоритм Fawkes вносит в фотографии незаметные человеческому глазу изменения, которых, однако, хватает, чтобы системы распознавания потеряли возможность опознать лицо. Другими словами, на изображение человека как будто надевают невидимую маску.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Разработчики программы Fawkes, специалисты из Чикагского университета, придумали и реализовали процесс маскировки цифровых изображений, который делает их непригодными для технологии распознавания лиц. Они заявили, что Fawkes предназначен для защиты фотографий, загружаемых в социальные сети, от использования для обучения машинных алгоритмов без согласия владельцев. Так, к примеру, поступила компания Clearview AI, которая собрала три миллиарда фотопортретов из Facebook, YouTube, Venmo и прочих мест, и на их примере научила ИИ распознавать незнакомцев.

Цифровой прорыв: как искусственный интеллект меняет медийную рекламу

Авторы Fawkes утверждают, что их программа на 100% эффективна против самых современных сервисов распознавания лиц: Microsoft Azure Face, Amazon Rekognition или Face++ китайского ИТ-гиганта Megvii. Для обработки каждого изображения программе требуется несколько минут, сообщает Verge.  

Покрытые масками фотографии используются, по словам разработчиков, как троянский конь, чтобы сбить с толку неавторизованные модели. Они ошибочно полагают, что нашли отличительные черты, характерные для изображенного человека, но это не так.

Если вы не хотите, чтобы ваше лицо на фотографиях в социальных сетях использовалось для обучения систем распознавания и в их работе, то перед выгрузкой карточек в соцсети вам необходимо пропустить их через алгоритм Fawkes и запостить уже обработанные фото. Для друзей ваше лицо не изменится, но машины перестанут вас узнавать.

Выше — пример работы алгоритма. Слева оригинальный, не измененный потрет королевы Елизаветы II, а справа — обработанный алгоритмом вариант этого снимка. Человеческий глаз не способен найти отличия, но на уровне машинного считывания черт лица они есть и очень существенные.

Исследование с описанием работы алгоритма было опубликовано ранее, а в прошлом месяце Fawkes стала доступна на сайте университета для свободного скачивания и использования. С тех пор ее загрузили свыше 100 000 раз.

Недавно с призывом ввести мораторий на применение технологии распознавания лиц на всей территории США выступила Ассоциация вычислительной техники (ACM) — крупнейшая и старейшая международная организация, объединяющая более 100 тысяч профессионалов в области IT. Причина в задокументированной этнической, расовой и гендерной предвзятости, которую проявляют системы, использующие алгоритмы распознавания.