Как обмануть систему видеонаблюдения при помощи цветных картинок

Бельгийские ученые из Левенского университета нашли способ запутать алгоритмы обнаружения человека в кадре, используемые в системах видеонаблюдения. Технология построена на изображениях, которые генерируются нейросетью.

На протяжении нескольких месяцев ученые экспериментировали со состязательными (созданными нейронной сетью) изображениями. Их целью было выявить такие принты, которые при наложении поверх объекта не позволяли камерам распознать ни человека, ни объект.

Исследования проводились на основе алгоритма YOLOv2 (You Only Look Once), который позволяет производить быструю обработку изображений. Принцип его работы следующий: получая изображение, в ответ он выдает кадр, на котором обнаруженные объекты заключены в прямоугольники. Указывается также вероятность того, что объект классифицирован верно.

Алгоритм работы

Рассмотрим метод обмана нейросети, основанный на создании состязательных изображений. Сначала алгоритму YOLOv2 отправляется база изображений, на которых он должен распознать людей. Далее вступает в дело нейросеть, созданная исследователями. Она генерирует так называемый «патч», или принт, который генерируется случайным образом при помощи операций над изображением из базы данных (изменение масштаба и контрастности, наложение шума). Затем этот патч накладывается на области, в которых YOLOv2 обнаружила объекты, и полученные картинки вновь отправляются алгоритму. Эти действия повторяются вновь и вновь, при постоянной фиксации изменения вероятности для обнаруженных объектов. Процесс продолжается до тех пор, пока YOLOv2 окончательно не перестает распознавать объекты на картинках.

Алгоритм работы нейросети

Таким образом, на выходе получаются универсальные принты, благодаря которым можно обмануть алгоритмы обнаружения объектов в различных условиях.

Оценка результатов

Авторы протестировали работу технологии на датасете Inria. Примеры приведены на фото ниже. На них наглядно видно, как появлении на изображении сгенерированного нейросетью принта позволяет обмануть алгоритм, скрыв от него объекты.

Оценка полученных результатов

Оставить комментарий

Убедитесь, что вы вводите (*) необходимую информацию, где нужно
HTML-коды запрещены

Техноцентр системы безопасности

© 1994-2019 tcn.by
Техноцентр | Надежные системы безопасности

Консультация и заказ

+375 29 110-99-55

+375 29 588-99-55

+375 17 299-55-55

Email: Этот адрес электронной почты защищён от спам-ботов. У вас должен быть включен JavaScript для просмотра.

9:00 -18:00. Выходные: сб, вс

Присоединяйтесь к нам!

Заказ звонкаОставьте свои контакные данные и мы Вам перезвоним

Имя
Телефон
Комментарий