Как цифровой камуфляж обманывает ИИ-камеры и почему это не панацея

После установки в Берлине новых камер с распознаванием лиц дизайнер Симон Веккерт придумал не протестный плакат, а рубашку. На вид — обычная цветастая одежда с абстрактным узором из зелёных, розовых и оранжевых фигур. Но для ИИ-систем эта ткань — настоящий плащ-невидимка.

Рубашка Digital Camouflage продаётся примерно за 88 долларов и относится к новому направлению — состязательному дизайну одежды. Идея в том, чтобы сложные узоры сбивали с толку алгоритмы распознавания лиц и объектов. Веккерт не первый: похожие эксперименты уже были, но именно его работа показывает, как хрупка современная слежка.

Почему узор обманывает нейросети

Мы привыкли думать, что ИИ «видит» иначе. На самом деле системы обнаружения объектов не смотрят на картинку как человек. Они сканируют изображение в поисках статистических закономерностей — комбинаций граней, текстур и цветов, которые в обучении ассоциировались с категорией «человек». Узор Digital Camouflage математически оптимизирован так, чтобы отправлять нейросети сигналы, не похожие на эти закономерности.

«Системы обнаружения объектов не „видят“ так, как мы. Они сканируют изображение в поисках статистических паттернов — комбинаций граней, текстур и цветов, которые они научились ассоциировать с категорией „человек“», — объясняет Веккерт.

Сам дизайнер признаёт: чистые состязательные узоры, которые выдают оптимизационные алгоритмы, эффективны, но выглядят хаотично. Это чистые машинные изображения. Его задача — найти баланс между требованиями алгоритма и человеческим вкусом. Финальный паттерн — компромисс, и именно эта двойственность ему интересна: одежда адресована двум типам зрителей одновременно, и каждый видит разное.

Что это значит для тех, кто хочет защититься от слежки

Рубашка Веккерта — это и арт-объект, и практический эксперимент. Однако прежде чем бежать заказывать, стоит понять ограничения.

• Веккерт тестировал узор против YOLO — открытой системы детекции, построенной на том же классе технологий, что и многие коммерческие продукты. Но он особо подчёркивает, что не делает заявлений о конкретных проприетарных системах. Рубашка не гарантирует защиту от всех камер.
• Узор должен оставаться носимым. Чистые состязательные паттерны выглядят как помехи, поэтому приходится искать компромисс, который снижает эффективность. И даже тогда слежка не ограничивается камерами: распознавание по походке, тепловизоры, анализ поведения — всё это продолжает работать.

Сам Веккерт говорит: «Я не делаю заявлений о конкретных проприетарных системах». Смысл рубашки не в том, чтобы победить конкретный продукт, а в том, чтобы показать структурную хрупкость целого класса технологий.

Что видит человек и что видит ИИ

Так что же дальше

Рубашка Digital Camouflage — элегантный способ показать, что технологии, которым мы доверяем наблюдение за улицами, могут быть сломаны куском ткани. Это не призыв немедленно прятаться от всех камер, а повод задуматься: если один узор способен обмануть систему, насколько ей вообще можно верить?