В 2019-м приложение DeepNude, «раздевавшее» женщин на фотографиях, продержалось в открытом доступе считаные дни — но спрос, который оно вскрыло, с тех пор никуда не делся. Идейные наследники и не думают сидеть в даркнете: они лежат в официальных сторах, притворяясь фоторедакторами, головоломками и даже калькуляторами-сейфами. Экосистема nudify-сервисов успела разрастись в индустрию с платными подписками, а модерация магазинов приложений воюет с ней по-сизифовски. Как обманывают ревью, почему точечные баны не спасают и что меняет закон вроде Take It Down Act — обо всём этом ниже.
Схема до неприличия проста. В каталог выкладывается стерильная оболочка: фоторедактор с фильтрами, аркада или «калькулятор», который на поверку оказывается тайником для личных файлов. Автоматические сканеры и живые ревьюеры видят ровно то, что заявлено, — нейтральные скриншоты, прилизанное описание и ни строчки запрещённого кода на клиенте. Хитрость в том, что ловить там и правда нечего: сама модель «раздевания» в приложении, по описаниям исследователей, может вообще не лежать. Генерация идёт на внешних серверах, клиент лишь отправляет картинку — и сканеру кода не за что зацепиться.
Дальше — трюк с удалённой активацией. Приложение проходит ревью, после чего, как рассказывают те, кто такие случаи разбирал, подгружает с сервера конфигурацию и «раскрывает» спрятанные возможности; их вызов спрятан за неочевидными жестами, которых на скриншотах не разглядишь. Часть сервисов и вовсе раздаётся мимо сторов — через сторонние сайты и мессенджеры. Команды вроде Sensity AI и Graphika не раз показывали, как такие штуки рекламируют сети фейковых аккаунтов в соцсетях. Apple и Google периодически вычищают nudify-приложения из каталогов, но аналитики — с упорством, достойным лучшего применения, — находят их там снова под новыми именами.
Бан отдельного приложения — как пластырь на артериальном кровотечении. Удалили? Авторы заводят новый аккаунт разработчика, меняют название и иконку, пересобирают бинарник — и через пару дней они снова в каталоге.
Корень проблемы не в конкретных приложениях, а в самой технологии. После того как открытые диффузионные модели вроде Stable Diffusion ушли «в народ», порог входа упал до уровня хоббиста. Инструменты inpainting, дообученные адаптеры, локальный запуск — чужой сервер теперь вообще не нужен. Удаляй не удаляй приложения: веса моделей давно гуляют в открытом доступе, и закрыть их не может ни один стор.
Деньги — отдельная песня. Монетизацию таких сервисов, судя по разборам, устроили так, чтобы платёжным системам было мучительно неудобно перекрывать кислород. А спрос устойчив и, честно говоря, отвратителен: по данным исследователей, подавляющее большинство дипфейков в сети — интимный контент, сделанный без согласия изображённых, и жертвы по большей части женщины и подростки. Скандалы в школах и университетах в разных странах уже стали рутиной. Пока экономика сходится — генерация дешёвая, монетизация криминальная, сбыт анонимный, — схема будет плодиться быстрее, чем модераторы успевают нажимать кнопку.
Главный сдвиг последних лет: бремя переложено с жертвы на платформу. В США приняли Take It Down Act. Закон криминализирует публикацию интимных изображений без согласия — прямо оговаривая и созданные ИИ — и обязывает онлайн-платформы убирать такой контент по верифицированной жалобе в сжатые сроки; планка в 48 часов стала эталоном. Впервые за скорость реакции спрашивает не общественное мнение, а закон. Для сторов это означает давление и на уровне витрины: оболочка под видом редактора теперь рискует навлечь претензии не только на разработчика, но и на сам магазин.
Технологический ответ идёт по трём направлениям. Первое — хеширование: сервисы StopNCII для взрослых и Take It Down для несовершеннолетних позволяют жертве создать цифровой отпечаток изображения, никуда его не загружая, а платформы уже блокируют у себя совпадения. Второе — происхождение контента: стандарты вроде C2PA и водяные знаки типа SynthID метят сгенерированные картинки, отделяя их от настоящих. Третье — детекция злоупотреблений: классификаторы, отлавливающие «раздевающие» запросы, плюс пост-модерация поведения уже установленных приложений.
Чуда ждать не стоит: сквозное шифрование мессенджеров, офшорный хостинг и разница юрисдикций никуда не делись. Но направление задано, и оно принципиально: вместо марафона жалоб, который бежала жертва, — обязательство платформы.
У нас правовая база собирается своим маршрутом. Неприкосновенность изображения гражданина защищает Гражданский кодекс, а за незаконное распространение интимных снимков без согласия в Уголовном кодексе появилась отдельная ответственность. Отдельного закона о дипфейках пока нет — обсуждаются инициативы об ответственности за подделку облика и голоса и о маркировке нейросетевого контента.
Свой тут и технологический набор. Отечественные генеративные модели — Kandinsky экосистемы Сбера и YandexART — ещё на этапе генерации режут откровенный контент и «раздевающие» запросы. RuStore проводит собственную модерацию, VK гоняет нейросети по контенту на своих площадках. Жалобы на противоправные материалы принимают профильные организации вроде Лиги безопасного интернета, а страницы с незаконным содержимым попадают в реестр Роскомнадзора и блокируются.
Слабое место, впрочем, то же, что у всех: дистрибуция уезжает в трансграничные мессенджеры и ботов, где национальные инструменты работают плохо. Что дальше — вопрос открытый. Как ожидают, решением могут стать обязательная маркировка ИИ-контента и расширение ответственности площадок — иначе отечественные фильтры так и будут защищать свои сервисы, пока эксплуатируются чужие.
Одними банами эту индустрию не задушить: пока генерация стоит копейки, а веса моделей гуляют в открытом доступе, кто-нибудь обязательно спрячет «раздевалку» за иконкой калькулятора. Существенно другое — центр ответственности сместился. Ещё недавно за «редактор» в каталоге отвечал только разработчик; теперь спрашивают и с витрины, причём по закону и с часами в руках. Хеши, водяные знаки и классификаторы не всесильны — сквозное шифрование, офшоры и боты в мессенджерах никуда не делись. Но марафон, который раньше бежала жертва, теперь обязан бежать платформ. Это не конец истории. Это первое изменение правил за долгое время.