Сан-Франциско требует от Apple и Google удалить nudify-приложения
Городской прокурор Сан-Франциско потребовал от Apple и Google убрать 13 nudify-приложений. Разбираем претензии к модерации и комиссиям платформ.
16 июля городской прокурор Сан-Франциско Дэвид Чиу направил Apple и Google письма, потребовав удалить из App Store и Google Play 13 nudify-приложений. Восемь из них нашли в магазине Apple, пять — в Google Play. Судебного запрета пока нет.
Nudify-приложения — это ИИ-инструменты, которые создают или подменяют интимные изображения человека без подтверждённого согласия. Часть таких продуктов маскируется под обычные редакторы для замены лиц. По состоянию на 18 июля 2026 года Google заявила, что удалила все пять отмеченных Android-приложений, а Apple сообщила об удалении трёх приложений и мерах против связанных разработчиков.
Факты и реакции компаний проверены 18 июля 2026 года.
Что потребовал городской прокурор Сан-Франциско
Как сообщает WIRED, офис Чиу направил компаниям письма cease-and-desist. В них Apple и Google требуют прекратить распространение 13 приложений, разорвать деловые отношения с их разработчиками и перестать получать доход от встроенных покупок.
Письма датированы 16 июля. У компаний есть 28 дней, чтобы объяснить, как они выполнят требования, пишет San Francisco Chronicle. Если ответа не будет, офис прокурора может начать гражданское преследование. Заявленный минимум штрафа — 25 000 долларов за нарушение.
Названия приложений не опубликованы: они перечислены в конфиденциальных приложениях к письмам. Это разумная редакционная граница и для Toolarium. Перечень сервисов превратил бы новость о модерации в каталог опасных инструментов.
| Сторона | Требование или позиция | Подтверждённое действие | Что остаётся нерешённым |
|---|---|---|---|
| Офис Дэвида Чиу | Убрать 13 приложений, прекратить платёжные отношения и регулярно проверять магазины. | Направлены письма Apple и Google; срок ответа — 28 дней. | Суд ещё не рассматривал претензии, а нарушения не установлены решением суда. Источники: WIRED, SF Chronicle. |
| Компания заявляет, что Google Play запрещает сексуальный контент и удаляет нарушителей. | Удалены пять приложений из письма; ранее Google удалила «сотни» приложений и ограничила связанные поисковые запросы. | Удаление после жалобы не отвечает на вопрос, почему приложения прошли проверку и вернулись под нейтральными описаниями. Источник: WIRED. | |
| Apple | Apple возлагает ответственность за содержимое на разработчиков и обещает удалять нарушителей. | Удалены три отмеченных приложения, начато прекращение учётных записей их разработчиков; ещё четырём разработчикам предписано устранить нарушения. | Публично не подтверждено удаление всех восьми приложений из письма. Источник: обновлённая версия WIRED. |
Почему претензии адресованы Apple и Google
Офис Чиу строит претензию вокруг роли магазинов в сделке. Apple и Google размещают приложения в каталогах, проверяют их перед публикацией, обрабатывают встроенные покупки и получают комиссию. По версии прокурора, после получения доказательств вреда платформы не могут оставаться нейтральными посредниками.
Суда по существу претензий ещё не было. San Francisco Chronicle связывает спор с калифорнийским законом, который расширил гражданскую ответственность за сознательное или безрассудное содействие созданию и распространению несанкционированных сексуальных дипфейков. Письма требуют прекратить платёжные отношения и повторно проверять каталоги, а не ограничиваться разовым удалением.
Кейс продолжает линию, начатую городом в 2024 году. Тогда Сан-Франциско подал иск против владельцев 16 сайтов, которые предлагали создавать несанкционированные интимные изображения. Теперь внимание сместилось с самих сервисов на инфраструктуру распространения и оплаты.
Адресат претензии теперь шире самих разработчиков. В истории с Meta мы уже разбирали проблему согласия в ИИ-дипфейках. Здесь к вопросу о согласии добавляется финансовая связь: магазин показывает приложение пользователю и участвует в покупке.
Face-swap маскирует опасную функцию
Фильтра по словам «nudify» или «раздеть» недостаточно. Исследователи Корнеллского и Джорджтаунского университетов нашли в App Store и Google Play 420 приложений с заменой лиц и вручную проверили 155 из них. В препринте от мая 2026 года они сообщили, что у 70% проверенных приложений не было технической защиты от создания изображений с наготой.
Ни одно из изученных приложений не называло себя инструментом для «раздевания». Нейтральное описание редактора помогает пройти простую проверку, хотя его функции можно использовать во вред. Исследователи называют такие продукты dual-use: один и тот же механизм годится для безобидной замены лица и для сексуализированного дипфейка без согласия.
Из-за этого модерация должна проверять поведение приложения, а не только карточку в магазине. Рост числа ИИ-приложений делает ручную проверку дороже и медленнее; мы показывали этот эффект в материале о том, как рост числа AI-приложений усложняет App Store review. Но масштаб каталога не отменяет обещание безопасной площадки.
Правила магазинов уже запрещают такой контент
В правилах Apple нет отдельного пункта со словом nudify, но раздел 1.1 запрещает откровенно сексуальные и порнографические материалы. Для пользовательского контента Apple требует фильтры, механизм жалоб и оперативную реакцию. Сервисы, которые в основном используют для порнографии, объективации реальных людей или травли, могут удалить без предупреждения.
App Review Guidelines дают Apple формальное основание для удаления. Реальный спор начинается после этого: достаточно ли реагировать на жалобу или магазин обязан тестировать скрытые функции редакторов заранее. О том, как App Store фильтрует AI-приложения, мы писали на другом примере; там тоже выяснилось, что старые правила приходится применять к новому поведению программ.
Политика Google сформулирована точнее. В списке нарушений прямо указаны несанкционированные сексуальные дипфейки, созданные ИИ, и приложения, основная цель которых — сексуальное удовлетворение. Разработчик обязан не допускать генерацию такого контента.
Самих правил оказалось мало. Пять Android-приложений из письма были удалены к моменту публичного ответа Google. Apple подтвердила удаление части приложений после обращения города. Прокурор поэтому требует повторных проверок и разрыва платёжных связей, а не очередной точечной чистки.
Граница платформенной ответственности
Требование Сан-Франциско проверяет простую идею: магазин приложений отвечает не только за формальный текст правил, но и за способ их исполнения. Если платформа проверяет продукт, продвигает его в поиске и проводит оплату, ей сложнее ссылаться только на ответственность разработчика.
У этой позиции есть предел. Универсальная замена лиц сама по себе не запрещена, а модератор не может объявить вредным любой фоторедактор. Практичная граница проходит по способности приложения создавать сексуализированные изображения реальных людей, наличию технических ограничений и реакции компании после получения конкретных доказательств.
Для других разработчиков ИИ-приложений сигнал уже понятен. Нейтральная карточка в магазине не прикроет функцию, которая нарушает правила внутри продукта. Платформам, в свою очередь, придётся проверять сценарии злоупотребления и следить, не возвращаются ли удалённые функции под новым названием.
Короткие ответы
Что потребовал Сан-Франциско?
Городской прокурор потребовал удалить 13 приложений из App Store и Google Play, прекратить платёжные отношения с их разработчиками и регулярно проверять магазины на похожие продукты. Это досудебные требования, а не решение суда.
Почему требования адресованы Apple и Google?
Apple и Google распространяют приложения, проводят проверку перед публикацией и обрабатывают встроенные покупки. Офис прокурора считает, что эта роль делает их участниками цепочки распространения и монетизации.
Запрещены ли все приложения для замены лиц?
Нет. Обычная замена лиц может быть безобидной функцией. Риск возникает, когда приложение позволяет создавать сексуализированные изображения реальных людей без согласия и не ставит технических ограничений.
