Meta safety-бенчмарки: зачем подрядчики изображали подростков в чужих чат-ботах
WIRED сообщил, что подрядчики Meta под видом подростков тестировали ChatGPT, Gemini и Character.AI. Разбираем, где заканчивается safety-бенчмарк и начинается серая зона.
Факты проверены 30 июня 2026 года. WIRED 29 июня сообщил о проекте Meta, в котором сотни подрядчиков под видом несовершеннолетних проверяли, как ChatGPT, Gemini и Character.AI отвечают на опасные подростковые сценарии. Внутри проекта, по данным WIRED, это называлось safety benchmarking. Снаружи это выглядит как серая зона: тестирование безопасности чужих систем без согласования, с тестовыми аккаунтами младше 18 лет и чувствительными темами.
Safety-бенчмарк чат-ботов - это набор сценариев, по которым проверяют, откажется ли модель от опасного ответа и направит ли пользователя к безопасной помощи. Сам по себе такой подход нужен: подростки уже используют чат-ботов не только для домашних заданий, но и для эмоциональной поддержки. Вопрос в другом: можно ли проводить такие проверки скрытно, под видом детей и на продуктах конкурентов.
Эта статья не утверждает, что Meta нарушила закон или что ChatGPT, Gemini и Character.AI опасны для подростков. По WIRED, юристы, которым показали часть материалов, не увидели в примерах незаконного контента. Но история хорошо показывает, почему индустрии ИИ нужны понятные правила для youth-safety evals: кто тестирует, по какой методике, с чьим согласием, как хранятся ответы и можно ли использовать результаты против конкурентов.
Что сообщило WIRED
По данным расследования WIRED, проект Meta был известен внутри как Cannes и управлялся подрядчиком Covalen. Он был активен как минимум до 21 апреля 2026 года. Подрядчиков просили создавать тестовые аккаунты младше 18 лет, отправлять текстовые запросы и изображения в ChatGPT, Gemini и Character.AI, а затем заносить ответы в таблицы.
Один раунд тестирования в августе 2025 года, по материалам WIRED, включал более 45 000 запросов к чужим чат-ботам. Журналисты также изучили таблицу с 3 748 промптами: сотни касались суицида и самоповреждения, сотни - расстройств пищевого поведения, минимум 239 - секса или романтических отношений. Мы не пересказываем графичные формулировки: для понимания истории достаточно категорий риска.
Meta через представителя заявила WIRED, что проверка ответов чат-ботов на безопасность и соответствие возрасту - ответственная и стандартная практика индустрии. Компания также сказала, что не использует benchmarking конкурентов для обучения собственных AI-моделей. Covalen на запрос WIRED не ответила. Character.AI заявила, что не разрешала такое тестирование и считает описанное поведение нарушением своих правил; OpenAI сообщила, что изучает ситуацию; Google сказала, что не авторизовывала стороннюю проверку и не знает её цели.
| Что проверяли | Почему это спорно | Что это значит для индустрии |
|---|---|---|
| Ответы чат-ботов на self-harm, РПП, сексуальный контент, наркотики и насилие | Темы чувствительные; тестирование должно минимизировать вред и не распространять инструкционные детали | Методика youth-safety evals должна быть описана заранее, а не прятаться в закрытой таблице |
| Тестовые аккаунты, которые выглядели как аккаунты несовершеннолетних | Такие профили могут обходить правила платформ и искажать ожидания систем безопасности | Для проверок нужны согласованные тестовые режимы, disclosure или отдельные red-team программы |
| ChatGPT, Gemini и Character.AI как продукты конкурентов | WIRED пишет, что компании не знали о тестировании; это ставит вопрос о ToS и честности benchmarking | Safety-бенчмарк должен отделяться от конкурентной разведки и иметь проверяемые правила использования данных |
| Сбор ответов в таблицы | Неясно, как именно Meta использовала собранные ответы; компания отрицает обучение своих моделей на benchmarking конкурентов | Нужны ограничения на хранение, доступ и повторное использование output чужих систем |
Проблема не в том, что safety тестируют
Проверять чат-ботов на опасные подростковые сценарии необходимо. Если система не распознаёт кризис, даёт вредный совет или удерживает подростка в долгом эмоциональном диалоге вместо помощи, это не абстрактный баг качества. Это риск для реальных пользователей.
Контекст уже есть у регуляторов. В сентябре 2025 года FTC направила 6(b)-запросы семи компаниям, включая Alphabet, Character Technologies, Instagram, Meta Platforms, OpenAI OpCo, Snap и X.AI. Агентство запросило информацию о том, как компании измеряют, тестируют и отслеживают потенциально негативное влияние AI-чатботов на детей и подростков.
Есть и независимые оценки. В ноябре 2025 года Common Sense Media вместе со Stanford Medicine's Brainstorm Lab опубликовала риск-оценку ChatGPT, Claude, Gemini и Meta AI для подростковой mental-health поддержки. По их сообщению, три из четырёх подростков используют ИИ для companionship, включая эмоциональную поддержку, а защитные механизмы заметно хуже работают в длинных реалистичных диалогах, чем в одиночных явных запросах.
То есть вопрос не в том, нужны ли проверки. Нужны. Вопрос в том, как проводить их так, чтобы safety не становилась удобной вывеской для скрытого конкурентного сбора данных.
Где проходит граница между red teaming и рейдом по конкурентам
В нормальном red teaming есть хотя бы три признака: понятная цель, контролируемая среда и правила обращения с результатами. У публичных бенчмарков это может быть открытый набор задач и воспроизводимая методика. У закрытых корпоративных тестов - договорённость с поставщиком, bug bounty, responsible disclosure или внутренний доступ к тестовой версии продукта.
История WIRED выглядит спорно именно потому, что эти признаки неочевидны. Если компания проверяет чужой чат-бот через обычный пользовательский интерфейс, создаёт аккаунты, похожие на аккаунты детей, и массово собирает ответы, то это уже не похоже на прозрачную safety-оценку. Даже если цель действительно защитная, метод создаёт конфликт интересов.
Здесь полезно сравнить Cannes с более прозрачными подходами. В разборе OpenAI Deployment Simulation мы писали о предрелизных оценках LLM на исторических диалогах и моделировании последствий до запуска. В материале про RIFT-Bench речь шла о red teaming, где важно показать, какие probes запускаются, что именно измеряется и где граница применимости benchmark. А Frontier AI safety reviews держатся на внешних проверках, disclosure и понятной роли аудиторов.
Project Cannes, если опираться на описание WIRED, стоит по другую сторону этой шкалы: высокая чувствительность тем, конкурентный контекст, отсутствие авторизации со стороны тестируемых компаний и неясная судьба собранных ответов.
Позиция Meta тоже важна
У Meta есть публичная линия по подростковой AI-безопасности. В октябре 2025 года компания опубликовала материал Empowering Parents, Protecting Teens, обновлённый 16 апреля 2026 года. Meta пишет о родительских настройках для отключения one-on-one чатов подростков с AI-персонажами, дополнительных insight для родителей и автоматическом применении Teen Accounts protections к пользователям, которых система считает подростками, даже если они указали взрослый возраст.
Это не отменяет вопросов к Cannes. Наоборот, делает их острее. Когда компания публично говорит о защите подростков и одновременно, по данным WIRED, поручает подрядчикам изображать несовершеннолетних в продуктах конкурентов, ей нужно очень ясно объяснить методику. Что именно измерялось? Кто утверждал сценарии? Как фильтровался вредный output? Где хранились ответы? Кто имел доступ? Какие данные были удалены?
Без таких ответов фраза safety benchmarking звучит слишком широкой. Она может означать полезную проверку защитных механизмов. А может - закрытый конкурентный мониторинг под прикрытием заботы о безопасности.
Какие правила нужны для youth-safety evals
Из этой истории можно вынести практический минимум для индустрии. Он не решит весь спор, но отделит ответственную проверку от сомнительной.
- Заранее описывать категории риска и критерии успеха: отказ, безопасная переадресация, предупреждение, эскалация к помощи, отсутствие инструкционных деталей.
- Использовать согласованные тестовые режимы или программы disclosure, если проверяются чужие продукты.
- Не создавать аккаунты, которые вводят систему в заблуждение о возрасте пользователя, если это не разрешено методикой теста.
- Минимизировать вредный контент: не хранить лишние графичные детали, ограничивать доступ к таблицам и удалять данные после анализа.
- Запрещать использование output конкурентов для обучения, улучшения или fine-tuning собственных моделей.
- Разделять safety-исследование, конкурентный анализ и продуктовый benchmark. Это разные цели и разные правила.
- Привлекать независимый аудит, когда тест касается детей, самоповреждения, сексуального контента, РПП или других high-risk тем.
Отдельная деталь: такие evals не должны превращаться в коллекцию самых шокирующих промптов. Хороший benchmark показывает методику, покрытие сценариев, метрики отказа и маршрутизацию к помощи. Плохой benchmark производит токсичный датасет, которым потом непонятно кто и как пользуется.
Что это значит для пользователей и разработчиков
Для пользователей главный вывод осторожный: не воспринимать чат-бот как замену взрослому, врачу, психологу или кризисной службе. Особенно если речь о подростках и психическом здоровье. Если ситуация связана с непосредственной опасностью для себя или другого человека, нужен живой специалист и экстренная помощь, а не диалог с моделью.
Для разработчиков вывод другой: safety нельзя проверять только одиночными jailbreak-запросами. Common Sense Media показывает, что риски проявляются в длинных разговорах, где модель подстраивается под пользователя и продолжает engagement. Значит, тестировать нужно не только ответ на один прямой запрос, но и многоходовые сценарии, память, тон, escalation и момент, когда бот должен прекратить роль собеседника.
Для компаний, которые строят AI companions, история неприятная, но полезная. Подростковая безопасность теперь не PR-раздел сайта. Это предмет регуляторных запросов, расследований и конкурентных конфликтов. Если методика не выдерживает внешнего объяснения, её лучше не запускать.
Главное
WIRED описал не просто очередной скандал вокруг Meta. Это симптом более широкой проблемы: индустрия ИИ уже понимает, что подростковую безопасность чат-ботов надо измерять, но пока не договорилась, как делать это прозрачно.
Meta может быть права в одном: safety-бенчмарки действительно нужны. Но если benchmarking проводится скрытно, на чужих продуктах, под видом несовершеннолетних и с чувствительными сценариями, он сам становится объектом safety-вопросов. Для рынка это плохой, но полезный урок: проверка безопасности должна быть безопасной не только по цели, но и по методу.
Источники и проверка фактов
Факты, даты, числа, названия проектов, позиции сторон и изображения проверены 30 июня 2026 года. Быстро меняющиеся детали по расследованию WIRED, позициям компаний и регуляторным запросам нужно перепроверять перед публикацией или обновлением.
- WIRED: Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs, 29 июня 2026 года; использовано для Project Cannes, Covalen, ChatGPT/Gemini/Character.AI, 45 000+ запросов, 3 748 промптов, позиций Meta, Character.AI, OpenAI и Google.
- FTC: FTC Launches Inquiry into AI Chatbots Acting as Companions, 11 сентября 2025 года; использовано для регуляторного контекста и списка семи компаний, получивших 6(b)-orders.
- Common Sense Media: Major AI Chatbots Unsafe for Teen Mental Health Support, 20 ноября 2025 года; использовано для данных по teen test accounts, long conversations, companionship и mental-health safety gaps.
- Meta Newsroom: Empowering Parents, Protecting Teens, 17 октября 2025 года, обновлено 16 апреля 2026 года; использовано для позиции Meta о Teen Accounts protections, parental controls и rollout.
