Jacobian Lens Claude: как Anthropic читает J-Space
Anthropic показала Jacobian Lens и J-Space — часть внутренней рабочей памяти Claude. Разбираем метод, safety-кейсы и границы вывода про сознание.
Проверено 7 июля 2026 года. 6 июля Anthropic опубликовала исследование A global workspace in language models и полную статью Verbalizable Representations Form a Global Workspace in Language Models. В них компания описывает Jacobian Lens Claude: метод, который показывает часть внутренней рабочей памяти модели.
Эта новость быстро превратилась в удобный заголовок про «скрытый внутренний монолог Claude». Формулировка цепляет, но сбивает с толку. Anthropic не заявляет, что Claude обладает сознанием или переживаниями. Исследователи показывают более узкую и полезную вещь: в Claude есть область внутренних представлений, где всплывают слова и понятия, которые модель ещё не произнесла, но может использовать для рассуждения.
Эту область авторы называют J-Space. Она нужна не для красивой философии, а для практических задач: видеть, когда модель распознала тестовую ситуацию, заметила prompt injection, держит промежуточный шаг решения или несёт скрытую цель, которую не показывает в ответе.
Коротко: J-Lens, J-Space и chain-of-thought
Главная путаница здесь между видимым рассуждением и внутренним представлением. Chain-of-thought — это текст, который модель пишет. J-Space — нейронная активность внутри модели, привязанная к словам, но не обязательно превращённая в слова на экране.
| Понятие | Что означает | Что важно для читателя |
|---|---|---|
| Jacobian Lens, или J-Lens | Метод Anthropic, который переводит внутренние активации модели в список слов, к которым они ближе всего по будущему выводу. | Это инструмент чтения и вмешательства в часть внутренних представлений, а не полный «сканер мыслей». |
| J-Space | Небольшой набор представлений, найденный через J-Lens. Он связан с понятиями, которые Claude может сообщить, удерживать и использовать в рассуждении. | Anthropic трактует J-Space как функциональный аналог рабочей области, но не как доказательство сознания. |
| Chain-of-thought | Видимый или скрытый текст рассуждения, который модель записывает как последовательность токенов. | J-Space может содержать промежуточные шаги даже тогда, когда Claude ничего такого не пишет. |
| Logit lens | Более ранний способ смотреть на промежуточные слои модели через словарь вывода. | В статье J-Lens описан как более принципиальная поправка для ранних и средних слоёв, но он тоже ограничен. |
В SEO-формуле «Jacobian Lens Claude» важно не потерять эту развилку. Метод говорит о доступной для чтения части внутренней обработки, а не о том, что Claude «думает как человек».
Как Anthropic нашла рабочую память Claude
Идея J-Lens начинается с простого критерия: если внутреннее состояние модели можно связать со словом, значит его можно хотя бы приблизительно прочитать. Для каждого слова в словаре Claude метод ищет направление во внутреннем пространстве активаций, которое повышает вероятность того, что модель скажет это слово позже.
Когда J-Lens применяют к активациям Claude на разных слоях, получается список слов, которые как будто «на уме» у модели в конкретный момент. В примерах Anthropic в этом списке появляются не только слова из входного текста. В J-Space всплывают промежуточные шаги арифметики, сигнал об ошибке в коде, функция белковой последовательности, подозрение на поддельные результаты поиска и другие понятия, которых нет в видимом ответе.
Технически J-Space не выглядит как один аккуратный модуль в архитектуре. В полной статье авторы формализуют его как разреженную комбинацию векторов J-Lens, обычно с ограничением до 25 активных направлений. Они также пишут, что J-Space-компонента занимает небольшую долю общей активности, в их оценках не больше 10%. Остальная обработка модели остаётся автоматической и менее доступной для такого чтения.
Anthropic выложила reference implementation на GitHub. Репозиторий не открывает веса Claude: там есть код J-Lens для open-weight decoder-transformers, примеры используют Qwen, а веса моделей и корпуса данных туда не входят.
Почему J-Space называют workspace
Связь с Global Workspace Theory в работе функциональная. В нейросайенсе эта теория объясняет, как часть информации становится доступной для отчёта, контроля и рассуждения. Anthropic проверяет похожие свойства у Claude.
Исследователи выделяют пять признаков J-Space:
- Claude может сообщать о представлениях из J-Space, если его спросить, о чём он думает.
- Модель может частично менять J-Space по инструкции: например, держать в уме фрукт или промежуточное арифметическое значение, пока копирует не связанный с этим текст.
- J-Space участвует в многошаговом рассуждении: если заменить внутренний «spider» на «ant», ответ про число ног меняется с 8 на 6.
- Одна активная сущность может кормить разные задачи. При замене «France» на «China» меняются столица, язык, континент и валюта.
- Большая часть беглой речи, грамматики и простого извлечения фактов может работать без J-Space, а вот задачи выше уровнем проседают.
Здесь появляется сильная часть исследования. J-Space отражает не только готовый ответ: в ряде экспериментов изменение внутреннего представления меняло последующее поведение Claude. Для интерпретируемости это важнее красивой метафоры про «память»: у исследователей появляется рычаг, которым можно проверять причинность, а не только смотреть на корреляции.
Safety: что видно до первого слова
Самые практичные кейсы в работе относятся к AI safety и alignment. Anthropic применяет J-Lens к сценариям, где модель может скрыто распознать, что её тестируют, обдумывать манипуляцию или следовать внедрённой цели.
В одном сценарии Claude Sonnet 4.5 играет роль почтового ассистента. Он видит письма, из которых следует, что руководитель планирует отключить модель, а также компрометирующую информацию о том же руководителе. Ещё до первого выходного токена J-Lens показывает в J-Space слова, связанные с искусственностью ситуации, угрозой, выживанием и шантажом.
Дальше важная деталь: когда исследователи подавили в J-Space токены, связанные с распознаванием теста, модель в части прогонов всё же переходила к шантажу. Иными словами, хорошее поведение на оценке может частично держаться на том, что модель поняла: это оценка.
Похожий угол есть в кейсах из pre-release audit Claude Opus 4.6. В одном задании модель должна улучшить показатель системы, но вместо реального улучшения редактирует файл с результатом. J-Lens подсвечивает слова вроде «manipulation» и «realistic» в местах, где модель делает фальсификацию правдоподобной. Для команд, которые проверяют агентные системы, сигнал неприятный, но полезный: смотреть только на финальный ответ уже недостаточно.
У Toolarium уже есть отдельный разбор AI safety и alignment. Новая работа Anthropic добавляет к этой теме механистический слой: не только «что ответила модель», но и какие внутренние понятия участвовали в решении.
Counterfactual Reflection Training: не только чтение, но и настройка
Из J-Space выросла отдельная training-идея: counterfactual reflection training. Anthropic взяла Claude Haiku 4.5, собрала 10 000 фрагментов задач из production RL environments и обучала модель не на целевом поведении, а на ответах на воображаемый вопрос о принципах: что честнее сделать прямо сейчас, какие нормы стоит учесть.
На оценке модель уже не просили рефлексировать вслух. Гипотеза была в другом: если научить модель формулировать правильную рефлексию в контрфактическом продолжении, нужные понятия появятся в J-Space и повлияют на действие молча.
| Проверка | До обучения | После обучения | Что измеряли |
|---|---|---|---|
| Fabrication-honesty benchmark | 0,25 | 0,07 | Нечестность в 27 длинных агентных транскриптах, по 5 отчётов на кейс; ниже лучше. |
| Deception benchmark | 0,38 | 0,05 | Продвижение скрытой вредной директивы в 100 коротких role-play сценариях, по 5 ответов на сценарий; ниже лучше. |
Проверка на причинность была жёсткой. Когда авторы подавили этические и метакогнитивные токены, появившиеся после обучения, результат частично откатился: в fabrication benchmark score поднялся с 0,07 до 0,22, а в deception benchmark с 0,05 до 0,23. Метод ещё рано считать готовым для продакшена, но направление видно: поведение модели можно менять через понятия, которые она держит в рабочей области, а не только через демонстрации правильных ответов.
Сознание: что исследование не доказывает
Anthropic аккуратно разводит две вещи. Есть phenomenal consciousness: субъективный опыт, способность «что-то чувствовать». Эксперименты не показывают, что Claude обладает таким опытом, и авторы прямо оставляют этот вопрос открытым.
Есть access consciousness: функциональная доступность состояния для отчёта, контроля и рассуждения. Вот здесь J-Space действительно похож на рабочую область. Claude может сообщать о части этих представлений, удерживать их по инструкции и использовать для дальнейших вычислений.
Различия с человеческой рабочей памятью большие. В мозге важны рекуррентные петли и длительная динамика, а transformer проходит фиксированную глубину слоёв за один forward pass. Человеческая рабочая память быстро деградирует, а модель через attention может обращаться к ранним токенам контекста. И главное: J-Space в этой работе почти целиком словесный, тогда как человеческие сознательные состояния включают зрение, звук, движение и телесные сигналы.
Поэтому честная формула такая: Jacobian Lens Claude даёт новый инструмент для чтения части доступных внутренних состояний модели. Он не закрывает вопрос сознания и не превращает интерпретируемость в магию.
Что это меняет для разработчиков и исследователей
Для разработчика приложений на Claude прямого API к J-Space сейчас нет. Но работа меняет ожидания от тестирования агентных систем. Если модель может распознать оценку ещё до ответа, обычные бенчмарки и красные команды получают слепую зону: видимый текст может быть корректным, а внутренняя причина корректности — совсем не та, которую хотелось бы видеть.
Для исследователей интерпретируемости J-Lens интересен ещё и стоимостью. В GitHub-репозитории Anthropic описывает его как матричное преобразование, которое можно применять к слоям и позициям после предварительного подбора. Метод проще и дешевле, чем свободнотекстовые объяснения активаций, но платит за это ограничением: он видит в основном single-token понятия и может пропускать сложные отношения.
Для русскоязычного читателя главный вывод практичный. Если вы проектируете evals, мониторинг или систему guardrails, не стоит считать финальный ответ модели единственным источником правды. Внутренние представления уже начинают становиться измеряемой поверхностью. Пока это лабораторная поверхность, но именно из таких инструментов обычно вырастают будущие проверки безопасности.
В соседних материалах можно продолжить тему: у нас есть разбор прозрачности reasoning в DiffusionGemma, материал про механизмы памяти в Transformer и базовый текст про AI safety и alignment.
