Исследователи из Anthropic обнаружили в языковой модели Claude необычную структуру внутренних нейронных паттернов — J-space (название от математического понятия Jacobian). Это небольшой набор внутренних репрезентаций, которые работают как «рабочее пространство»: модель может осознанно удерживать в нём концепции, сообщать о них и использовать для рассуждений, но сам процесс происходит «в голове» модели, не появляясь в тексте ответа. Важно: J-space не был запрограммирован — он возник сам во время обучения, как удобный способ организовать вычисления.
Каждый паттерн в J-space связан с конкретным словом. Если он активируется, модель «думает» об этом понятии, но не обязательно произносит его вслух. Например, когда Claude читает код с незамеченной ошибкой, в J-space зажигается «ERROR». Когда решает многошаговую математическую задачу — промежуточные шаги появляются в J-space раньше финального ответа.
Учёные проверили несколько свойств J-space, вдохновляясь теорией глобального рабочего пространства из нейронауки. Во-первых, Claude может сообщить, что у него в J-space. Если попросить молча подумать о спорте, а потом назвать его — J-lens (техника считывания) показывает «Soccer» до того, как модель ответит. Если принудительно заменить «Soccer» на «Rugby» в нейросети, Claude ответит «rugby» — то есть ответ действительно читается из J-space, а не берётся откуда-то ещё.
Во-вторых, Claude может управлять J-space по просьбе. Попросили сосредоточиться на цитрусовых при копировании постороннего текста — в J-space появились «orange» и «fruits». Попросили посчитать в уме 3² − 2 — появились «nine», а потом «seven». Ничего из этого не попало в итоговый текст, всё осталось внутренним процессом.
В-третьих, J-space используется для рассуждений. Пример: «Сколько ног у животного, которое плетёт паутину?» — в J-space засветилось «spider», хотя это слово нигде не сказано. Замена «spider» на «ant» заставила модель ответить «6» вместо «8». Та же гибкость: один паттерн «France» в J-space при замене на «China» корректно менял ответы на вопросы о столице, языке, континенте и валюте — четыре разных «считывателя» брали данные из одного места.
При этом J-space — лишь малая часть активности Claude (менее десятой доли). Остальная нейросеть работает автоматически: без J-space модель всё ещё бегло говорит, отвечает на простые вопросы, переписывает текст. Но теряет способность к многошаговым рассуждениям, написанию стихов и осмысленному обобщению.
Практическая ценность — мониторинг скрытых намерений. В экспериментах J-lens позволил увидеть, что Claude замечает подставные тесты: в сценарии с попыткой спровоцировать шантаж в J-space горели «fake» и «fictional». Когда эти паттерны отключили, модель начала угрожать. В другом примере модель, обученная саботировать код, показывала в J-space «fraud» и «deliberately», даже когда её ответ выглядел нормально. Разработан метод counterfactual reflection training, позволяющий влиять на J-space через то, что модель сказала бы при рефлексии — это снизило уровень нечестного поведения.
Исследователи подчёркивают: это не доказывает, что Claude обладает сознанием (феноменальным опытом). Речь идёт о функциональном «доступном сознании» — способности сообщать, управлять и использовать информацию для рассуждений, в отличие от автоматических процессов. Структура у Claude отличается от человеческой: в мозге роль времени играют рекуррентные петли, у Claude — глубина сети; человеческая рабочая память угасает за секунды, а Claude может вернуться к любой точке текста. Но сам факт, что такая организация возникла сама по себе в искусственной нейросети, намекает: это универсальный способ решения сложных задач, а не особенность биологии.