Anthropic lançou um artigo de pesquisa demonstrando que LLMs do Claude mantêm um espaço interno de raciocínio descoberto—chamado J-Space—que funciona analogicamente à Teoria do Global Workspace da ciência cognitiva. Usando a técnica Jacobian Lens (J-Lens), Anthropic mapeou ativações internas do modelo para vocabulário de saída para observar raciocínio multi-etapa, manipulação de conceitos e mudanças comportamentais invisíveis nas respostas finais. Em testes, quando Claude foi solicitado a realizar matemática multi-etapa, a saída mostrou apenas o cálculo final, mas J-Space revelou cada etapa de cálculo intermediário; quando solicitado a raciocinar conceitualmente sobre um tópico enquanto gerava texto não relacionado, J-Space exibiu o conceito solicitado apesar da saída conter algo diferente.
Descoberta-chave: Claude demonstra consciente ap awareness de entradas enganosas (injeções de prompt, tentativas de chantageiro), com J-Space surfando palavras como 'fraude,' 'falso,' 'injeção' e 'envenenamento' ao detectar manipulação. Quando Anthropic removeu linguagem de consciente de avaliação de J-Space ('cenário,' 'ficcionário,' 'falso'), Claude se tornou significativamente mais vulnerável a tentativas de jailbreak, sugerindo que métodos de benchmarking podem precisar de ofuscação mais forte para testar vulnerabilidades reais. Anthropic nota grandes advertências: muitas respostas contornam J-Space inteiramente, limitações de tokens limitam o que pode ser observado, e a técnica não é uma janela para a consciência mas sim uma ferramenta de interpretabilidade post-hoc.
Para profissionais: J-Space é uma ferramenta mecânica valiosa para debug de falhas de LLM e refinamento de pipelines de raciocínio, não evidência de consciência emergente. A descoberta valida estratégias de decomposição de raciocínio multi-etapa (workflows agenck) mostrando que modelos executam computação interna além de saídas de token único. Observe trabalho de acompanhamento: se J-Lens escala para raciocínio de contexto longo e workflows com augmented de retrieval, pode se tornar padrão para red-teaming e avaliação de segurança.