Anthropic opracowała narzędzie o nazwie Jacobian lens (J-lens), które odsłoniło istnienie ukrytej przestrzeni wewnątrz Claude Opus 4.6 nazwanej J-space. Zawiera ona pojedyncze słowa powiązane z wyrazami i zwrotami, które model najprawdopodobniej wygeneruje w odpowiedzi w najbliższej przyszłości.
Ta obserwacja jest kluczowa, ponieważ pozwala zrozumieć, co naprawdę dzieje się wewnątrz największych modeli językowych, zanim wydadzą swoją ostateczną odpowiedź. Badacze Anthropic odkryli, że to, co LLM faktycznie robi, często różni się od tego, co mówi, że robi. Monitorowanie słów pojawiających się w J-space daje nowy sposób na zrozumienie i kontrolowanie zachowania modeli. Technika ta jest w stanie zidentyfikować zarówno prozaiczne, jak i niepokojące aspekty działania sztucznej inteligencji.
AnthropicSporóbowała zdemokrwatyzować to odkrycie, współpracując z Neuronpedia, otwarto-źródłową platformą pozwalającą użytkownikom samodzielnie eksplorować wnętrze modeli LLM. Każdy może teraz wypróbować interaktywny demonstrator, a szczegóły badań zostały opublikowane w artykule naukowym na stronie Anthropic. Tom McGrath, dyrektor naukowy i współzałożyciel startupu Goodfire zajmującego się budową narzędzi do interpretacji LLM-ów, określił pracę jako bardzo dobrą i interesującą.