Abel Jansma opublikował wpływowy artykuł przemawiający przeciwko popularnemu podejściu w badaniach nad interpretowalnością dużych modeli języka. Jego główny argument opiera się na klasycznej teorii Tarskiego z filozofii logiki - twierdzeniu, że prawda nie jest prostą właściwością, którą można przywołać w jednakowy sposób dla wszystkich kontekstów. Badacz stawia poważne wyzwania dla tzw. sond na prawdę, czyli technik badawczych mających na celu znalezienie kierunkowych reprezentacji pojęcia prawdy w warstwach sieci neuronowych.
Podejście sondowe zakładało, że można wyodrębnić "wektor prawdy" w reprezentacjach modelu poprzez trening prostych klasyfikatorów na warstwach transformerów. Jansma argumentuje, że to podejście fundamentalnie źle zrozumiało naturę prawdy - nie jest to coś, co ma jednokierunkową reprezentację niezależną od kontekstu. Jego artykuł, który zgromadził ponad 100 punktów na Hacker News i wywołał prawie 80 komentarzy, zasugerował, że wiele wcześniejszych badań na temat tego, jak LLM reprezentują i wykorzystują wiedzę o prawdzie, mogło opierać się na błędnych założeniach metodologicznych.
To odkrycie ma istotne implikacje dla całego pola badań nad interpretowalnością i zaufaniem do modeli AI. Jeśli nie możemy wierzyć, że koncepty takie jak prawda są reprezentowane jako proste cechy wektorowe, to musimy przeformułować, w jaki sposób próbujemy zrozumieć wewnętrzne mechanizmy sieci neuronowych i jak mogą się mylić czy dystrybuować informacje.