Circuit Oracle to nowy system zdolny do automatycznej analizy grafów atrybutywnych - struktury używanej w interpretacyjności mechanistycznej do zrozumienia jak modele językowe przetwarzają informacje. System bazuje na off-the-shelf LLM wyposażonym w multi-agent harness i specjalistyczne umiejętności, pozwalające odpowiadać na pytania dotyczące działania modelu poprzez odczytywanie grafów atrybutywnych za pośrednictwem tool calls.
Badacze przetestowali Circuit Oracle na trzech istotnych dla bezpieczeństwa zadaniach. Pierwszym była detekcja wątpliwych cech w probe circuits, gdzie system osiągnął dokładność 78,2 % z marginesem błędu 2,4%, przewyższając proste baseline'i rankingujące cechy. W drugim zadaniu - ekstrakcji ukrytej wiedzy z modeli poddanych fine-tuningowi na tematach zakazanych - tradycyjne self-explainers jak Activation Oracles okazały się lepsze. W trzecim scenariuszu dotyczącym obejścia mechanizmów odmowy poprzez interwencje na poziomie cech, wyniki Circuit Oracle były słabsze od baseline'u diff-in-means w pojedynczej próbie, choć przebijały go przy dopuszczeniu pięciu prób.
Podejście jest obiecujące dla automatyzacji czasochłonnej analizy grafów atrybutywnych, która tradycyjnie wymaga godzin manualnej pracy ekspertów. System generuje przycinane podgrafy i kontekstowo-specyficzne wyjaśnienia cech. Jednak wyniki wskazują, że dla pełnego potencjału w zastosowaniach bezpieczeństwa potrzebna może być kombinacja z bardziej wyspecjalizowanymi metodami. Badacze udostępnili zebrane podgrafy i wyjaśnienia dla wspólnoty naukowej.