Naukowcy opracowali framework Causal-Audit - metodę umożliwiającą dużym modelom językowym jawne i weryfikowalne wnioskowanie przyczynowe zamiast opierania się na niejawnych założeniach językowych. Problem polega na tym, że obecne metody LLM-owe prowadzą do nieprzejrzystych ścieżek rozumowania, których nie da się zweryfikować, szczególnie gdy mamy do czynienia ze skomplikowanymi interwencjami w kontekście pozbawionymi dodatkowych informacji.
Klucze innowacyjnym elementem Causal-Audit jest strategia budowy grafu przyczynowego zorientowana na zmienną docelową - traktuje ona zmienną docelową jako ograniczenie centralnym podczas rozszerzania grafu, efektywnie eliminując zmienne nieistotne, fałszywe relacje przyczynowe i szum wnioskowania. Framework dzieli wnioskowanie na cztery modularne etapy zamiast end-to-end predykcji, czyniąc cały proces przejrzystym i audytowalnym. Dodatkowo wprowadza mechanizm agregacji przyczynowych dowodów na poziomie ścieżek, który łączy wiele ścieżek przyczynowych, modelując zarówno efekty wzmacniające jak i osłabiające.
W eksperymentach na trzech benchmarkach Causal-Audit konsekwentnie przewyższył istniejące metody oparte na LLM-ach, jednocześnie zapewniając czytelne i sprawdzalne ślady wnioskowania przyczynowego. To stanowi znaczący krok ku bardziej niezawodnym i przejrzystym modelom AI, zdolnym do rzeczywistego rozumienia mechanizmów przyczynowych poza powierzchownymi korelacjami.