Naukowcy zaproponowali LOTUS - framework do wykrywania halucynacji w modelach języka, który lepiej extrahuje informacje z wysokowymiarowych stanów ukrytych sieci neuronowych. Problem jest istotny, ponieważ duże modele języka regularnie generują płynne, ale faktycznie niepoprawne odpowiedzi, co budzi obawy o ich niezawodność w praktycznych zastosowaniach.
Istniejące detektory halucynacji z reguły opierają się na wybieranych aktywacjach lub kompresji poolingowej, co może prowadzić do utraty informacji dyskryminacyjnych rozsianych w różnych warstwach Transformera. LOTUS rozwiązuje ten problem, łącząc dwa podejścia: najpierw podsumowuje reprezentacje zmiennej długości tokenów za pomocą komplementarnych deskryptorów statystycznych (szczytowe aktywacje, rozkłady aktywacji, zmiany między warstwami), a następnie stosuje niskorankową dekompozycję wieloliniową do ekstrakcji zwartych reprezentacji. Te reprezentacje są używane do trenowania lekkiego klasyfikatora halucynacji.
Metoda wykazuje znaczną praktyczną wartość: zmniejsza zależność od dużych zbiorów danych treningowych i działa lepiej od istniejących rozwiązań na wielu LLM-ach i benchmarkach pytań i odpowiedzi. To ważne dla bezpieczeństwa AI, gdyż pozwala automatycznie identyfikować, kiedy model generuje fałszywe informacje - problem szczególnie krytyczny w systemach do generowania odpowiedzi medycznych, prawnych czy faktograficznych.