Naukowcy zidentyfikowali i opisali matematycznie zjawisko context poisoning - degradacji zdolności modeli do znalezienia decydujących informacji, gdy w kontekście pojawia się wiele elementów rozpraszających. Problem nie dotyczy tylko długości kontekstu, ale głównie liczby efektywnych elementów mylących, które konkurują o uwagę modelu.Zespół przeprowadził analizę teoretyczną w ramach softmax retrieval abstraction. Wykazali, że aby utrzymać stałą dokładność powyżej poziomu bazowego, margines między wynikami kluczowych dowodów a najlepszymi elementami mylącymi musi rosnąć proporcjonalnie do pierwiastka logarytmu liczby dystraktów - formalnie Omega(sqrt(log N)). Problem łączy się z trzema zjawiskami: score aliasing (kolizje wyników), positional aliasing (nakładanie się pozycji) oraz softmax dilution (rozcieńczenie wag przez softmax).Eksperymenty kontrolne potwierdziły przewidywania teoretyczne. Dokładność wyszukiwania informacji spadała wraz ze wzrostem całkowitej długości kontekstu w obecności zakamuflowanych elementów mylących. Największy spadek zaobserwowano, gdy dystraktory miały ten sam format co poszukiwana informacja. Retrieval gating - mechanizm selekcji informacji - poprawiał wyniki, choć jego efektywność zależała od zachowania pełnego przywołania dowodów. Wyniki sugerują wiele potencjalnych rozwiązań: evidence bottlenecks ograniczające przetwarzane informacje, alias-resistant representations odporne na kolizje, retrieve-then-reason architectures dzielące zadanie na etapy, verifier-mediated memory z weryfikacją, oraz contrastive anti-poison training trenujący modele na odporność.
Badania
arXiv CS.CL