Badacze odkryli fenomen zombie stats - liczbowych stwierdzeń powielanych przez systemy AI pochodzących z wątpliwych lub zdeformowanych źródeł. Problem polega na tym, że modele AI trenowane na danych z internetu przejmują statystyki bez sprawdzania ich wiarygodności, a następnie cytują je tak jakby były autentyczne, co utrwala błędy.
Za tym zjawiskiem stoją typowe mechanizmy rozprzestrzeniania się informacji w sieci. Oryginalna liczba, nawet jeśli jest błędna, zostaje cytowana w różnych artykułach, blogach i źródłach danych. Gdy AI trenuje się na tym materiale, widzi wiele powtórzeń tej samej statystyki i traktuje ją jako wiarygodną. W efekcie algorytmy utrwalają i amplifikują fałszywe dane, rozpowszechniając je dalej poprzez swoje odpowiedzi.
To stanowi poważne wyzwanie dla ekosystemu informacyjnego. Użytkownicy ufają cytowanym przez AI liczbom, zakładając że zostały zweryfikowane, podczas gdy AI po prostu powtarza to co znalazło w danych treningowych. Problem wskazuje na potrzebę lepszych mechanizmów weryfikacji źródeł w systemach AI oraz edukacji użytkowników o ograniczeniach i zagrożeniach związanych ze spoleganiem się na maszyny do wiarygodności faktów.