Raport opublikowany przez KPMG, który miał analizować trendy w wykorzystaniu sztucznej inteligencji, okazał się zawierać znaczące błędy — informacje pochodziły z hallucynacji modelu AI zamiast z rzeczywistych danych. KPMG zdecydowało się szybko wycofać dokument z obiegu.
Halucynacje w modelach AI to zjawisko, w którym system generuje całkowicie wymyślone lub nieprawdziwe informacje, traktując je jako fakty. Zwłaszcza w kontekście raportów branżowych czy analiz, gdzie rzetelność danych jest kluczowa, takie błędy mogą prowadzić do błędnych wniosków biznesowych i utraty zaufania do źródła.
Ten przypadek ironicznie ilustruje głębszy problem: jeśli narzędzia AI mogą zawodzić nawet przy analizie samej siebie, to powinno to zwrócić uwagę wszystkich na konieczność starannego sprawdzania faktów i polegania na wielu źródłach informacji. Raises pytania o to, jak powinna wyglądać walidacja treści generowanej przez AI przed publikacją, szczególnie w kontekście profesjonalnych raportów.