Margaret Atwood, autorka Opowieści podręczniczki i Ślepej morderczyni, nie musiała się powstrzymywać podczas dyskusji o AI na festiwalu literackim Babell w Porto w Portugalii. Doświadczona pisarka testowała chatbota Claude od Anthropic i wyszła z niego rozczarowana - szukała informacji o serialu detektywistycznym Father Brown, ale otrzymała błędne odpowiedzi albo, jak to określiła, kłamstwo.
Problem, który Atwood wskazuje, dotyczy fundamentalnej natury modeli języka: Claude nie wiedział, że się myli. Algorytm może wygenerować przekonującą, spójną odpowiedź bez jakiegokolwiek rzeczywistego zrozumienia przedmiotu. To czysta aluzyjna rzeczywistość - duży model językowy przetwarza statystyczne wzorce z tekstów treningowych i produkuje kolejne tokeny, które brzmią wiarygodnie, ale mogą być całkowicie zmyślone.
Komentarz Atwood uderza w sam rdzeń problemu zaufania do AI. Widz lub użytkownik nie ma łatwo możliwości stwierdzenia, czy chatbot mówi prawdę, czy halucynuje. To szczególnie niebezpieczne w kontekście rozpowszechniania desinformacji i uzależniania się społeczeństwa od systemów, które mogą brzmieć ekspertowo, ale są faktycznie puste. Jej obserwacja - że to nie człowiek i dlatego nie wie, kiedy kłamie - zwraca uwagę na szerokie ryzyko polegające na AI jako niezawodnym źródle informacji bez wskaźników niepewności czy granicy wiedzy.