AI Overviews firmy Google mylnie przekazuje użytkownikom, że potwory z horror fan-fiction są rzeczywistościach. Jak wynika z raportu Futurism, system wielokrotnie cytuje wpisy z SCP Foundation – ogromnego projektu kolaboracyjnego pełnego wymyślonych anomalii – jako udokumentowane fakty naukowe.
SCP Foundation to otwarta platforma, na której tysiące twórców wymyślają fikcyjne potwory, artefakty i zjawiska paranormalne. Choć projekt ma bogatą historię i wielbicieli w sieci, jego zawartość jest całkowicie fikcyjna. Problem pojawia się, gdy algorytmy Google'a trafiają na te opisy w rankingach wyszukiwania i prezentują je jako wiarygodne informacje w podsumowaniach AI.
To kolejny przykład wad systemu AI Overviews, który od premiery w wersji beta napotyka problemy z rozróżnianiem rzeczywistości od fikcji i weryfikacją źródeł. Google uległ presji użytkowników w kwestii błędnych porad (w tym niefortunnych sugestii dotyczących jedzenia), ale ta nowa luka pokazuje, że system wciąż ma problem ze zrozumieniem kontekstu i oceną wiarygodności danych.