Sztuczna inteligencja konsumuje internetowe treści w tempie, które powoduje erozję zbiorowej pamięci sieci. Model ten tworzy dla siebie pułapkę - im więcej AI generuje odpowiedzi zastępujące tradycyjne wyszukiwarki, tym mniej oryginalnych źródeł pozostaje dostępnych dla przyszłego trenowania modeli. Użytkownicy zamiast poszukiwać treści oryginalnych, coraz chętniej pytają bezpośrednio AI, co zmniejsza ruch do stron internetowych, których zawartość ta AI już wchłonęła.
Problematyczne jest także to, że modele AI są trenowane na danych zebranych z całej sieci często bez zgody twórców. Gdy ludzie zamiast tego, by czytać artykuły, posty czy badania, zadowalają się odpowiedziami AI, tracimy nie tylko dostęp do pierwotnych źródeł, ale także degradujemy całą infrastrukturę wymiany wiedzy, która budowała internet przez dziesięciolecia. Treści oryginalne, szczególnie wymagające zaangażowania (investigacyjne artykuły, badania naukowe, specjalistyczne poradniki), są coraz mniej rentowne dla twórców.
To zjawisko grozi systemową degeneracją - przyszłe modele AI będą trenowane na zbiorze, który zawiera coraz więcej odpowiedzi wygenerowanych przez poprzednie AI, a coraz mniej autentycznych, pierwotnych źródeł. Końcowym efektem może być internet, w którym origialna wiedza staje się deficytowym towarem, a dostęp do niej kontrolowany przez kilka korporacji zajmujących się AI.