Max Spero z Pangram zwraca uwagę na rosnący problem zaufania w internecie, gdzie teksty i obrazy generowane przez AI infiltrują platformy zatrudnienia, serwisy recenzji oraz wnioski ubezpieczeniowe. Problem wykrywania AI-generowanej zawartości okazuje się znacznie bardziej skomplikowany niż prosta gra polegająca na odgadywaniu, czy coś pochodzi od człowieka czy maszyny.
Wciąż pojawiają się nowe startupy obiecujące rozwiązania w zakresie detekcji AI, jednak technologia napotyka na fundamentalne wyzwania. Modele generacyjne stają się coraz bardziej zaawansowane i trudne do odróżnienia od autentycznych materiałów, a metody detekcji mają problemy z przystosowaniem się do tempa ich ewolucji.
Praktyczne konsekwencje tego problemu są znaczące - pracodawcy nie mogą być pewni, czy kandydaci sami pisali CV, recenzenci produktów mogą być zmanipulowani przez sztuczne opinie, a ubezpieczyciele mają trudności z weryfikacją informacji w wnioskich. To wymaga holistycznego podejścia, które wykracza poza samo techniczne rozwiązania detekcji.