Badacze opracowali metodę StyleShield, która pokazuje, jak łatwo można oszukać systemy wykrywające treści generowane przez sztuczną inteligencję. Technika polega na zmianie stylu tekstu lub obrazów w taki sposób, że detektory przestają je rozpoznawać jako wygenerowane przez AI, mimo że sens pozostaje niezmieniony. To odkrycie ujawnia poważne luki w bezpieczeństwie istniejących detektorów AIGC i sprawia, że ich niezawodność staje pod dużym znakiem zapytania.
Detektory treści AI stały się ważnym narzędziem w walce z dezinformacją, sfałszowanymi recenzjami i plagiatami wspieranymi przez AI. Ich zadaniem jest identyfikacja tekstów i obrazów stworzonych za pomocą modeli takich jak GPT czy DALL-E. Jednak StyleShield pokazuje, że wystarczy subtelnie zmienić sposób przedstawienia informacji - wariantyzować słownictwo, strukturę zdań, kolory czy tekstury - aby te systemy zawodły. Oznacza to, że oszuści mogą tworzyć fałszywe treści bez ryzyka wykrycia, jeśli dysponują takim narzędziem.
Dla branży technologicznej to wiadomość alarmująca. Detektory, w które zainwestowały duże platformy medialne, serwisy akademickie i redakcje, okazują się zdecydowanie mniej niezawodne niż zakładano. Wyniki badania podkreślają, że potrzebne są bardziej zaawansowane i odporne rozwiązania, które będą trudniejsze do obejścia. W przyszłości może to oznaczać wyścig zbrojeń między twórcami zaawansowanych detektorów a osobami pracującymi nad ich obejściem - podobnie jak ma to miejsce w przypadku spamu, malware czy cyberzagrożeń.