Naukowiec wykazał, że klasyczne algorytmy uczenia maszynowego potrafią prawidłowo rozpoznawać teksty wygenerowane przez duże modele językowe. Badanie sugeruje, że nie trzeba stawiać na skomplikowane rozwiązania AI, aby wykryć treści pochodzące od LLM - standardowe metody statystyczne sprawdzają się zaskakująco dobrze.
Wynik ten jest ciekawy, bo przez długi czas sektorem przywdziewał mit, że do detektowania tekstu AI potrzeba również zaawansowanego AI. Tymczasem okazuje się, że charakterystyczne cechy tekstów generowanych przez modele takie jak ChatGPT - Pattern sekwencji słów, częstotliwość określonych struktur składniowych czy statystyka rozkładu tokens - są wystarczająco odrębne, by je wyłapać prostsze narzędzia.
Wiązało to znaczenie dla praktyki. Jeśli klasyczne algorytmy rzeczywiście działają, mogą być wdrażane szybciej, wymagają mniej mocy obliczeniowej i są bardziej przejrzyste w działaniu. Potencjalnie zmienia to scenariusz walki z oszustwami w edukacji, gdzie studenci oddają prace napisane przez AI, lub w mediach, gdzie AI-generated content pretenduje do bycia dziennikarskim reportażem. Jednocześnie otwiera to drzwi dla bardziej sofistyckowanych technik obchodzenia takich detektorów.