Sebastian Raschka przedstawił praktyczny tutorial na temat budowania detektora tekstu generowanego przez AI. Projekt został zainspirowany niedawnym uruchomieniem funkcji AI detection w interfejsie Substack oraz pytaniami od społeczności o małe modele językowe zdolne do pracy w lokalnych, samodzielnych projektach demonstracyjnych.
Celem tutorialu jest pokazanie mechaniki działania detektorów AI poprzez implementację prostego rozwiązania. Raschka planuje również użyć go jako weryfikatora do trenowania małego modelu językowego do generowania tekstu, który skutecznie unika wykrycia przez detektory. To badanie limitacji współczesnych detektorów AI ma charakter edukacyjny i rozszerza zastosowanie verification-based systemów poza tradycyjne modele trenowane na matematyce i kodzie.
W praktyce takie detektory mogą służyć filtrowaniu spamowanej zawartości, ale również pomagają autorom ulepszyć własne teksty bez ryzyka, że będą one oznaczane jako AI-generated. Przykładowo, pisarz poprawiający gramatykę w długim artykule za pomocą narzędzi takich jak ChatGPT bądź dedykowanych grammar checkerów ma problem ze zbyt dużą polackiwaną sią tekstu - oryginalnie jego własne pismo może być następnie oznaczane jako generowane przez AI i traktowane jako spamowe, pomimo że pozostaje autorskim tekstem.