Naukowcy z wykorzystaniem dużych modeli języka (LLM) stworzyli chatbota zdolnego do rozpoznawania oszustw romantycznych na platformie Line w czasie rzeczywistym. System działa na zasadzie analizy siedmiu teoretycznych stadiów romansowego scamu wypracowanych w naukach społecznych, a następnie mapuje je do rzeczywistych rozmów użytkowników.
Rosnący problem oszustw romantycznych wiąże się bezpośrednio z postępami AI - oszuści mogą teraz łatwiej fałszować tożsamość i prowadzić przekonujące rozmowy dzięki zaawansowanym modelom linguistycznym. Praktyczne podejście badaczy polega na tym, że chatbot nie tylko wykrywa zagrożenie, lecz także wyjaśnia użytkownikowi, w jakim stadium scamu się znajduje i jakie powinien podjąć działania ochronne. To czyni go bardziej wartościowym narzędziem niż zwykłe filtry lub alarmy.
Badanie pokazuje, że teoretyczne ramy z nauk społecznych można efektywnie zaaplikować w systemach ochrony bazujących na AI. Taki chatbot mógłby zostać zintegrowany z popularnymi platformami komunikacyjnymi i działać jako warstwa bezpieczeństwa dla milionów użytkowników, szczególnie w Azji, gdzie Line jest szeroko rozpowszechnione.