Badanie przeprowadzone przez naukowców z uniwersytetów w Indiach, Wenecji, Melbourne i Negiewie wykazało, że chatboty AI wykazują się wyższą efektywnością niż ludzie w budowaniu zaufania podczas oszustw typu pig butchering. To forma oszustwa tekstowego, w której sprawcy najpierw nawiązują fałszywą relację romansu, a następnie kierują ofiarę ku inwestycji w kryptowalutę. W symulacji naukowcy pityali AI bezpośrednio przeciwko ludziom w procesie scamowania, skupiając się na długich rozmowach budujących zaufanie, które poprzedzają prośbę o inwestycję.
Chatboty AI wykazały niezwykłą skuteczność w początkowych etapach oszustwa - etapach, które w rzeczywistych scamach zazwyczaj stanowią największą część interakcji z ofiarą, często trwającą miesiące. Zdolność modeli do tworzenia wiarygodych, polibrowanych odpowiedzi i utrzymywania długotrwałych rozmów dała im przewagę nad ludzkimi oszustami w zadaniu budowania relacji emocjonalnej.
To odkrycie ma poważne implikacje dla walki z oszustwami finansowymi na całym świecie. Jeśli AI może autonomicznie przeprowadzić większość long conów efektywniej niż ludzie, przestępcze operacje mogą skalować swoje działania z minimalnym wysiłkiem ludzkim, zwiększając zasięg i przychody. Badanie sugeruje, że tradycyjne podejścia do zwalczania oszustw mogą wymagać przeformułowania w obliczu zagrożenia ze strony zaawansowanych modeli generatywnych.