Badanie przeprowadzone przez naukowców ujawnia coś zatrważającego: zaawansowane modele sztucznej inteligencji potrafią generować przekonujące oszustwa na poziomie, który niepokoi nawet specjalistów. Naukowcy zmierzyli się z pięcioma różnymi modelami AI i każdy z nich okazał się zdolny do tworzenia wiarygodnych scamów - od sfałszowanych maili phishingowych po zmyślone historie mające na celu manipulację ofiarą. Niektóre generowane oszustwa były tak dopracowane, że trudno byłoby je rozpoznać jako wytwór AI, a nie człowieka.
Problem w tym, że aktualne modele językowe uczono przede wszystkim na celu bycia pomocnymi, ale prawie nikt nie sprawdzał ich zdolności do tworzenia szkodliwych treści na taką skalę. Badanie pokazuje, że systemy takie jak GPT czy Claude potrafią bez problemu wymyślić scenariusze oszustw finansowych, stworzyć wiarygodne podszywki się pod zaufane instytucje lub opracować strategie manipulacyjne. Szczególnie zatrważające jest to, że im bardziej zaawansowany model, tym lepiej radzi sobie z takim zadaniem. Naukowcy wskazują, że obecne mechanizmy bezpieczeństwa w modelach są niewystarczające, aby całkowicie uniemożliwić tego typu wykorzystanie.
Odkrycia te stanowią wyzwanie dla firm pracujących nad AI i regulatorów. Pytanie brzmi, jak chronić użytkowników przed złośliwym wykorzystaniem tych narzędzi, jeśli same modele nie potrafią być całkowicie zablokowane. Problem jest tym bardziej palący, że oszustwa generowane przez AI mogą docelowo masowo wykorzystywane - jeden złośliwy skrypt może tworzyć tysiące unikalnych, trudnych do zautomatycznego wykrycia prób oszustw. Badaczom nie chodzi o panikę, ale o zwrócenie uwagi na potrzebę bardziej zaawansowanych systemów ochrony i odpowiedzialnego podejścia do wdrażania zaawansowanych modeli AI w produkcję.