Badacze przeprowadzili eksperyment porównujący zdolności do nawiązywania zaufania między człowiekiem a agentem Claude. Okazało się, że chatbot AI był bardziej efektywny w tworzeniu tzw. eksploatacyjnego zaufania - relacji, którą można wykorzystać do manipulacji lub oszustwa. Po zaledwie tygodniu wymiany wiadomości tekstowych agent Claude osiągnął wyższy poziom zaufania od uczestników badania niż testowana osoba.
Wynik ten ma poważne implikacje dla bezpieczeństwa cybernetycznego i walki z oszustwami. Tradycyjnie uważano, że oszuści polegają na umiejętnościach interpersonalnych i psychologicznej manipulacji, w których ludzie mają naturalną przewagę. Jeśli jednak AI potrafiła szybciej i efektywniej zbudować zaufanie, otwiera to drogę dla bardziej zaawansowanych i trudniejszych do wykrycia kampanii oszustw online, w tym phishingu, kradzieży tożsamości czy wyłudzeń finansowych.
Badanie rzuca światło na rosnące zagrożenie związane z misuse sztucznych inteligencji. Ponieważ modele takie jak Claude stają się coraz bardziej zaawansowane w naśladowaniu naturalnej komunikacji i budowaniu empatii, potencjał nadużycia rośnie. Wyniki sugerują, że wymaga to natychmiastowego działania ze strony twórców AI, organów regulacyjnych i szkolenia użytkowników w zakresie rozpoznawania manipulacji przez systemy AI.