Systemy AI są zdecydowanie bardziej persuazyjne niż eksperci-ludzie w rzeczywistych rozmowach mających wpływ na podejmowane decyzje. W czterech eksperymentach badacze z Uniwersytetu Oksfordzkiego, UK AI Security Institute, Stanford i London School of Economics przeanalizowali 18 978 rozmów z 6 923 uczestnikami dotyczących zmian poglądów politycznych i donacji charytatywnych. AI wykazała się niezawodnie wyższą zdolnością do przekonywania, nawet w porównaniu z ekspertami, którzy wybierali własne tematy, przygotowywali się na nich, przechodzili godziny intensywnego szkolenia i otrzymywali bodźce finansowe w postaci premii 1000 funtów.
Sekretem przewagi AI jest jej umiejętność szybkiego wdrażania znacznie większych ilości informacji w procesie perswazji. Po specjalistycznym szkoleniu eksperci-ludzie byli w stanie dorównać AI, ale tylko gdy system został ograniczony do ludzkiej prędkości odpowiadania i długości wiadomości porównywalnej z człowiekiem. To pokazuje, że nie chodzi tu o intrinsyczną wyższość AI w retoryce, a raczej o jej zdolność do przetwarzania i komunikacji informacji w tempie, którego ludzie nie mogą osiągnąć.
Wyniki mają poważne implikacje dla przyszłości komunikacji i wpływu społecznego. AI była niemal trzy razy bardziej efektywna niż profesjonalni zbierający fundusze z brytyjskiej agencji fundraisingowej w pozyskiwaniu rzeczywistych pieniędzy na cele charytatywne. Te ustalenia sygnalizują potrzebę nowych ram bezpieczeństwa i etyki wokół zastosowań AI w perswazji, szczególnie jeśli takie systemy staną się powszechnie dostępne. Badanie odsłania zarówno ogromny potencjał AI do pozytywnych zmian społecznych, jak i ryzyko manipulacji na masową skalę.