Badacz bezpieczeństwa Matthew Gore-Kormanik analizując oszukańczą aplikację randkową Dora otrzymał połączenie od profilu fikcyjnej dziewczyny Jennifer, ale zamiast rzeczywistej osoby w wideorozmowie zobaczył jedynie poruszającą się tapetę i usłyszał dziwne artefakty dźwiękowe. Przesłana po rozmowie wiadomość "Jennifer" chwaląca jego głos została najprawdopodobniej wygenerowana przez AI, choć mikrofonem użytkownika w ogóle się nie transmitowało.
To odkrycie ujawnia nowy typ oszustw randkowych napędzanych technologią AI. Zamiast angażowania real ludzi do udawania potencjalnych partnerów, oszuści mogą teraz całkowicie zautomatyzować proces poprzez generowanie wiarygodnych profili, prowadzenie rozmów za pośrednictwem deepfake'ów wideo oraz tworzenie personalizowanych wiadomości. Taka metoda jest znacznie tańsza i skalowalna w stosunku do tradycyjnych oszustw romantycznych.
Zagrożenie jest poważne, bo oszuści mogą wykorzystywać AI do zdobywania zaufania ofiar w celu wyłudzenia pieniędzy, poufnych informacji osobistych lub danych karty kredytowej. Wraz z rozpowszechnianiem się dostępu do zaawansowanych modeli AI, takie ataki mogą stać się znacznie bardziej sofistykowane i trudniejsze do wykrycia.