Google wytoczył pozew mający na celu rozbicie chińskiego gang cyberprzestępczego zwanego Outsider Enterprise. Grupa używała sztucznej inteligencji, w tym samego Gemini od Google'a, aby generować strony phishingowe i wysyłać masowe wiadomości SMS z oszustwami. W zaledwie dwie tygodnie wysłali 2,5 miliona sfałszowanych tekstów do użytkowników Androida, podszywając się przy tym pod Google i inne znane marki.
To kolejny przykład tego, jak narzędzia AI mogą być nadużywane przez przestępców. Outsider Enterprise nie był amatorami – to zorganizowana operacja, która wykorzystywała zaawansowane techniki do budowania wiarygodnie wyglądających stron phishingowych i automatyzacji ataku. Fakt, że pracowali na skalę milionów wiadomości, pokazuje jak poważny jest to problem.
Pozew od Google'a jest odpowiedzią na rosnący problem cyberprzestępczości wspieranej przez AI. Gigant z Mountain View stara się pokazać, że będzie bronić swoich użytkowników i podejmować działania prawne przeciwko tym, którzy nadużywają jego technologii. To jednak światełko – wiele takich operacji działa w cieniu, a poszczególne modele AI pozostają podatne na wykorzystanie przez złych aktorów.