Microsoft objawił, że kierował międzyinstytucjonalną operacją zniszczenia platformy EvilTokens, która przy pomocy chatbota AI zagrażała kontem użytkowników. Platforma działała jako usługa subskrypcyjna uruchomiona na kanale Telegram w lutym tego roku, pobierająca wstępną opłatę 1500 dolarów oraz comiesięczną składkę 500 dolarów. EvilTokens oferowała jednolitą usługę do automatyzacji większości kroków potrzebnych do kompromitacji kont mailowych na dużą skalę.
Kluczową funkcją platformy był chatbot AI, który analizował skrzynkę odbiorcy ofiary i pomagał przestępcom zidentyfikować zaufane relacje, autoryzacje płatności i wrażliwe obowiązki pracowników. System mógł nawet rekomendować strategie oszustwa, drafując wiadomości podszywające się pod zaufane kontakty, aby nakłonić ofiary do przelewów pieniędzy na konta kontrolowane przez atakujących. Operacja przebiegała błyskawicznie - ataki zajmowały minuty zamiast dni.
Znikięcie EvilTokens stanowi pierwszy publiczny przypadek, w którym zaawansowana sztuczna inteligencja została zmilitaryzowana w dużej skali dla scamów finansowych na poziomie korporacyjnym. Pokazuje to, jak szybko cyberprzestępcy mogą adaptować nowe technologie AI do złośliwych celów i jak ważna jest szybka odpowiedź branży technicznej na zagrożenia tego typu. Operacja Microsoft wskazuje także na rosnące zainteresowanie hakerów narzędziami AI dla automatyzacji i optymalizacji ataków socjotechnicznych.