Rozpowszechnianie się technologii AI staje się dwustronnym zagrożeniem dla cyberbezpieczeństwa - systemy sztucznej inteligencji stanowią jednocześnie cel ataków i potencjalną broń w rękach cyberprzestępców. MIT Tech Review zwraca uwagę na rosnący problem, który nabiera znaczenia w miarę, jak AI wnika głębiej w krytyczną infrastrukturę biznesu i państwa. Zagrożenia ta rozciągają się od manipulowania danymi treningowymi, przez włamywanie się do modeli, aż po wykorzystywanie możliwości AI do przeprowadzania zaawansowanych, zautomatyzowanych cyberataków na skalę dotąd niespotykana.
Rośnie bowiem asymetria w potencjale ofensywnym i defensywnym. Atakujący mogą wykorzystać sztuczną inteligencję do automatyzacji wyszukiwania podatności, personalizacji phishingu czy tworzenia deepfake'ów - wszystko to w tempie, które przygniatająco przekracza możliwości zespołów bezpieczeństwa. Jednocześnie systemy AI stosowane w obronie są podatne na własne ataki, na przykład zatruwanie danych treningowych czy zawężanie ich pola widzenia. Niebezpieczeństwo pogłębia się wraz z integracją AI w urządzeniach medycznych, systemach zasilania, sieciach logistycznych czy infrastrukturze finansowej.
Badania podsuwają bezsprzeczny wniosek: branża i władze nie mogą już czekać na naturalne dojrzewanie ekosystemu bezpieczeństwa. Potrzebne są nowe standardy, ramowe wytyczne dla bezpiecznego rozwoju i wdrażania modeli AI, a także strategie obrony dostosowane do zdolności atakujących posługujących się sztuczną inteligencją. Bez tego podejścia ryzyko katastrofalnych awarii w systemach krytycznych będzie rosnąć wykładniczo.