OpenAI ostrzega, że zaawansowane modele sztucznej inteligencji mogą fundamentalnie zmienić oblicze cyberzagrożeń i drastycznie utrudnić obronę cybernetyczną. W opublikowanej analizie firma wskazuje, że te same narzędzia AI, które rewolucjonizują technologię, mogą zostać wykorzystane przez cyberprzestępców do automatyzacji ataków, łamania szyfrowania czy tworzenia zafałszowanych treści na masową skalę. Chodzi tutaj zarówno o wykorzystanie modeli takich jak GPT-4 do generowania софistykatowanego phishingu, jak i o zastosowanie AI do analizy luk w zabezpieczeniach i przygotowywania zaawansowanych exploitów, które trudniej będzie wychwycić tradycyjnym systemom ochrony.
Problem nabiera szczególnego znaczenia, ponieważ tempo rozwoju zdolności ofensywnych AI najwyraźnie przewyższa możliwości defensywne zarówno przedsiębiorstw, jak i instytucji publicznych. OpenAI zwraca uwagę na asyrietrię: cyberprzestępcy i grupy sponsorowane przez państwa mogą wykorzystywać AI do skalowania i automatyzacji ataków z względnie niskim nakładem pracy, podczas gdy tradycyjne systemy bezpieczeństwa wymagają stałej aktualizacji i ogromnych zasobów. Oznacza to, że firmy chronią się głównie metodami reaktywnymi, zamiast proaktywnie antycypować nowe zagrożenia generowane przez sztuczną inteligencję.
Rozmowa o bezpieczeństwie AI nie może ograniczać się do kolejnych firewall-i czy patch-ów. Wymagany jest fundamentalny przesunięcie w podejściu - od poczekiwania na incydenty do budowania odporności systemów przed ich wybuchem. OpenAI sugeruje zwiększenie przejrzystości modeli AI, inwestycje w badania nad defensywną AI oraz współpracę międzygałęziową między rządami, naukowcami a przemysłem technologicznym. Bez takich działań ryzyko, że zaawansowana AI trafi w ręce aktorów o złych intencjach, może przesunąć bezpieczeństwo cybernetyczne całej cywilizacji do fazy kryzysu.