Zaawansowane modele AI z możliwościami hakowania wkrótce staną się standardem w branży. Badania wskazują, że umiejętności takie jak wyszukiwanie luk w systemach bezpieczeństwa czy automatyczne generowanie exploitów będą coraz bardziej rozpowszechnione wśród kolejnych generacji modeli AI, niezależnie od wprowadzanych ograniczeń.
Rozwój takich zdolności postrzegany jest jako niemal nieunikniony efekt uboczny treningu coraz bardziej zaawansowanych systemów. Nawet jeśli niektóre organizacje podejmą kroki mające zapobiec takim możliwościom w swoich modelach, konkurencja globalna i otwarte źródła sprawi, że potencjalnie niebezpieczne implementacje znajdą swój sposób do dalszego rozprzestrzenienia.
Stanowi to istotne wyzwanie dla bezpieczeństwa cybernetycznego. Oznacza, że organizacje muszą przygotować się na scenariusz, w którym potencjalnie każdy będzie miał dostęp do potężnych narzędzi do automatycznego przeprowadzania ataków. To zmusza ekspertów do przeformułowania strategii obrony i przyspieszenia prac nad systemami odpornymi na takie zagrożenia.