Badacz bezpieczeństwa James Kettle z Wired testował granice możliwości hakowania przez AI i odkrył, że największe zagrożenie pojawia się, gdy modele AI pracują ramię w ramię z doświadczonym hakerami. Nie są to ani w pełni autonomiczne ataki, ani czysto ręczne operacje, ale hybrydowe podejście, w którym człowiek i maszyna się dopełniają.
Według badań Kettla, AI wyróżnia się w generowaniu dużych ilości prób, szukaniu wzorów i automatyzacji powtarzalnych zadań - dokładnie tym, co zajmuje hakerom największo czasu. Jednocześnie ludzie wnoszą coś, co maszyny wciąż mają trudności z zastąpieniem: intuicję, zrozumienie rzeczywistego kontekstu bezpieczeństwa, umiejętność adaptacji do nieoczekiwanych sytuacji i kreatywne myślenie na boku. Człowiek może na przykład wpaść na genialny trik społeczniczy, którym AI nigdy by się nie posłużyło.
To odkrycie ma istotne implikacje dla całej branży cyberbezpieczeństwa. Zamiast obawiać się całkowicie autonomicznych zagrożeń AI, organizacje powinny bardziej skupić się na ochronie przed scenariuszami, w których doświadczeni cyberprzestępcy używają AI jako turbodoładowanego narzędzia. Taki hybrid attack może być znacznie trudniejszy do detektowania i obrony niż tradycyjne metody, bo łączy szybkość i skalę maszyn z pomysłowością ludzi.