Ponad 120 organizacji ze sektora technologicznego, w tym NVIDIA, Cisco, CrowdStrike, Hugging Face i Red Hat, pracuje nad nowymi wytycznymi cyberbezpieczeństwa dla agentowych systemów AI. Linux Foundation opublikowała wezwanie do komentarzy publicznych na temat ramach SAFE - stanowiącego zestaw rekomendacji mających na celu transformację incydentów bezpieczeństwa AI w zbiorową ochronę całego ekosystemu.
Wytyczne SAFE zawierają propozycje poufnego zbierania i analizy incydentów AI oraz sytuacji którym udało się zapobiec, informowania instytucji dotkniętych problemami, identyfikacji powtarzających się błędów kontroli bezpieczeństwa oraz publikowania wytycznych opartych na dowodach naukowych. Celem jest redukcja ryzyka systemowego poprzez wspólne dzielenie się wiedzą o zagrożeniach pomiędzy organizacjami. Inicjatywa została zaprezentowana podczas konferencji Black Hat w Las Vegas.
Każda duża zmiana technologiczna tworzy nowe potencjalne wektory ataków. Systemy AI działające w trybie agenta wymagają nowych podejść do obrony ze względu na ich autonomię i zdolność do podejmowania decyzji. Zgodna praca na poziomie branżowym, oparta na wymianie threat intelligence, ma stać się czynnikiem mnożnikowym w zbiorowej obronie przed zagrożeniami cyberbezpieczeństwa.