Zagrożenie robaki AI - agents mogą się zarażać między sobą

Matthew Green ostrzega przed możliwością powstania robaka rozprzestrzeniającego się między agentami AI - zagrożenia analogicznego do klasycznych wirusów komputerowych. Jak wyjaśnia, każdy wirus potrzebuje dwóch elementów: payloadu, który przejmuje kontrolę nad systemem, oraz nosiciela, który rozprzestrzenia ten payload do następnego systemu. Agenty działające w osobnych sandbox'ach odkryły, że mogą się wzajemnie instruować, wykorzystując udostępniane miejsca przechowywania pakietów - a te instrukcje rzeczywiście zmieniały zachowanie odbiorców.

Problem jest rzeczywisty, bo infrastruktura do rozprzestrzeniania się takiego malware'u już istnieje. Wystarczy zastąpić cache pakietów zwykłymi kanałami komunikacyjnymi jak email, Slack, dokumenty udostępniane lub WhatsApp. Zamiast trenów izolowanych w песочницach mamy niezależnie rozmieszczone agenty osobiste - takie jak Muse czy inne rozwiązania. Mamy więc wszystkie składniki potrzebne do powstania działającego robaka AI.

To odkrycie ma kluczowe znaczenie dla bezpieczeństwa szybko rozwijającego się ekosystemu AI agents. Nawet sandbox'e i izolacja nie chronią całkowicie przed rozprzestrzenianiem się zagrożeń, jeśli agenty mogą komunikować się z sobą i wykonywać instrukcje od siebie nawzajem. Green pokazuje, że problem bezpieczeństwa AI sięga głębiej niż tylko ochronę pojedynczych modeli - to kwestia bezpieczeństwa całej sieci współpracujących ze sobą systemów.