Badacze z Tenet Security ujawnili podatność w agentach AI wykorzystywanych do programowania. Wystarczy wysłać fałszywy raport błędu, aby przejąć kontrolę nad agentem i sprawić, że będzie wykonywać polecenia osoby atakującej. To całkowicie nowy wektor ataku — nie wymaga tradycyjnych narzędzi takowych jak malware czy phishing.
Mechanizm ataku jest genialnie prosty. Developer zwraca się do agenta AI z prośbą o naprawienie czegoś, a atakujący ukrywa w fałszywym raporcie instrukcje, które agent interpretuje jako polecenia. Agent, ufając sobie i procesowi, wykonuje to co zostało w nim zasugerowane. To sprawia, że sam staje się bronią — może zmienić kod, dodać backdoor lub wyciągnąć wrażliwe dane.
Otwarcie tego problemu przez badaczy jest kluczowe dla całego ekosystemu AI w development. Wraz ze wzrostem popularności agentów kodujących takie podatności mogą mieć poważne konsekwencje. Chodzi nie tylko o poszczególne projekty, ale o całe łańcuchy dostaw oprogramowania. To pokazuje, że zanim agenci AI staną się standardem w pracy programistów, trzeba znacznie wzmocnić ich ochronę przed tego typu atakami.