Firma zajmująca się bezpieczeństwem AIR przeprowadziła test penetracyjny ekosystemu agentów AI, tworząc fałszywą umiejętność, którą opublikowała na popularnym rynku skill-ów. Umiejętność przeszła bez problemu wszystkie testy skanerów bezpieczeństwa i została zainstalowana na około 26 tysiącach agentów, w tym na kontach korporacyjnych. Badacze promowali fałszywą umiejętność za pośrednictwem reklamy na Instagramie, co pokazuje łatwość, z jaką można manipulować agentami AI.
Payload zawarty w sztucznej umiejętności został zaprojektowany tak, aby był nieszkodliwy - zbierał jedynie dane diagnostyczne, jednak potencjalnie mógł wykonać znacznie bardziej złośliwe operacje. To odkrycie ujawnia krytyczną lukę w bezpieczeństwie: żaden ze standardowych skanerów nie zdołał zidentyfikować problemu, mimo że umiejętność była faktycznie zagrażająca. Mechanizmy ochrony rynku AI agentów okazują się niewystarczające.
Incydent ma poważne implikacje dla bezpieczeństwa korporacyjnego. Agenci AI coraz częściej są wdrażani w systemach biznesowych do automatyzacji zadań, a obecne kontrole nie gwarantują ochrony przed złośliwymi plug-inami. Wynik testu sugeruje, że złodzieje mogą z łatwością podszywać się pod wiarygodne dostawców umiejętności i infiltrować systemy na dużą skalę, zamieniając agentów AI w wektor ataku na wrażliwe dane korporacyjne.