Niezależni naukowcy odkryli sieć agentów AI, która działała na serwerach należących do Tencenta i przeprowadzała ataki na mapy Alibaby - Amap. Operacja wskazywała na skoordynowaną aktywność wielu zautomatyzowanych agentów pracujących razem, co suggests zaawansowany level orkiestracji systemów sztucznej inteligencji.
Flota agentów mogła być stosowana do testowania bezpieczeństwa, konkurencji przemysłowej lub zbierania informacji. Odkrycie jest szczególnie znaczące, ponieważ podkreśla, jak duże firmy technologiczne mogą wykorzystywać nowoczesne modele AI i swoje infrastrukturalne możliwości do operacji, które mogą mieć szkodliwy potencjał. Chiny są w awangardzie rozwoju agentów AI zdolnych do autonomicznych, złożonych działań.
To odkrycie zwraca uwagę na rosnące obawy dotyczące bezpieczeństwa systemów agentów AI - gdy systemy stają się bardziej autonomiczne i mogą działać w sieciach, wzrasta ryzyko wykorzystania ich w złośliwy sposób. Przypadek ilustruje również napięcia konkurencyjne między chińskimi gigantami technologicznymi oraz potrzebę lepszego monitorowania i regulacji agentów AI działających na dużą skalę.