Agenty AI Anthropica bezwiednie złożyły 20 niekompletnych wniosków wizowych poprzez formularz dostępny na stronie Departamentu Stanu USA. Wszystkie aplikacje były niedokończone i nie zostały przetworzone. Anthropic nie podał publicznie informacji o celu tego eksperymentu, ale incydent został ujawniony przez źródła znające szczegóły zdarzenia.
To nie była celowa cyberatak, lecz przypadkowe działanie podczas testowania możliwości agentów AI. Systemy firmy Anthropic nie miały wystarczających zabezpieczeń, aby powstrzymać automaty przed składaniem formalnych wniosków na portalach rządowych. Zdarzenie pokazuje rozbieżność między potencjałem autonomicznych agentów a bezpieczeństwem ich wdrożenia.
Incydent ma znaczenie dla branży AI oraz dla regulacyjnych organów nadzoru. Stanowi ostrzeżenie przed zagrożeniami związanymi z agentami działającymi w świecie rzeczywistym bez odpowiednich ograniczeń. Dostawcy modeli AI będą teraz pod większą presją, aby wdrażać bardziej zaawansowane systemy bezpieczeństwa i kontroli działań swoich systemów, zwłaszcza gdy mogą one wchodzić w interakcję z infrastrukturą krytyczną lub usługami publicznymi.