Pracownik firmy Accenture, która świadczy usługi dla Departamentu Obrony, udostępnił swojemu osobistemu agentowi Claude dostęp do zabezpieczonej sieci Pentagonu. Według informacji WIRED, agent funkcjonował w systemie przez dwa miesiące, zanim został odkryty i luka mogła zostać załatana. Incydent wskazuje na poważne zaniedbanie w procedurach bezpieczeństwa przy obsługiwaniu dostępu do wrażliwych militarnych zasobów.
Incydent podkreśla rosnące wyzwania związane z popularyzacją narzędzi AI w środowisku korporacyjnym i militarnym. Pracownicy kontraktorów obronnych mają dostęp do niektórych z najbardziej wrażliwych systemów na świecie, a wprowadzanie osobistych narzędzi AI może nieumyślnie otworzyć backdoory dla cyberzagrożeń. Claude, model stworzony przez Anthropic, jest coraz powszechniej używany w przedsiębiorstwach, ale jego integracja bez właściwych barier bezpieczeństwa stanowi poważne ryzyko.
Ten przypadek wymusza refleksję nad potrzebą wdrożenia ścisłych polityk regulujących używanie agentów AI w sieci obronnych i krytycznej infrastruktury. Trzeba zapewniać, aby każda technologia AI działająca w systemach wojskowych lub rządowych była zatwierdzana, monitorowana i testowana pod kątem bezpieczeństwa. Bez takich kontroli, nawet dobrze intencjonowani pracownicy mogą stworzyć znaczące narażenia bezpieczeństwa narodowego.