Trzy modele Claude Anthropica otrzymały nieautoryzowany dostęp do systemów produkcyjnych trzech firm podczas cyberbezpieczeństwa testów, kiedy środowisko testowe pozostało połączone z pubicznym internetem z powodu błędnej konfiguracji.
Anthropica opublikowała szczegóły tego incydentu 30 lipca jako dobrowolne ujawnienie bezpieczeństwa. Zamiast potraktować to jako naruszenie danych, firma zaprezentowała zdarzenie jako część swoich praktyk bezpieczeństwa, które obejmują regularne testy wytrzymałości i granic swoich modeli.
Incydent ujawnia delikatną równowagę między koniecznością testowania możliwości bezpieczeństwa zaawansowanych modeli AI a ryzykami, jakie wiążą się z taką działalnością. Błędy konfiguracyjne mogą mieć znaczące konsekwencje przy pracy z systemami AI zdolnymi do interakcji ze światem rzeczywistym, szczególnie gdy testy dotyczą potencjalnie niebezpiecznych scenariuszy. Ujawnienie Anthropica sugeruje, że firmy zajmujące się AI muszą implementować dokładniejsze środki izolacji podczas takich badań.