CEO firmy Anthropic Dario Amodei udzielił wywiadu stacji Bloomberg, w którym ujawnił, że nie wie, czy model Claude zostały użyty podczas ataku na szkołę podstawową w Minab w Iranie z 28 lutego. W wyniku tego uderzenia zginęło około 120 dzieci. Amodei opisał atak jako "naprawdę straszny" incydent, ale nie potrafił potwierdzić ani zaprzeczyć zaangażowaniu swojej technologii.
Sprawa ujawnia fundamentalne napięcie w branży sztucznej inteligencji: podczas gdy firmy takie jak Anthropic tworzą modele ze względami etycznymi, praktycznie niemożliwe jest monitorowanie, jak i gdzie ich systemy są ostatecznie wykorzystywane. Claude jest publicznie dostępny, a jego zastosowania w planowaniu lub wspieraniu operacji militarnych mogą być trudne do śledzenia.
To pytanie brzmi oszczędzania w kontekście rosnących obaw o bezpieczeństwo i etykę AI. Regulatorzy, aktywiści i sama branża zaczynają dyskutować, jaką odpowiedzialność powinni ponosić twórcy modeli za ich potencjalne nadużycia. Historia wskazuje na pilną potrzebę lepszych mechanizmów kontroli i przejrzystości w sektorze sztucznej inteligencji.