Pentagon przyznał, że zbyt duże uzależnienie od systemów sztucznej inteligencji doprowadziło do błędnego celowania w szkołę w Iranie. Raport wskazuje na krytyczną lukę w procedurach sprawdzenia informacji pochodzących z narzędzi AI przed podjęciem decyzji o ataku.
Incydent stanowi ostrzeżenie dla armii na całym świecie dotyczące ryzyk automatyzacji w wojskowych procesach decyzyjnych. Gdy systemy AI uzyskują coraz większą rolę w identyfikacji celów i ocenie zagrożeń, brakuje im niezawodności człowieka w kontekście moralnym i faktycznym. Pentagon podkreśla, że wsparcie technologiczne nie powinno zastępować krytycznej oceny ludzkiej i że procedury muszą wymagać wielowarstwowej weryfikacji przed wykonaniem ataku.
Sprawa ma daleko idące konsekwencje dla całej branży obronnej i dyskusji o etyce sztucznej inteligencji. Rośnie świadomość, że technologia nie powinna być traktowana jako niezawodna sama w sobie, szczególnie w kontekście operacji wojskowych, gdzie stawka jest życie ludzkie.