Bezpieczeństwo systemów AI musi być definiowane jako problem inżynierski z konkretnymi wymaganiami bezpieczeństwa, wymuszalnymi kontrolami i nazwanymi właścicielami odpowiedzialności. NVIDIA podkreśla, że fundamentalne zasady bezpieczeństwa nie zmieniają się - tymi zasadami są: ustalenie tożsamości, kontrola dostępu, ograniczenie ekspozycji i weryfikacja że ochrony działają. Te same reguły obowiązywały przy internecie i cloud computingu, teraz muszą być zastosowane do nowych warunków operacyjnych wprowadzanych przez agentów AI.
Agenci AI rozszerzają tradycyjną architekturę systemów софту, dodając nowe warunki operacyjne. Zamiast prostych aplikacji opartych na kodzie i danych, mamy teraz pełny stos: modele dostarczające możliwości, harnessy organizujące kontekst i workflow'y, oraz środowiska runtime'u infrastruktury. Każda warstwa tego stosu niesie ze sobą odpowiedzialność bezpieczeństwa. Dane, instrukcje i akcje przepływają przez cały system - na przykład agent aktualizujący rekord klienta musi być asekurowany na każdym etapie.
Wyzwanie polega na pędzącym tempie rozwoju. Organizacje chcą już teraz korzystać z przyrostu produktywności dzięki AI, podczas gdy praktyki do zarządzania i asekuracji tych systemów są dopiero w fazie rozwojowej. NVIDIA argumentuje, że industrialnie musimy przyspieszyć inżynierię bezpieczeństwa, udostępnić narzędzia obronne szerszemu gronu oraz szybciej dzielić się tym co działa.