Badacze opracowali BRaVeS - framework łączący ograniczoną autonomię z gwarancjami bezpieczeństwa dla systemów agentic AI wdrażanych w środowiskach o wysokiej stawce. Głównym problemem, który framework adresuje, jest epistemic drift - zjawisko polegające na tym, że w miarę pogłębiania się procesów rozumowania, zachowanie systemu oddala się od ograniczeń ekspertów określających bezpieczną operację.
Framework wprowadza kilka innowacyjnych mechanizmów. Po pierwsze, enkoduje ograniczenia definiowane przez ekspertów przedmiotowych jako invariant anchors - kotwice utrzymujące system w zgodzie z wytycznymi bezpieczeństwa. Propozycja wykorzystania MoDA-Style (Mixture of Depths Attention) ma na celu utrzymanie widoczności tych kotwic podczas wnioskowania. System SMARtAutonomy zmniejsza autonomię agenta w miarę wzrostu ryzyka epistemicznego. Kluczową formalną podstawą jest Lyapunov-Bounded Consensus Framework (LBCF), który mapuje ciągłe sygnały ryzyka epistemicznego na skończoną abstrakcję K-bag i egzekwuje przejścia stanu z tarczą bezpieczeństwa - prowadzące albo do energetycznego spadku w stylu Lapunowa, albo kierujące system do stanu mediowanego przez człowieka.
Wartość tego podejścia polega na formalnym uzasadnieniu dla autonomicznych systemów AI w scenariuszach krytycznych. Ewaluacja przeprowadzona na danych z rzeczywistych systemów sterowania przemysłowego (HAI 22.04) z syntetycznym szumem i degradacją czujników wykazała praktyczną użyteczność. Chociaż formalne wyniki konwergencji dotyczą skończonej abstrakcji LBCF, a nie całej ciągłej przestrzeni aktywacji neuronowych, framework stanowi znaczący krok w kierunku weryfikowalnej bezpieczeństwa dla autonomicznych agentów AI.