Naukowcy przedstawili formalny model zarządzania autonomicznymi agentami AI, który rozwiązuje problem kontroli nad potencjalnie niebezpiecznymi akcjami - takimi jak przepisywanie leków czy wdrażanie oprogramowania produkcyjnego. Zamiast ingerować w sposób myślenia agenta, model wymusza niezależną atestację faktów przed wykonaniem każdego działania wysoko ryzykownego.
Kluczowa idea polega na rozdzieleniu autonomii od autorytetu wykonawczego. Agent zachowuje pełną swobodę w planowaniu i rozumowaniu, ale nie ma dostępu bezpośrednio do wykonania wrażliwych operacji. Każda kluczowa akcja wymaga wcześniejszego spełnienia warunków początkowych, które są niezależnie potwierdzane przez osobne, autorytatywne źródła. Potwierdzenia są kryptograficznie powiązane z deklarowanym zamiarem agenta i oceniane przez deterministyczną politykę. Wszystkie decyzje rejestrowane są w niepodrabialnym dzienniku umożliwiającym niezależną weryfikację.
Proponowan model inspirowany jest praktykami rzeczywistych instytucji - szpitale nie monitorują myśli lekarzy, ale wymagają zatwierdzenia przez drugi personel medyczny dla poważnych procedur. Naukowcy zaprezentowali pracujący prototyp i zademonstrować jego działanie na przykładach wdrażania oprogramowania i opieki klinicznej. Podejście to ma potencjał stać się standardowym sposobem kontroli nad coraz bardziej autonomicznymi systemami AI w sektorach krytycznych.