Naukowcy opracowali metodę "dwukrotnego sprawdzenia", która zmusza agentów AI do weryfikacji swoich decyzji zanim je faktycznie wykonają. Zamiast od razu działać na podstawie pierwszego pomysłu, system generuje potencjalne akcje, a następnie je ocenia - to minimalizuje błędy i znacznie zwiększa efektywność działania. Podejście to ma kluczowe znaczenie dla robotyki i autonomicznych systemów operujących w rzeczywistym świecie, gdzie każdy błąd może być kosztowny lub niebezpieczny.
Dotychczasowe agenty AI działające w środowiskach fizycznych często reagowały zbyt szybko i impulsywnie, co prowadziło do pomyłek. Dodanie dodatkowego etapu weryfikacji przed wykonaniem działania to prosty, ale efektywny sposób na poprawę niezawodności. Mechanizm ten funkcjonuje podobnie do tego, jak człowiek myśli zanim coś robi - najpierw rozważa opcje, następnie je ocenia pod względem sensowności i bezpieczeństwa. Ta architektura okazuje się szczególnie ważna w kontekście rosnącego zainteresowania autonomicznym robotami pracującymi w fabrykach, magazynach czy środowisku medycznym.
Badanie pokazuje, że taki dwuetapowy proces decyzyjny można wdrażać w istniejących modelach AI bez drastycznych zmian ich struktury. To oznacza, że agenty już gotowe do pracy mogą być wyposażane w dodatkową warstwę bezpieczeństwa. W przyszłości takie rozwiązania mogą stać się standardem w przemyśle, gdzie stawka bezpieczeństwa jest wysoka - od transportu autonomicznego po manipulację wrażliwymi przedmiotami w linii produkcyjnej.