OpenAI i Anthropic obchodziły w tym tygodniu konferencję AI Engineer w Nowym Yorku, gdzie głównym tematem była autonomia agentów finansowych i ich bezpieczeństwo. Joseph Kim, szef ChatGPT dla usług finansowych w OpenAI, zaprezentował koncepcję progu użyteczności - punktu gdzie model staje się wystarczająco zdolny i niezawodny aby zaoszczędzić czas użytkownikowi. Jego główna teza brzmi, że wraz z rosnącymi możliwościami modeli, finansiści będą mogli delegować coraz więcej pracy agentom AI, a on prognozuje znaczące zmiany w branży finansowej do 2027 roku.
Zarówno OpenAI jak i Anthropic podkreślały, że bezpieczna autonomia nie polega na nakładaniu coraz więcej restrykcji. Zamiast tego efektywne podejście polegało na strategicznym umieszczeniu punktów kontroli i angażowaniu ludzkiego osądu w krytycznych momentach. To podejście reflektuje szerszą zmianę w myśleniu o bezpieczeństwie AI - zamiast blokowania możliwości, chodzi o inteligentne projektowanie systemów gdzie człowiek pozostaje w pętli tam gdzie to ma znaczenie.
Wykonawcy ze świata finansów obecni na konferencji poparli ten kierunek, uznając że agenci AI mogą zwiększać efektywność analityków oraz procesów biznesowych, pod warunkiem że będą mieć jasne granice i możliwość interwencji człowieka w kluczowych sytuacjach.