Okta pracuje nad zmniejszeniem wydatków związanych z kosztem tokenów w agentach AI poprzez wdrożenie filtrowania uprawnień do narzędzi Model Context Protocol (MCP). Problem, który firma nazwała "podatkiem od narzędzi", polega na tym, że każde wywołanie modelu AI obejmuje schematy, nazwy, opisy i parametry wszystkich dostępnych narzędzi - niezależnie od tego, czy agent je faktycznie wykorzysta. Te informacje zużywają tokeny już na etapie rozpatrywania dostępnych opcji, zanim agent podejmie jakąkolwiek akcję.
Rozwiązanie Okty polega na filtrowaniu listy narzędzi przed jej dostarczeniem do modelu, biorąc pod uwagę uprawnienia przypisane tożsamości agenta i powiązanemu użytkownikowi. Wewnętrzne modelowanie firmy wykazało, że w niektórych scenariuszach uprawnień liczba widocznych narzędzi spadła o więcej niż 90 procent, a koszty schematów narzędzi zmniejszyły się w podobnym stopniu. Choć Okta nie podała konkretnych liczb w tokenach lub dolarach, potencjał redukcji wydatków jest znaczący.
Problematyka zyskuje na znaczeniu, ponieważ serwery MCP - służące jako brama łącząca agentów AI z narzędziami i danymi - stają się coraz powszechniejsze. Popularne serwery MCP mogą udostępniać wiele narzędzi, a ich reprezentacja (ze schematem, nazwą, opisem i parametrami) pojawia się w prompcie podczas każdego wywołania modelu. W przypadku szeroko stosowanych serwerów MCP, które ekspozycji duża liczbę narzędzi, koszty te mogą się szybko sumować.