OpenAI wprowadził Decisions API w publicznej wersji beta, zmieniając podejście do pracy z modelami językowymi poprzez oferowanie typowanych odpowiedzi zamiast generowania tekstu. API ocenia tekst, obrazy lub obie formy i zwraca strukturalne odpowiedzi, które kod może bezpośrednio wykorzystać do podejmowania decyzji.
Decisions API działa około 10 razy szybciej niż istniejący Responses API i kosztuje zaledwie 0,10 dolara za milion tokenów wejściowych, bez dodatkowych opłat za wyjście czy cache'owanie. Każde żądanie zawiera wspólne dowody oraz listę pytań podzielonych na trzy typy: predicate sprawdza warunki i zwraca prawdopodobieństwo od 0 do 1, choice wybiera jedną wartość z podanych opcji, a extraction wydobywa konkretne dane. Jedynym dostępnym modelem jest gpt-6-luna z oknem kontekstu 1 050 000 tokenów.
Rozwiązanie jest dostępne wyłącznie poprzez interfejs API OpenAI w wersji OpenAI-hosted, bez możliwości self-hostingu czy dostępu do wag modelu. OpenAI spodziewa się ogólnej dostępności w nadchodzących tygodniach. API adresuje powszechny problem - konieczność parsowania tekstowych odpowiedzi modeli na pożądane formaty - oferując natomiast bezpośrednie otrzymywanie odpowiedzi w strukturze zdefiniowanej przez użytkownika.