vLLM Semantic Router wydał d3-ultra, 27-miliardowy multimodalny model decyzyjny działający na licencji Apache-2.0, który fundamentalnie zmienia podejście do zadań klasyfikacyjnych i routingu. W odróżnieniu od tradycyjnych LLM-ów, d3-ultra nie generuje tekstu - zamiast tego czyta dane wejściowe raz i zwraca prawdopodobieństwa dla każdej możliwej odpowiedzi na każde pytanie.
Model zawiera 26.09 miliardów parametrów (architektura gęsta z 0.46B enkodera wizji) i obsługuje aż 131,072 tokeny kontekstu. Obsługuje cztery główne typy pytań: Choice (wybór z opcji), Yes/No (prawdopodobieństwo), Score (ocena na skali) oraz Box/Track (lokalizacja lub śledzenie w obrazach i wideo). Testowo uruchamiany na jednym AMD Instinct MI325X z wagami BF16, d3-ultra osiąga 97.8 procent dokładności na benchmarku SR-Text, plasując się jako najlepszy wśród sześciu modeli decyzyjnych zespołu.
To wydanie jest znaczące dla ekosystemu open-source, bo d3-ultra stanowi nową opcję dla deweloperów poszukujących wydajnych narzędzi do routingu, klasyfikacji, visual grounding i weryfikacji wideo bez konieczności generowania tekstu. Należy do rodziny Decision 3.0 obejmującej modele od 0.6B do 27B parametrów, co daje elastyczność w wyborze rozmiaru dla konkretnych przypadków użycia.