Samaya Sterling to model finansowy zbudowany przez dostrojenie Nemotron 3.5 Lightning od NVIDIA, któremu udało się pokonać Claude Fable 5.1 na benchmarku FrontierFinance przy zaledwie jednej jedenastej kosztu. Sterling osiągnął wynik 58,9 procent (60,6 procent w trybie high-effort) wobec 55,9 procent dla Fable 5.1, podczas gdy koszt per pytanie wynosi zaledwie 0,61 dolara w porównaniu do 6,89 dolara u konkurenta.
Architektura Sterling wykorzystuje mieszaninę ekspertów - model posiada 30 miliardów parametrów, ale tylko 3 miliardy są aktywne jednocześnie, co znacząco zmniejsza zapotrzebowanie obliczeniowe. Model działa jako agent badawczy, planuje badania, obsługuje narzędzia finansowe, zbiera dowody i przekazuje ustalenia osobnemu systemowi generującemu raporty. Całość mieści się na jednym akceleratorze H100 80GB w formacie BF16 z obsługą kontekstu 256K tokenów.
Klucz do sukcesu Sterliga leżał w podejściu do fine-tuningu i dostrojeniu systemu dla specjalistycznego zastosowania. Zespół Samaya zaadaptował swoją produkcyjną infrastrukturę finansową dla małego modelu, dostarczając szczegółowe wytyczne, które umożliwiały 3-miliardowemu modelowi osiąganie wydajności konkurentów z dziesiątkami miliardów parametrów. To praktyczne studium przypadku pokazuje, że w erze dużych modeli ogólnego przeznaczenia precyzyjnie wytrenowany mniejszy model może być kluczem do skuteczności w wąskim domenie, łącząc wysoką wydajność z niskimi kosztami operacyjnymi.