Artykuł wyjaśnia siedem strategii routingu stosowanych w produkcyjnych modelach Mixture-of-Experts, które decydują, które ekspertyzy przetwarzają każdy token. Router przyznaje każdy token małemu podzbiorowi sieci eksperckich, oceniając wszystkich ekspertów i wybierając najlepszych kandydatów. Liczba aktywnych ekspertów waha się od 1 do 8 na token, przy czym rozmiary baterii ekspertów wahają się od 8 u Mixtral do 384 u DeepSeek-V4-Pro.
Strategią dominującą w 2026 roku jest sigmoid scoring z bezstratnym balansowaniem bias. To podejście eliminuje interfering gradienty i osiąga spektakularne wyniki - redukuje MaxVio z 0,72 do 0,04 przy zaledwie 1 miliardzie parametrów, jednocześnie obniżając perplexity. W przeciwieństwie do tego Expert Choice zawiera poważną wadę w modelach kauzalnych, przeciekając informacje z przyszłych tokenów, co powoduje anomalny spadek straty około 10 procent.
Rounting wykazuje największy wpływ w scenariuszach expert parallelism na wielu GPU, gdzie każdy wybór generuje ruch sieciowy all-to-all. Brak strategii routingu nie eliminuje potrzeby naprawy balansu obciążenia w time-servingu, co czyni wybór algorytmu rentowności strategicznym problemem dla obsługi produkcyjnej. Przewodnik szczegółowo omawia trade-offy między siedmioma podejściami, pomagając praktykom wybrać najlepszą strategię dla ich konkretnych wymagań dotyczących modeli i infrastruktury.