Contrastive-LM opublikował CLM-8B - pierwszy otwarty model w nowej klasie Contrastive Language Models (CLMs), który zamiast generować tekst ocenia kandydujące akcje i zwraca prawdopodobieństwa ich poprawności. To alternatywa dla Jev, proprietary System One modelu od TypeSafe AI, którą CLM-8B przewyższa szybkością até 9 razy, przy wadze zaledwie 75 MB i możliwością uruchomienia na pojedynczym GPU NVIDIA z użyciem serwera vLLM opartego na Qwen3-8B.
Architektura CLM-8B opiera się na dwóch koderkach - stanu i akcji - trenowanych z użyciem bidirectionalnej straty InfoNCE. Każdy koder to zamrożony backbone Qwen3-8B plus trainowalna głowica projekcji z 20 milionami parametrów. Podczas treningu każdy stan jest przyciągany do faktycznie podjętej akcji i odpychany od pozostałych. Podczas inferencji CLM ocenia każdego kandydata iloczynem skalarnym embeddingów stanu i akcji, zamieniając wyniki w rozkład prawdopodobieństwa przez softmax.
Model obsługuje trzy typy pytań - Noul zwracający prawdopodobieństwo prawdziwości zdania, Choice wybierający opcję ze zdeklarowanego zestawu, oraz Score zwracający oczekiwany poziom na uporządkowanej skali. API CLM jest kompatybilne z TypeSafe - zapytania napisane dla Jev można bezpośrednio uruchomić przez klienta Python CLM-8B. To otwarcie rozwiązanie zmienia dostęp do technologii oceniania akcji, dotychczas zastrzeżonej, i pozwala na eksperymentowanie z routowaniem narzędzi i typowanymi odpowiedziami w beat-of-N systemach.