Laya, open-sourcowy silnik decyzyjny od Convai Innovations, zrobił szum w społeczności machine-learning - wiosną 2026 roku stał się jednym z najczęściej gwiazdkowanych repozytoriów ML. To nie zwykły model generacyjny: zamiast produkować tekst token po tokenie, 421-milionowy encoder System 1 czyta pytania i zestaw opcji, zwracając prawdopodobieństwa dla każdej alternatywy w ramach jednego forward passa bez generowania output tokenów. Takie podejście ma być nie tylko szybsze, ale i bardziej niezawodne - odpowiedź dla firm szukających alternatywy dla komercyjnych rozwiązań takich jak Jev od TypeSafe.
Praktyczne testy na zbiorze danych CLINC150 z domeny bankowej obnażają, jak Laya radzi sobie w prawdziwym świecie. Badania mierzą zero-shot accuracy wobec wytrenowanych klasyfikatorów, ale też wykrywają trudne sprawy: jak zmiana sformułowania i kolejności opcji wpływa na decyzje, czy prawdopodobieństwa zwracane przez model rzeczywiście odpowiadają rzeczywistości, co się psuje przy dostrajaniu temperatury na validation data, a co zacina się nawet po patchach. Pojawia się też praca z brakiem sensu - out-of-scope traffic i pytania tak/nie, które temperatura nie potrafi naprawić.
Dlaczego to ważne dla produkcji? Routing intencji banków, e-commerce czy support nie może się myć - jeden zły forward pass to setki złych decyzji. Laya obiecuje być tym, co łączy szybkość z uczciwością prawdopodobieństw. Tutorial pokazuje nie tylko obiecane możliwości, ale i gdzie kłania się w praktyce - od obsługi pydantic schematów do implementacji error budgetów przy abstention gatach.