Naukowcy opublikowali DantinoX - otwartą bibliotekę JAX/Flax będącą pierwszą ujednoliconą platformą dla trzech paradygmatów generowania tekstu. Do tej pory każde z podejść - autoregresyjne dekodowanie, dyskretna dyfuzja maskowana i continuous flow-matching - funkcjonowało w oddzielnych kodach, co sprawiało że mierzone różnice w wydajności mogły wynikać z różnic implementacyjnych zamiast z samych paradygmatów.
DantinoX rozwiązuje ten problem poprzez użycie jednego modularnego backbonu Transformera dla wszystkich trzech metod. Zmiana paradygmatu generacji, mechanizmu attention czy topologii sprzętu wymaga teraz tylko zmiany w pliku konfiguracji. Pozostałe elementy - architektura sieci, tokenizer, strategia inicjalizacji i infrastruktura treningowa - pozostają spójne. Biblioteka obejmuje jednolite API dla treningowania, streamingowego wnioskowania i benchmarkowania.
To jest znaczący krok dla badań nad modelowaniem języka. Przez lata naukowcy spekulowali, które podejście jest najlepsze, ale porównania były zawsze obciążone różnicami implementacyjnymi. DantinoX daje narzędzie do rzetelnych badań porównawczych, które mogą pokazać rzeczywiste mocne i słabe strony każdego paradygmatu. To potencjalnie przyspieszy innowacje w generowaniu tekstu poprzez umożliwienie szybszego iterowania nad różnymi technikami bez obawy o artefakty wynikające z kodu.