NVIDIA wydała Kumo Tabular, rodzinę foundation modeli zamieniającą podejście do klasyfikacji i regresji na danych tabelarycznych. Model przyjmuje oznaczone wiersze jako kontekst i przewiduje nowe rzędy w jednym forward passu - bez treningu, tunowania hiperparametrów czy inżynierii cech. Dostępne są trzy wersje: Small, Medium i Large, licząc od 28 milionów do 215 milionów parametrów.
Kumo Tabular pracuje poprzez strukturę Transformera z column, row i in-context attention. Architektura opiera się na trzystopniowym pipeline'u: embedding wartości komórkowych (zarówno numerycznych jak i kategorycznych) za pomocą wyuczonych Fourier features bez potrzeby imputacji brakujących wartości, embedding wierszy przez column attention, oraz ostateczną predykcję. Model rozpowszechniany jest przez otwartą bibliotekę strukturyzowanej-data-models (SDM) Nvidii, która łączy również TabICLv2, TabFM od Google'a i KumoRelational dla danych wielotabelowych.
Model jest w pełni wdrażalny. Wagi dostępne są na licencji OpenMDW-1.1 zezwalającej na użytek komercyjny, a kod SDM wydany na Apache-2.0. Wymaga Python 3.11+ i PyTorch 2.7+, przy czym przykłady wskazują na GPU CUDA. To stanowi znaczący krok w kierunku praktycznych narzędzi dla in-context learning na tabelach, pokazując jak modele można efektywnie wdrażać bez tradycyjnego cyklu treningu.