Robbyant, jednostka zajmująca się sztuczną inteligencją wcielonym w Ant Group, przeprezentował LingBot-VA 2.0 - pierwszy foundation model do manipulacji robotycznej zbudowany natywnie dla fizycznego AI zamiast adaptowanego z modeli do tworzenia cyfrowego.
Dotychczasowe modele video-action wykorzystują komponenty Originally projektowane dla tworzenia treści, co powoduje cztery główne problemy. Latenty kompresji VAE zachowują wygląd pikseli, ale niosą ograniczone informacje o strukturze fizycznej. Iteracyjne usuniętanie szumu nad tokenami wideo jest za wolne dla sterowania w pętli zamkniętej. Generyczne cele wideo nigdy nie nauczają, jak działania zmieniają świat rzeczywisty. Dodatkowo, architektury używają dwukierunkowej atencji, podczas gdy kontrola rozwijana jest ściśle do przodu w czasie.
LingBot-VA 1.0 dostosowywał ten stos do modelu przyczynowego. Wersja 2.0 idzie dalej, pretrenując przyczynowy transformer difuzji natywnie dla robotyki. W pierwszym etapie semantic visual-action tokenizer zastępuje kompresję-только VAE, dodając cele semantycznego wyrównania i ekstrakcji zmiennych przejścia między kolejnymi latentami. To podejście pretrenu całego stosu zamiast fine-tuningu istniejących komponentów to istotny krok ku generalistycznym modelom robota, które rzeczywiście rozumieją fizykę zamiast tworzyć wizualnie wiarygodny output.