Zyphra opracowała nową metodę Tensor and Sequence Parallelism, która przyspiesza trening dużych modeli AI aż o 2,6 razy w stosunku do klasycznych podejść. Startup skupił się na optymalizacji sposobu, w jaki obliczenia rozprowadzane są na dostępnym sprzęcie - głównie na wielu kartach graficznych pracujących równolegle. Zamiast niezaradnie łączyć tradycyjne techniki paralelizacji, Zyphra projektował swoje rozwiązanie od zera, biorąc pod uwagę, jak konkretny hardware faktycznie pracuje. To pozwala na znacznie lepsze wykorzystanie mocy obliczeniowej i mniejsze straty na komunikacji między procesorami.
Dla branży to potencjalnie przełomowe odkrycie, bo trening zaawansowanych modeli językowych to kosztowna i czasochłonna operacja. Jeśli faktycznie można zaoszczędzić 60 procent czasu, a tym samym energii i pieniędzy, to przychylny signal dla wszystkich zajmujących się tworzeniem sztucznej inteligencji - od startupów aż po duże laboratorium badawcze. Efekt mnożnika 2,6x wskazuje, że nie jest to marginalna poprawa w szalę paru procent, ale rzeczywiście istotna zmiana w efektywności całego procesu.
Przyspieszenie treningu to jednak tylko połowa meritum; TSP Zyphry wspomaga także fazę inferencji, czyli gdy model już działa i generuje odpowiedzi dla użytkowników. To oznacza, że rozwiązanie może spowodować tańsze i szybsze uruchamianie modeli w produkcji, co przekłada się bezpośrednio na bardziej konkurencyjne usługi AI. Pytanie, czy inne firmy szybko przejmą tę technikę, pozostaje otwarte - ale jeśli rzeczywiście działa w praktyce, rynek będzie ciśnięty do zmian w sposobie organizowania obliczeń.