Google DeepMind pokazał DiffusionGemma - podejście do generowania tekstu, które zamiast tradycyjnego sposobu pracuje na zasadzie modelów dyfuzji. Zamiast generować słowa jedno po drugim, metoda ta pracuje iteracyjnie i osiąga przyspieszenie na poziomie 4x w stosunku do dotychczasowych rozwiązań.
Podejście opiera się na idei stosowanej z powodzeniem w generowaniu obrazów - zaczynamy od szumu i stopniowo go ulepszamy. W przypadku tekstu oznacza to, że model może pracować równolegle na wielu pozycjach jednocześnie, zamiast czekać na każde słowo. To fundamentalna zmiana w sposobie myślenia o generowaniu tekstu w sieciach neuronowych.
Dla praktyki oznacza to ogromne możliwości. Czterokrotne przyspieszenie to różnica między czekaniem na odpowiedź a jej natychmiastowością. To może zmienić doświadczenie użytkowników aplikacji AI, czy zastosowań w czasie rzeczywistym. Jeśli technika ta będzie skalowalna i utrzyma jakość odpowiedzi, mogłaby stać się nowym standardem w branży.