Google zaprezentował Gemma 4, nową generację otwartych modeli z rodziny Gemma, które natywnie obsługują tekst, obraz i audio. Zestaw obejmuje modele zarówno o architekturze dense'owej jak i Mixture-of-Experts w zakresie od 2,3 miliardów do 31 miliardów parametrów, stanowiąc znaczący skok w stosunku do poprzednich iteracji.
Kluczową innowacją jest wprowadzenie ujednoczonej, bezkoderowej architektury dla modelu 12B, który bezpośrednio przetwarza surowe fragmenty audio i obrazów bez oddzielnych etapów kodowania. Wszystkie warianty otrzymały ulepszone kodery wizualne i audio, a dodatkowo Gemma 4 integruje tryb myślenia - funkcję umożliwiającą modelom generowanie śladów rozumowania przed udzieleniem ostatecznej odpowiedzi. Ta cecha zbliża modele do ludzkiego procesu myślenia oraz potencjalnie zwiększa dokładność w złożonych zadaniach.
Udoskonalenia obejmują również optymalizacje pod kątem szybkości inferencji, zużycia pamięci i wydajności obliczeniowej, wraz z poprawą obsługi długich kontekstów. Zgodnie z raportem technicznym, Gemma 4 osiąga znaczący przeskok w wydajności na benchmarkach STEM, multimodalnych i długokontekstowych, a w zadaniach ocenianych przez ludzi konkuruje z większymi modelami frontier. Otwarta natura tych modeli powinna wspierać badania i wdrażanie multimodalnych systemów AI w szerszej ekosystemie.