Cohere, kanadyjska firma specjalizująca się w dużych modelach języka, pokazała właśnie Command A+, gigantyczne narzędzie sztucznej inteligencji z 218 miliardami parametrów. To kolejny krok w wyścigu o coraz potężniejsze modele, ale z pewnym zaskoczeniem - Command A+ zbudowany na architekturze Mixture of Experts może działać efektywnie na zaledwie dwóch GPU H100, co to zmienia wszyscy aktualne standardy wydajnościowe. Model trafia bezpośrednio na pole gry autonomicznych agentów AI, czyli systemów, które mają coraz więcej swobody w samodzielnym podejmowaniu decyzji i wykonywaniu złożonych zadań. Dla konkurencji - zarówno OpenAI i Anthropic, jak i mniejszych graczy - to mocny sygnał, że gra się zacieśnia.
Mixture of Experts to nie nowość, ale w kontekście skali 218 miliardów parametrów robi znaczną różnicę. Zamiast uruchamiać wszystkie części sieci neuronowej jednocześnie, architektura MoE aktywuje tylko te moduły, które są potrzebne do rozwiązania konkretnego problemu - stąd oszczędność mocy obliczeniowej. To oznacza, że Command A+ przy znacznie mniejszej wydajności sprzętu może konkurować z modelami wymagającymi setki GPU do działania. Dla większości organizacji AI staje się tym bardziej dostępna, szczególnie dla firm, które nie mają budżetu na infrastrukturę porównywalna z metą czy Googlem.
Wdrażanie takich modeli u klientów Cohere tradycyjnie oznaczało budowanie skomplikowanych systemów decyzyjnych - teraz agent może działać znacznie taniej i samodzielniej. W praktyce może to oznaczać chatboty z większą autonomią, systemy obsługi klienta robią sama bez ciągłych zapytań do centralnej infrastruktury, czy analityczne agenty mogące wykonać długi łańcuch działań. To jest dokładnie ten kierunek, którym porusza się cała branża - od czystych chatów do rzeczywiście działających niezależnie systemów. Pytanie tylko, czy Cohere zdoła skalować to szybko dość efektywnie, zanim konkurencja ruszy podobnym tropem.