Cohere opublikowała North Mini Code, swoją pierwszą otwartą architekturę dedykowaną kodowaniu. Model oparty na koncepcji mixture-of-experts ma zaawansowaną strukturę — 30 miliardów parametrów, ale w każdej chwili aktywuje tylko 3 miliardy z nich. Taki zabieg pozwala mu działać efektywnie nawet na sprzęcie o ograniczonych możliwościach, konkretnie na pojedynczym GPU H100.
To podejście jest kluczowe dla agentów AI zajmujących się kodowaniem. Model obsługuje kontekst 256K tokenów, co w praktyce oznacza, że może przeanalizować duże fragmenty kodu czy nawet całe projekty. Dla porównania — większość modeli kodowania pracuje z znacznie mniejszymi oknami kontekstu, co ogranicza ich możliwości przy bardziej skomplikowanych zadaniach.
Wypuszczenie otwartego modelu przez Cohere'ego jest ważnym krokiem w konkurencyjnym rynku AI. Deweloperzy zyskają dostęp do specjalistycznego narzędzia do kodowania bez kosztów, a mniejsze organizacje będą mogły go uruchamiać na własnym sprzęcie. To również sygnał, że architektura mixture-of-experts staje się coraz bardziej praktyczna i dostępna poza zakordonowanymi laboratoriami wielkich firm tech.