Artykuł zwraca uwagę, że mimo spektakularnych postępów w modelach językowych i agentach AI, największe innowacje w ostatnich miesiącach dotyczą oprogramowania zarządzającego tymi modelami, a nie ich samych. To zasadnicza zmiana perspektywy - zamiast wyścigu o coraz większe i bardziej zaawansowane LLM-y, focus przesunął się na to, jak efektywnie integrować AI z rzeczywistym procesem tworzenia kodu.
Cat Wu, szef produktu Claude Code od Anthropica, wyjaśnia podejście swojej firmy do budowania tej warstwy zarządzającej. Chodzi o to, by system potrafiła dostarczać modelowi właściwy kontekst w odpowiednim momencie - czy to fragmenty kodu, historię commitów, czy dokumentację projektu. Innymi słowy, problem nie polega na tym, żeby model wiedział wszystko, ale żeby wiedział właściwe rzeczy w danej chwili.
To ma konkretne implikacje dla każdego dewelopera. Narzędzie, które inteligentnie organizuje kontekst, będzie zdecydowanie bardziej użyteczne niż surowy dostęp do mocnego modelu. Tak jak grep jest ograniczony bez zrozumienia struktury projektu, tak samo AI asystent bez inteligentnego harnesu pozostaje narzędziem ogólnym, a nie specjalistycznym. To tłumaczy, dlaczego Anthropic i inne firmy inwestują teraz w architekturę i zarządzanie workflow'em bardziej niż w sam fine-tuning modeli.