Modele językowe wykorzystujące narzędziach zewnętrzne - takie jak bazy danych, kalkulatory czy wyszukiwarki - ponoszą znacznie wyższe koszty poznawcze niż mogliśmy wcześniej sądzić. Badacze z arXiv przeanalizowali, jak integracja takich funkcjonalności wpływa na zdolności agentów opartych na LLM, i wyniki okazały się zaskakujące: dodanie narzędzi obciąża model tak samo, jakbyśmy zmniejszyli jego efektywny rozmiar. To odkrycie rodzi pytanie, czy przewidywane korzyści z dostępu do zewnętrznych zasobów rzeczywiście rekompensują utratę zdolności obliczeniowych modelu.
Szczegółowa analiza wykazała, że gdy agent musi śledzić dostępne narzędzia, zarządzać kontekstem ich użycia i podejmować decyzje o tym, kiedy je wywołać, jego pamięć operacyjna zostaje na tyle obciążona, że umniejsza się zdolność do zapamiętywania informacji z konwersacji czy dokumentów. Efekt jest podobny do sytuacji, gdy człowiek próbuje równocześnie rozwiązywać złożony problem i pamiętać instrukcję obsługi narzędzia - obie czynności konkurują o te same zasoby uwagi. To szczególnie istotne w kontekście rozrostu agenów AI, które mają coraz większą liczbę narzędzi do dyspozycji.
Odkrycie ma praktyczne implikacje dla projektantów systemów AI. Oznacza, że nieograniczone dodawanie narzędzi do agenta nie zawsze poprawia jego wydajność - czasem nawet ją pogarsza. Naukowcy sugerują ostrożne podejście do wyboru, które funkcjonalności rzeczywiście potrzebne są danym agentom, zamiast tendencji do integrowania wszystkiego "na wszelki wypadek". Dla branży to przypomnienie, że w projektowaniu inteligentnych systemów liczy się nie ilość możliwości, ale ich inteligentna selekcja i optymalizacja.