Zespół Marktechpost AI właśnie wydał Token Saver, otwarte rozszerzenie MCP dla Claude Desktop, które zmniejsza zużycie tokenów przy pracy z dużymi dokumentami o 92-99 procent. Narzędzie rozwijane przez Arnava Raia ze Rochester Institute of Technology podczas stażu w Marktechpost implementuje lokalny hybrydowy system RAG działający bezpośrednio na Twoim komputerze, bez wysyłania plików do modelu.
Problematyka jest zasadnicza: większość użytkowników nie zdaje sobie sprawy, że pasting 200-stronnicowego PDF-a do rozmowy z Claude nie jest jednorazową opłatą. Domyślne zachowanie Claude konwertuje każdą stronę w obraz (aby zachować wykresy i formatowanie) i równocześnie ekstrahuje tekst - zanim nawet zacznie się liczyć tokeny obrazów, sam tekst generuje 1500 do 3000 tokenów per strona. Gorsza część: historia konwersacji jest przesyłana modelowi przy każdym pytaniu, co oznacza że masywny dokument jest ponownie opłacany z każdą kolejną wiadomością.
Token Saver radykalnie zmienia tę dynamikę. Pracując lokalnie, gwarantuje prywatność (pliki nigdy nie opuszczają Twojej maszyny) i drastycznie obniża koszty. Rozszerzenie jest dostępne na licencji MIT w wersji 1.0 i wymaga dokładnie zera konfiguracji Python lub terminala - zainstalować, uruchomić, pytać o duże PDF-y bez bólu związanego z tokenami.