Accenture ma problem z rozliczalność zużycia tokenów w AI - okazuje się, że to nie inżynierowie napędzają główną część konsumpcji, lecz pracownicy z innych działów. Jak wynika z wycieków nagrań ze spotkań, jedną z największych marnotrawstw jest absurdalna praktyka konwersji plików PDF na obrazy, a następnie na pliki markdown. To jedno z największych "żarłaczy tokenów" w firmie, co pokazuje, jak niewiedzy w organizacjach na temat efektywnego korzystania z dużych modeli jest ogromna.
Zjawisko nazwane ironicznie "tokenpocalypse" odzwierciedla szerszy problem branży: wraz ze wzrostem kosztów infrastruktury AI i rosnącymi wydatkami na przetwarzanie tokenów, firmy zaczynają liczyć każdy wniosek do modelu. Okazuje się, że wiele procesów wdrażanych pospiesznie, bez głębszego zrozumienia, generuje niepotrzebne koszty. Pracownicy nieświadomi efektywności swoich działań bez problemów konwertują dokumenty w najbardziej bezproduktywny sposób.
To sygnał, że przemysł wkracza w fazę optymalizacji kosztów, a nie tylko eksperymentacji z nowymi technologiami. Firmy zaczną szkolić zespoły, wdrażać limity i monitorować zużycie tokenów podobnie jak tradycyjne metryki IT. Edukacja na temat tego, kiedy rzeczywiście warto używać AI, a kiedy stare narzędzia będą lepsze, stanie się kluczowa dla rentowności projektów z dużymi modelami.