Rosnące koszty tokenów w modelach AI będą dla przedsiębiorstw bolączką przypominającą czasy, gdy ceny usług cloud były trudne do kontrolowania. Historia powtarza się - firmy znowu zmierzą się z szybko rosnącymi rachunkami za zasoby obliczeniowe, tym razem w kontekście AI. Tokeny stanowią jednostkę rozliczeniową dla każdego zapytania do modeli AI, a ich liczba może gwałtownie rosnąć w zależności od złożoności zadań.
Pierwsze lata era cloud computingu nauczyły nas, że brak transparentnych metryk kosztowych prowadzi do szoku przy sprawdzeniu rachunków. Podobny scenariusz czeka teraz sektory inwestujące w AI. Przedsiębiorstwa nagle odkryły, że infrastruktura cloudowa może się okazać drogowskazem do nieoczekiwanych wydatków. Obecnie historię powtarza się na większą skalę, ponieważ modele AI wymagają równie dużych zasobów, jeśli nie większych.
Najważniejszym problemem jest jednak brak standardowych metryk do mierzenia wartości uzyskanej z AI. Podczas gdy koszty tokenów są łatwe do zmierzenia i wywindowania, trudno ocenić, czy ta inwestycja przyniosła rzeczywiste korzyści biznesowe. To tworzy dysonans dla decydentów - wiedzą, ile płacą, ale nie wiedzą dokładnie, co za to otrzymują. Przedsiębiorstwa będą musiały opracować nowe podejścia do budżetowania i śledzenia ROI z inicjatyw AI, zanim ponownie znajdą się w spirali niekontrolowanych wydatków.