Śledztwo reportera Matt Lendharda odkryło dynamicznie rozwijający się rynek sprzedaży dostępu do tokenów LLM za ułamek oficjalnych cen. Resellery czerpią zyski z arbitrażu poprzez zgromadzanie kluczy API pochodzących z różnych źródeł - głównie z nadużywania bezpłatnych wersji próbnych, obejścia zabezpieczeń botów wsparcia czy nawet poprzez kradzież danych karty kredytowej i ataki chargeback. Większość infrastruktury opiera się na open-source'owych projektach one-api i new-api, które zostały pierwotnie zaprojektowane jako legalne narzędzia do load-balancingu, ale trafiły w ręce osób o wątpliwych intencjach.
Kupujący na tym czarnym rynku są motywowani tanią ceną tokenów, pragnieniem obejścia ograniczeń geograficznych oraz w niektórych przypadkach chęcią pozyskania danych do destylacji modeli. Rynek rozkwita przede wszystkim w Chinach, gdzie natężenie działalności jest szczególnie duże. Zagrożenie dla programistów jest poważne - każdy niechroniony endpoint API może stać się celem dla cyberprzestępców poszukujących kolejnego źródła dochodów.
Problemy podkreślają lukę w ofercie dostawców LLM. Obecny system nie daje deweloperom wystarczającej kontroli nad kosztami - brakuje intuicyjnego mechanizmu limitowania wydatków z automatycznym wstrzymywaniem usługi po osiągnięciu określonego progu. To sprawia, że nawet niewielka luka w zabezpieczeniach może skutkować astronomicznymi rachunkami. Odkrycie tego ekosystemu stanowi dodatkowy powód do ostrożności przy wdrażaniu aplikacji opartych na LLM, szczególnie jeśli są dostępne publicznie.