Walmart niedawno ograniczył dostęp pracowników do Code Puppy, wewnętrznego asystenta AI wspieranego przez duży model języka. Pracownicy, którzy dotychczas byli zachęcani do swobodnego korzystania z narzędzia, muszą teraz radzić sobie z nowymi limitami. Sieć detaliczna nie podała szczegółowych informacji, ale powodem są znacznie wyższe niż oczekiwane wymagania computacyjne.
To doskonały przykład na to, co dzieje się, gdy ambicje AI spotykają się z rzeczywistością kosztów operacyjnych. Wiele dużych przedsiębiorstw eksperymentuje z wewnętrznymi asystentami AI, licząc na wzrost produktywności, ale szybko napotyka problemy skalowania. Jednym z nich jest infrastruktura — utrzymanie modelu działa 24/7 dla kilkudziesięciu tysięcy pracowników to niemały koszt energii i zasobów serwerowych.
Decyzja Walmartu sugeruje, że przedsiębiorstwa będą musiały być bardziej strategiczne w podejściu do AI. Zamiast dać wszystkim pełny dostęp, trzeba będzie wybierać przypadki użycia, limitować czy rozdzielać uprawnienia. To może oznaczać mniej demokratyczne podejście do AI w firmach, ale bardziej zbilansowane finansowo.