Ahmad Osman, twórca open source'owego narzędzia Osmantic do wdrażania systemów AI, argumentuje że dostęp do lokalnie działającego AI bez zależności od dostawców jest istotny dla niezależności technologicznej. Na konferencji AI Engineer World's Fair prowadził warsztaty pokazujące szybki postęp w dziedzinie lokalnych LLM-ów i agentów uruchamianych na stanowiskach pracy.
Głównym przesłaniem Osmana jest, że luka między modelami open-source a zamkniętymi modelami frontier konsekwentnie się zmniejsza. Ta zmiana jest szczególnie ważna dla ekosystemu AI, ponieważ większość systemów lokalnych AI bazuje na otwartych modelach. Oznacza to, że organizacje mogą coraz bardziej polegać na rodzimych rozwiązaniach bez konieczności płacenia za drogie API dostawców typu OpenAI czy Anthropic.
Zainteresowanie warsztatami Osmana sięgało daleko poza grono entuzjastów sprzętu. Uczestnicy to byli zarówno studenci wybierający pierwsze maszyny zdolne do AI, jak i kierownicy z dużych korporacji rozważający routing modeli, prywatną infrastrukturę i pełną kontrolę nad obliczeniami AI. Sesje pokazały spektrum możliwości - od uruchamiania modeli na smartfonach i laptopach po dedykowane GPU workstacje i systemy enterprise-grade, sygnalizując że lokalne AI przestaje być jedynie niszowym hobby i staje się poważną alternatywą dla biznesu.