Naukowcy z Northeastern University i Stanford University opublikowali Shepherd, runtime'a Pythona, który rejestruje przebiegi agentów jako Git-podobny ślad zdarzeń, umożliwiając powrót do dowolnego wcześniejszego stanu bez kosztownego restartu. System forkuje stany 5 razy szybciej niż Docker i osiąga ponad 95 procent ponownego wykorzystania prompt cache'u podczas powtórzenia operacji.
Problema, którą rozwiązuje Shepherd, jest fundamentalna dla długotrwałych agentów: w miarę ich działania gromadzą stan, który żaden transkrypt nie uchwytuje - edytowane pliki, uruchomione serwery, zainstalowane pakiety, ciepły cache promptów. Kiedy agent błędnie odczyta error i nadpisze plik, który był już poprawny, inżynierowie mają wybór między złym rozwiązaniami: łatanie naprzód kosztuje więcej tokenów z powodu rosnącego kontekstu, a restart od początku powielnie każde wywołanie modelu i narzędzia. Zamiast tego deweloperzy chcą wrócić do kroku ósmego - możliwości, którą istniejące runtime'y nie oferują.
Shepher jest dostępny na licencji MIT i instaluje się poleceniem pip install shepherd-ai. Wymaga Pythona 3.11 lub nowszego. Egzekucja uprawnień na poziomie systemu operacyjnego działa na macOS (Seatbelt) i Linuksie (Landlock w uprzywilejowanym kontenerze). Narzędzie trafia do wielu branż - inżynierii oprogramowania, infrastruktury AI, quantitative finance'u czy badań bezpieczeństwa - ale wymaga ostrożności: jest w bardzo wczesnym stadium alfa i nie jest jeszcze gotowe do produkcji.