Dostępna jest nowa wersja 0.33 narzędzia llm ze znaczącymi udoskonaleniami dla użytkowników pracujących z embeddings i modelami OpenAI. Kluczową zmianą jest uaktualnienie do biblioteki OpenAI Python 3.x oraz przejście na klienta httpx2 jako zależność HTTP.
Nowością jest również wprowadzenie parametru --key dla poleceń llm embed i llm embed-multi, a także analogiczne wsparcie w metodach Python EmbeddingModel.embed(), EmbeddingModel.embed_multi(), Collection.embed() i Collection.embed_multi(). Istniejące pluginy nadal pracują dzięki fallbackowi kompatybilności. Embedding models teraz używają tego samego schematu obsługi kluczy co zwykłe modele LLM.
Innocyjna ale praktyczna zmiana dotyczy możliwości powtarzania flagi -t/--template w llm prompt, co pozwala łączyć szablony w określonej kolejności. Dzięki temu można tworzyć szablony pakujące model z domyślnymi opcjami, a następnie kombinować je z innymi szablonami zawierającymi prompty. Dodatkowo modele Reasoning API otrzymały nową opcję reasoning_summary z wartościami auto, concise i detailed, użyteczną przy testowaniu różnych modeli oferujących własne implementacje funkcji reasoning.