Badacze udoskonalili sposób, w jaki sztuczna inteligencja przeszukuje swoją pamięć, aby udzielać dokładniejszych odpowiedzi na pytania. Nowy agent wykorzystuje uczenie wzmacniające - technikę, gdzie system uczy się poprzez próby i błędy - aby nauczyć się automatycznie wybierać najważniejsze informacje z przeszłości i wykorzystywać je do bardziej precyzyjnych odpowiedzi. To rozwiązanie adresuje fundamentalny problem dużych modeli języka, które niekiedy udzielają błędnych lub niepełnych odpowiedzi, ponieważ nie potrafią efektywnie sięgać do swojej wiedzy.
Innowacja polega na tym, że agent nauczył się nie po prostu przechowywać informacje, ale inteligentnie je odwoływać. Podczas procesu szkolenia system otrzymuje nagrody za wybór odpowiednich wspomnienia i karę za pomieszanie lub zignorowanie ważnych detali. W praktyce oznacza to, że jeśli użytkownik zapyta coś złożonego, model nie będzie już na ślepo generować odpowiedź, ale najpierw sprawdzi, które poprzednie informacje są kluczowe dla udzielenia prawidłowej odpowiedzi. Takie podejście jest szczególnie ważne w scenariuszach, gdzie błędy mogą mieć realne konsekwencje - na przykład w systemach medycznych, prawnych czy edukacyjnych.
Badania pokazują, że takie rozwiązanie znacznie poprawia wiarygodność modeli językowych. Agenci tego typu mogą znaleźć szerokie zastosowanie w chatbotach korporacyjnych, systemach obsługi klienta czy asystentach naukowych, gdzie dokładność jest kluczowa. To oznacza, że w niedalekiej przyszłości interakcje z AI mogą być bardziej niezawodne i bezpieczniejsze, a użytkownicy będą mieć większą pewność, że otrzymują informacje oparte na faktach, a nie tylko na domysłach modelu.