Naukowcy z UC Berkeley opracowali LEANN, indeks wektorowy, który radykalnie zmniejsza wymagania pamięciowe systemów RAG poprzez obliczanie osadzeń (embeddings) w czasie zapytania zamiast ich przechowywania. W teście na 60 milionach fragmentów Wikipedii indeks zmniejszył się z 201 GB do zaledwie 6 GB, przy czym system utrzymuje dokładność wyszukiwania równą tradycyjnym metodom takim jak HNSW z 90-procentowym recall.
Problem, który rozwiązuje LEANN, polega na tym, że tradycyjne indeksy wektorowe zajmują czasem więcej miejsca niż dane, które indeksują. W badaniu naukowym autorzy pokazali, że korpus o wielkości 76 GB wymaga 173 GB osadzeń plus 15 GB dla grafu HNSW - w sumie ponad dwukrotnie więcej niż oryginalne dane. LEANN utrzymuje tylko przycinany graf i odbudowuje wektory na żądanie, co sprawia, że system może pracować na laptopach i stacjach roboczych. Testy na sprzęcie takim jak RTX 4090 czy Mac M1 Ultra pokazują praktyczną przydatność rozwiązania.
To podejście otwiera możliwości semantycznego wyszukiwania i retrieval-augmented generation dla danych osobistych bez konieczności posiadania drogiego, zaawansowanego sprzętu. LEANN jest zbudowany na bazie FAISS i dostępny jako oprogramowanie otwartoźródłowe na licencji MIT. Chociaż system wykazuje pewne ograniczenia, takie jak opóźnienie 44,80 sekundy dla niektórych zapytań na Macu, nagrodzenie pracą Best Research Paper na MLSys 2026 potwierdza istotność tego rozwiązania dla przyszłości efektywnego przetwarzania danych.