Naukowcy opracowali BOHM - metodę, która bez żadnych dodatkowych kosztów obliczeniowych wyjaśnia, które komponenty złożonych systemów AI odpowiadają za konkretne wyniki. To rozwiązanie dla coraz bardziej zawiłych architektur, gdzie ze sobą współpracuje kilka modeli jednocześnie, tworząc tak zwane compound AI. BOHM umożliwia hierarchiczną atrybuację - czyli śledzenie wkładu każdego elementu systemu w ostateczny rezultat, co jest kluczowe dla zrozumienia, co się naprawdę dzieje wewnątrz takiego pipeline'u.
Złożone systemy AI, które łączą wiele modeli - na przykład LLM do przetwarzania tekstu, model retrieval do wyszukiwania kontekstu, model rankingowy do sortowania wyników - są coraz bardziej popularne, ale trudne do zdiagnozowania. Jeśli coś pójdzie nie tak, trudno wskazać, czy problem leży w pierwszym modelu, w drugiej warstwie, czy w sposobie komunikacji między nimi. Tradycyjne metody attribution wymagają dodatkowych obliczeń dla każdego kroku, co znacząco spowalnia cały proces. BOHM rozwiązuje ten problem, pozostając w ramach już wykonywanych operacji.
Znaczenie tej pracy wykracza poza akademię. W praktyce przedsiębiorstwa budujące zaawansowane systemy AI potrzebują precyzyjnego debugowania i audytu - szczególnie w zastosowaniach krytycznych, gdzie trzeba wyjaśnić model. Bez takiego narzędzia optymalizacja i poprawa wydajności compound AI staje się pracą na ślepo. BOHM otwiera nowe możliwości dla inżynierów ML i badaczy zajmujących się interpretowalnością, pozwalając im głębiej zrozumieć dynamikę systemów, które sami budują.