Naukowcy opracowali nową metodę interpretacji transformerów BiomeGPT wykorzystując Signed Integrated Gradients zamiast analizy wag attention, co pozwala na głębsze zrozumienie, jak model podejmuje decyzje na temat zdrowia mikrobiomowego. Problem z dotychczasowym podejściem polegał na tym, że wagi attention są zawsze nieujemne, co uniemożliwia rozróżnienie między mikrobami wspierającymi choroby a wspierającymi zdrowie. Dodatkowo, te wagi działają dopiero po połączeniu cech, zaciemniając wpływ poszczególnych elementów - gatunku i stężenia - na wynik.
Proponowana metoda wykorzystuje Integrated Gradients wraz ze zmodyfikowaną bazową linią T' = S + A_0, która zachowuje tożsamość gatunku jako ustaloną współrzędną biologiczną, izolując jednocześnie wpływ zmian stężenia. To podejście pozwala na wyraźne rozgraniczenie między sygnałami patogennym a ochronnym w decyzjach klasyfikacyjnych. Naukowcy pokazują, że gradient-based attribution odkrywa relacje kierunkowe między gatunkami a zmianami ich liczebności, które są całkowicie niewidoczne dla tradycyjnych niesygnowanych wag attention.
Badacze dodatkowo rekomendują drugiego rzędu Integrated Hessians do głębszej diagnostyki mikrobiomowych interakcji. To podejście ma potencjał do znacznego poprawienia interpretacyjności modeli uczenia maszynowego w bioinformatyce, szczególnie w kontekście diagnostyki chorób zakaźnych i dysbioz mikrobiomowych.