Naukowcy opracowali metodę opartą na sparse autoencoderach do interpretacji mechanistycznej foundation models trenowanych na danych EEG (elektroencefalografia). Badanie stanowi pierwszy krok w kierunku zrozumienia, jak neuronowe modele głębokie przetwarzają sygnały mózgowe i identyfikują ważne cechy neurofizjologiczne. To ważne dla przejrzystości sztucznej inteligencji w zastosowaniach medycznych i badawczych, gdzie zaufanie do wyjaśnialności modeli jest kluczowe.
Badania
arXiv CS.LG