Badacze z nowej publikacji na arXiv ujawnili, że metodologia oceny sparse autoencoderów ma większy wpływ na wyniki niż rzeczywiste różnice między architekturami modeli. Pracując z modelami Pythia-160M i Apertus-8B oraz testując cztery różne metryki (simulation, detection, fuzzing, purity), wykazali, że standardowa procedura oceny - gdzie jeden model wyjaśnia cechy a inny ocenia wyjaśnienia - wciąż zawiera zbyt dużo zmiennych.
Badania
arXiv CS.LG