Sakana AI zaprezentowała nową metodę treningową Error Diffusion, która całkowicie eliminuje backpropagację i problem transportu wag - mechanizmu wymagającego dokładnych transpozycji macierzy wag, który mózg nie może praktycznie implementować. Zamiast tego metodologia opiera się na lokalnych regułach uczenia, gdzie każda aktualizacja wagi zależy jedynie od trzech sygnałów: aktywności presynaptycznej, pochodnej aktywacji postsynaptycznej i globalnego znaku błędu.
Kluczem do osiągnięcia wysokiej dokładności był rozwój dwustrumieniowej architektury sieci, która rozdziela każdą warstwę na strumień pobudający i hamujący. To rozwiązanie jest zgodne z zasadą Dale'a z neuronauki, mówiącą że neurony są albo pobudające albo hamujące. Cztery macierze wag w każdej warstwie - między strumieniami - pozostają element-wise nieujemne, co zapewnia biologiczną wiarygodność i naturalnie kompatybilność z lokalnym uczeniem. Taka architektura pozwoliła zespołowi na trening sieci bez transportu transponowanych wag czy losowych macierzy sprzężenia zwrotnego.
Wyniki pokazują potencjał podejścia: sieć osiągnęła 96,7% dokładności na klasycznym benchmarku MNIST oraz 61,7% na bardziej wymagającym CIFAR-10. Chociaż te wyniki są poniżej standardów backpropagacji, stanowią znaczący krok naprzód dla bioplausible learning rules. Odkrycie sugeruje że głębokie sieci neuronowe mogą być trenowane w biologicznie wiarygodny sposób, co ma implikacje zarówno dla neuronauki jak i dla projektowania przyszłych systemów AI inspirowanych biologią.