Przełomy poprzez przejścia fazowe: uniwersalna zbieżność w złożonych systemach

Naukowcy z arXiv zaproponowali nową teorię unifikującą obserwację, że bardzo różne systemy — od sieci neuronowych po ewolucję biologiczną — niezależnie konwergują do podobnych rozwiązań wysokiego poziomu. Chodzi o zjawiska takie jak grokking (opóźnione uogólnianie się modeli), redyscyplinowanie tych samych metabolicznych szlaków przez ewolucję czy zbieganie się przepływów renormalizacji w fizyce. Pomimo radykalnie różnych szczegółów mikroskopowych, systemy odkrywają strikingly podobne struktury.

Hierarchical Emergence Framework (HEF) modeluje ten proces jako przejście fazowe w krajobrazie mechanizmów, gdzie sterującymi siłami są prawa termodynamiki i teorii informacji. Kluczowe jest wprowadzenie energetycznego progu krytycznego Ec, który dzieli systemy na dwie fazy: reżim eksploracji, gdzie konkuruje wiele mechanizmów, oraz reżim konwergencji, gdzie dominuje jeden, najniższych kosztów mechanizm. Badacze matematycznie udowodnili, że framework prowadzi do zbieżności do unikalnego fixed-pointu niezależnie od warunków początkowych.

Do testowania użyli 111 eksperymentów z transformerami na arytmetyce modularnej. Wyniki pokazały wyraźną empiryczną cechę przejścia fazowego: norma wag systematycznie osiąga szczyt przed grokingiem w 92% przebiegów. Znormalizowane krzywe dokładności zapakowały się na teoretyczną funkcję tanh z wysokim R-squared. To sugeruje, że HEF nie tylko elegancko wyjaśnia uniwersalność — ale potrafi ją też przewidzieć i obserwować w praktyce.