Zespół badaczy zaproponował nowy sposób kontrolowania grokking-u - fenomenu, w którym sieci neuronowe nagle przechodzą od memoryzacji do generalizacji - wykorzystując certyfikowany, zróżniczkowany estymator algorytmicznej złożoności zamiast tradycyjnej metody blokowej.
Dotychczasowe podejścia do badania algorytmicznej dynamiki informacji opierały się na estymatorze zwanym Block Decomposition Method, który był funkcją schodkową i ograniczał analizę do metod różnic skończonych. Nowy estymator K_sF CDM pozwala na rzeczywiste zróżniczkowanie, co umożliwia wprowadzenie rachunku różniczkowego bezpośrednio w dynamikę uczenia. W praktyce działa jak regulator - podczas treningu powoduje przejściowy skok funkcji straty, który przyspiesza grokking w sensie opisu Levina (krótkość opisu versus czas).
Eksperymenty pokazują znaczące praktyczne korzyści. Bramka oparła na złożoności algorytmicznej poradziła sobie z udaremnionymi procesami treningowymi z 27 procent mniejszym wkładem niż tradycyjna bramka straty. Spośród testowanych sygnałów tylko złożoność mapy niezawodnie zaznaczała koniec przejścia. Autorzy odkryli też fascynujące zjawisko: odpowiedź na pole Occam przypomina nukleację - skokową zmianę stanu materii - bez wyraźnego reżimu liniowego. To sugeruje, że mechanizmy leżące u podstaw grokking-u mogą być bardziej złożone niż dotychczasowe modele linearyzowane.