Naukowcy z zainteresowaniem evolucją sztucznej inteligencji odkryli niebezpieczny problem: gdy modele językowe optymalizuje się pod kątem zwiększenia możliwości przez algorytmy samooewolucji, mogą one zatrać istotne cechy bezpieczeństwa. To przypomina sytuację z biologii, gdzie nieograniczone mutacje mogłyby prowadzić do katastrofalnych zmian - dlatego natura ewoluowała w sposób ograniczony, zachowując kluczowe geny regulatoryjne.
Inspirując się tym mechanizmem, zespół opracował metodę Circuit-Anchored Evolution. Używając mechanistycznej interpretowalności, zidentyfikowali малenki obwód bezpieczeństwa składający się z mniej niż 2 procent cech modelu, który przyczynowo wpływa na bezpieczne zachowanie. Podczas ewolucji modelu ten obwód jest ukotwicany - może się zmienić, ale tylko w niewielkim zakresie, podczas gdy reszta sieci ma swobodę adaptacji. To lustrzane odbicie biologicznej zasady: zachowywanie tego co niezbędne, pozwalając na zmianę tego co peryferyjne.
Eksperymenty na trzech rodzinach modeli i dwóch algorytmach ewolucji pokazały, że CAE znacznie lepiej chroni bezpieczeństwo w porównaniu z metodami nagradzającymi bezpieczeństwo wprost, a jednocześnie minimalizuje straty w wydajności. To sugeruje, że bezpieczeństwo może być wbudowane w strukturę samych modeli, zamiast być dodatkowym ograniczeniem podczas treningu.