Naukowcy opracowali Mechanistic Shaping - ujednolicony framework umożliwiający kształtowanie modeli poprzez ich wewnętrzne reprezentacje podczas fazy treningowej. Metoda pozwala narzucać modelom specyficzne reguły dotyczące tego, jakie koncepty powinny ekspresować (np. bez treści szkodliwych) i na jakie koncepty powinny się opierać przy podejmowaniu decyzji, na przykład nie wykorzystywać płci kandydata podczas oceny CV.
Badania objęły modele z wielu dziedzin - wizja komputerowa, diagnostyka medyczna i przetwarzanie języka naturalnego - w skalach od małych sieci do modeli z 32 miliardami parametrów, trenowane przy użyciu różnych paradygmatów (klasyfikacja, SFT, DPO, GRPO). Mechanistic Shaping skutecznie redukuje niechciane zachowania modeli bez utraty wydajności na zadaniach głównych.
Krytycznym odkryciem jest to, że koncepty usuwane lub ograniczane podczas treningu mogą pozostać monitorowalne, ale naukowcy wykazali istnienie hierarchii monitorów i trzech głównych mechanizmów omijania kontroli: koncepty mogą się przesunąć w inne części sieci neuronowej, zostać całkowicie usunięte z konkretnej warstwy, lub utrzymać się jako nieliniowe kodowanie w statystykach wyższego rzędu. Wyjaśnienia tego zjawiska autorzy dostarczyli za pomocą konstrukcji kodów produktowych. To badanie ma znaczenie dla bezpieczeństwa modeli AI, ponieważ pokazuje zarówno możliwości eliminacji uprzedzeń i szkodliwych koncepcji, jak i potrzebę bardziej zaawansowanych technik monitorowania.