Otwarte modele językowe są coraz częściej dostrajane do konkretnych zastosowań, ale każda taka adaptacja wiąże się z ryzykiem: model może stracić bezpieczeństwo i stać się bardziej podatny na ataki. Badacze borykają się z problemem, bo bezpieczeństwo trzeba odbudowywać za każdym razem, gdy dodamy nowe dane czy aktualizujemy model.
SafeGene zmienia podejście. Zamiast traktować bezpieczeństwo jako coś, co naprawia się w konkretnym modelu, naukowcy stworzyli uniwersalny adapter bezpieczeństwa. Działa jak osobny moduł, który można przykleić do modelu niezależnie od jego zadania. Adapter powstaje na podstawie różnic między modelami bezpiecznymi a tymi, które utraciły bezpieczeństwo — a potem jest dostosowywany do różnych zadań. Wymagane są tylko nieliczne przykłady do kalibracji.
Testy pokazują, że modele wzmocnione SafeGene znacznie mniej chętnie generują szkodliwe odpowiedzi, jednocześnie utrzymując wydajność w swoich zadaniach. To ważne, bo bez takiego narzędzia każda aktualizacja modelu to potencjalny powrót do bezpiecznego poprzednia wersja albo kompromis między bezpieczeństwem a użyteczność. SafeGene daje pracownikom narzędzie, które rozwiązuje obie kwestie naraz.