Naukowcy zaprezentowali Counterfactual Neighborhood Risk Fields - nową strategię obrony modeli vision-language, która zmienia sposób myślenia o bezpieczeństwie tych systemów. Zamiast czego się obawiać poprzestały na rozdzielaniu wejść szkodliwych od bezpiecznych, CNRF konstruuje pary kontrfaktyczne zawierające odpowiadające sobie przykłady - jeden bezpieczny, jeden szkodliwy - a następnie analizuje różnice w reprezentacjach wewnętrznych modelu.
Klucz do tego podejścia leży w rozdzieleniu oszacowania ryzyka od pomiaru nieznajomości. Poprzednie metody często mylily nowe lub niezwykłe inputy z naprawdę niebezpiecznymi. CNRF rozwiązuje ten problem, patrzając osobno na wsparcie w otoczeniu reprezentacji i kierunki ryzyka. To umożliwia system podejmowanie bardziej precyzyjnych decyzji - zamiast blanketowego odrzucenia treści, może ją kierować do przeglądu lub oferować bezpieczne alternatywy.
Badania na trzech różnych modelach VLM i pięciu rodzinach jailbreakowych wykazały, że CNRF osiąga 86-89% makro-wskaźnika skuteczności obrony, jednocześnie zachowując zdolność systemu do wykonywania zwykłych, bezpiecznych zadań. Kluczowym ulepszeniem było wykorzystanie zapytań dopasowanych do referencji oraz utrzymanie zgodności między kontekstem a kierunkami ryzyka. Badania kontrolne potwierdziły, że elementy te istotnie poprawiały rankowanie ryzyka w scenariuszach z niskim wskaźnikiem fałszywych alarmów. Całe podejście stanowi przejście od prostego uczenia się granic szkodliwości do konstruowania rzeczywistych dowodów wspierających bezpieczne decyzje.