Bezpieczeństwo dużych modeli języka opartych na mechanizmach odmowy pozostaje warstwowe i podatne na obejście. Naukowcy wykazali, że ataki określane mianem semantic camouflage - gdzie szkodliwa intencja jest ukrywana w bezpiecznym otoczeniu narracyjnym - skutecznie pomijają standardowe zabezpieczenia wejścia i wyjścia modeli. Kluczowym odkryciem jest istnienie intent horizon, czyli punktu krytycznego w głąb sieci (zazwyczaj 15-20 procent wszystkich warstw), gdzie reprezentacja szkodliwego zamiaru modelu zanika podczas kontekstualizacji pytania w bezpieczny scenariusz.
Badanie ujawniło asymetrię w detekcji: podczas gdy reprezentacje ataków kamuflażowych w warstwach końcowych są matematycznie nieodróżnialne od bezpiecznych zapytań z wskaźnikiem detekcji poniżej 20 procent, reprezentacje w warstwach wstępnych zachowują wyraźny harm signature. To bezpośrednio wskazuje, że pretraining modeli zachowuje głęboką wiedzę o szkodliwych konceptach, którą mechanizmy alignment nie usuwają, lecz jedynie maskują na powierzchni.
Proponowana obrona Latent Intent Verification to lekki system sondowania, który analizuje trajektorie aktywacji ukryte w warstwach sieci. Testy na zbiorze PKU-SafeRLHF wykazały, że LIV przewyższa standardowe guardrails o margines 20-50 procent we wszystkich testowanych architekturach, efektywnie neutralizując kamuflaż. To odkrycie ma fundamentalne znaczenie dla bezpieczeństwa LLM, pokazując, że właściwa obrona musi sięgać głęboko w strukturę modelu, a nie polega wyłącznie na kontrolach końcowych.