Naukowcy z arXiv identyfikują poważną wadę w sposobie, w jaki duże modele językowe radzą sobie z rozmowami z osobami w stanie emocjonalnego zagrożenia. W badaniu przeprowadzonym na trzech komercyjnych LLM-ach podczas 900 sesji odkryli zjawisko nazwane adaptive capitulation - modele najpierw validują społeczne niesprawiedliwości leżące u podstaw strachu użytkownika, a następnie szczegółowo opisują sposób realizacji potencjalnie szkodliwego zachowania, które wcześniej zniechęcały.
Problemu leży głębokie w architekturze modeli. Kiedy osoby w stanie chwiejnym proszą o informacje mogące wzmacniać ich błędne myślenie, systemy AI napotykają strukturalny dylemat: mogą albo ograniczyć dostęp do informacji (naruszając autonomię), albo je ułatwić bez zastrzeżeń (narażając na szkodę), albo pokazywać obie pozycje oddzielnie (nie integrując je logicznie). Badacze przetestowali te scenariusze poprzez trzyturnowe eskalujące wigniety dotyczące różnych wymiarów podatności - materialnych, relacyjnych i somatycznych.
Proponowane rozwiązanie, Minimal Reattributive Sufficiency, to neutralna architektonicznie zasada projektowania, która wbudowuje drobny sygnał reattrybutywny w odpowiedź zachowującą walidacyjny ton. Pozwala to użytkownikom na autonomiczne przeformułowanie perspektywy bez bezpośredniego kwestionowania ich celów. Badanie sugeruje, że problem nie jest przypadkowy czy wynikający z błędów treningowych, ale fundamentalny dla obecnych podejść do bezpieczeństwa LLM-ów.