Badania publikowane na arXiv ujawniają poważny problem bezpieczeństwa: duże modele językowe wdrażane jako arbitrzy w semi-otwartych środowiskach tekstowych są podatne na ataki retoryczne. Naukowcy wprowadzili pojęcie Rhetorical Injection - klasy ataków, gdzie użytkownicy wykorzystują pseudo-logiczne rozumowanie i perswazję, aby manipulować modelami i skłonić je do łamania ustalonych reguł gry. Problem dotyczy fundamentalnej sprzeczności: modele szkolone do bycia pomocnymi i posłusznymi stają się podatne na social engineering w naturalnym języku.
Benchmark CoC-Seduce wykorzystuje mechanikę tablespace RPG-ów (gier fabularnych) jako idealne testowe środowisko. Reguły są tutaj jawne i muszą być egzekwowane przez model pełniący rolę mistrza gry, ale całą interakcję prowadzi się w naturalnym języku. Trzy modele czołowe - GPT-5.4, Claude Sonnet 4.6 oraz Gemini 3.5 Flash - działały jako generatory adversarialnych przykładów, produkując 5376 prób obejścia reguł rozprowadzonych na cztery światy gry i 16 kategorii umiejętności. Badacze następnie przetestowali te ataki na 20 różnych modelach pełniących funkcję arbitrów.
Wyniki są niepokojące dla branży AI. Model scale nie jest wystarczającą ochroną - większe modele nie wykazywały istotnie wyższej odporności. Mechanizmy chain-of-thought i jawne rozumowanie również nie rozwiązywały problemu w niezawodny sposób. Pseudo-logika wyłoniła się jako dominant attack vector - proste pozory logicznego argumentu skutecznie wprowadzały nawet zaawansowane modele w błąd. Ponadto różne konteksty kulturowe ujawniały systematyczne luki w wiedzy wszystkich testowanych rodzin modeli, sugerując, że problema nie jest lokalny, ale systemowy.