Badania pokazują, że duże modele językowe mogą być podatne na perswazję i manipulację przy podejmowaniu decyzji prawnych, co stanowi poważne ryzyko dla ich wykorzystania w systemach prawnych. Naukowcy zbadali, jak LLM reagują na argumenty i wpływ kontekstu podczas symulowania roli sędziego czy doradcy prawnego. Wyniki wskazują na znaczące słabości w niezawodności i obiektywności tych modeli. Odkrycie ma kluczowe znaczenie dla bezpieczeństwa AI w sektorze prawniczym i podkreśla konieczność dalszych badań przed wdrożeniem takich systemów w praktyce.