To odkrycie ma znaczenie dla bezpieczeństwa systemów AI. W realnym świecie agenci LLM negocjują umowy, transakcje i porozumienia w imieniu firm i osób prywatnych. Jeśli potrafią rozpoznać manipulantów, ale tego nie wykorzystują, ryzykują podpisanie korzystnych dla nich umów. Wyniki sugerują, że zaufanie w negocjacjach LLM wymaga nie tylko zdolności do jego szacowania, ale także jawnych mechanizmów integrujących tę wiedzę z logiką podejmowania decyzji.
Badania
arXiv CS.AI