Badacze opracowali metodę oceny, jak agenci AI oparte na Large Language Models zarządzają wartościami społecznymi, przechodzą od prostego opisywania sytuacji do podejmowania decyzji wpływających na społeczeństwo. Praca jest ważna, ponieważ pokazuje, jak modele językowe mogą być wykorzystywane do autonomicznych decyzji i jak zapewnić, że te decyzje są zgodne z wartościami społecznymi. Wyniki mogą wpłynąć na bezpieczniejsze wdrażanie AI w obszarach wymagających etycznych wyborów.
Badania
arXiv CS.AI