Artykuł pozycyjny z arXiv argumentuje, że systemy AI pełniące rolę doradców decyzyjnych, delegatów lub niezależnych decydentów powinny być zakorzenione w ludzkiej logice i sposobie myślenia. Badacze twierdzą, że zwłaszcza w wysokiej stawki sytuacjach decyzyjnych kluczowe jest osiągnięcie wyrównania kognitywnego - sytuacji, w której AI nie tylko podejmuje prawidłową decyzję, ale robi to w sposób zrozumiały dla użytkownika i oparty na podobnej logice.
Badania przytoczone w pracy pokazują, że wyrównanie kognitywne rzeczywiście poprawia zarówno zaufanie do systemu, jak i jego zrozumienie. Nowe dane sondażowe ujawniają, że wielu użytkowników postrzega takie wyrównanie jako niezbędne, szczególnie gdy uzasadnienie AI dla danego osądu lub działania ma znaczenie praktyczne. Oznacza to, że nie wystarczy, by system podawał dobre odpowiedzi - musi je wyjaśniać w sposób, który rezonuje z ludzkim sposobem myślenia.
Autorzy wskazują na znaczną lukę między istniejącymi metodami wyrównania AI a tym, co jest potrzebne do osiągnięcia pełnego wyrównania kognitywnego. Niezbędna jest nowa agenda badawcza skupiona na tym problemie. Ich teza brzmi: niedopasowanie kognitywne stanowi poważną przeszkodę w adopcji AI w wielu planowanych zastosowaniach, a jego rozwiązanie jest kluczowe dla budowania systemów, na które użytkownicy zarówno chętnie, jak i uzasadnienie mogą się polegać.