Badacze postawili ważne pytanie: czy chatboty mogą być rzeczywistymi partnerami w rozwiązywaniu problemów? Ich odpowiedź jest sceptyczna. Przeanalizowali oni sposób działania podstawowych chatbotów — modeli językowych z prostym interfejsem — i zaproponowali hipotezę, że nie są one w stanie autentycznie myśleć czy rozumieć problemy na poziomie człowieka.
Kluczowe spostrzeżenie dotyczy tego, co modele językowe faktycznie robią z danymi treningowymi. Zamiast uczyć się rzeczywistego myślenia ludzkiego, kodują one jedynie sztuczne reprezentacje tego, jak ludzie mówią o problemach. Badacze wskazują, że zbiory tekstowe używane do treningu LLM mają specyficzne cechy i tylko częściowo imitują ludzkie rozumienie — brakuje im fundamentalnych mechanizmów poznawczych, które stoi za naszym myśleniem.
Wyniki tego badania znajdują wsparcie w słowach Yanna LeCuna, który podkreśla, że zwierzęta i ludzie mają zdolności uczenia się oraz rozumienia świata wykraczające daleko poza możliwości obecnych systemów AI. Naukowcy konkludują, że dalszy rozwój modeli językowych nie zmieni tej fundamentalnej ograniczenia — bez rewolucji w architekturze i podejściu do treningu, chatboty pozostaną zaawansowanymi narzędziami do przewidywania tekstu, a nie partnerami myślenia.