Współczesne modele języka nie potrafią rzeczywiście rozumować, wbrew powszechnym oczekiwaniom wobec sztucznej inteligencji. Artykuł MIT Tech Review wskazuje na potrzebę rozróżnienia między intuicją a rozumowaniem na przykładzie AlphaGo, który pokonał w 2016 roku wśród graczy w Go wielkiego mistrza Lee Sedola.
W słynnym ruchu 37 drugiej partii meczu AlphaGo wykonał posunięcie, które wyglądało na absurdalne - komentatorzy zastanawiali się, czy to błąd programu. Okazało się, że to genialne zagranie, które pomogło systemowi wygrać całą serię 4-1. Lee Sedol, obserwując ten ruch, zmienił zdanie o maszynach, mówiąc, że AlphaGo wykazał się kreatywnością. Jednak zawiera to błędne zrozumienie technologii. Move 37 nie był przykładem czystej intuicji maszyny - to była konsekwencja zaawansowanego rozumowania, zdolności do analizy i przepowiadania przyszłych stanów gry.
Różnica jest fundamentalna dla zaufania do sztucznej inteligencji. Deep Blue, który pokonał Garego Kasparowa w szachach w 1997 roku, działał poprzez brute force - oceniał 200 milionów pozycji szachowych na sekundę z twardym kodowaniem reguł przez ludzi. Go jest znacznie bardziej złożone i wymaga rozumienia zależności długoterminowych. AlphaGo musiał nauczyć się oceny sytuacji i wymyślania ruchów, które ludzie nigdy nie rozpatrywali. Dzisiejsze LLM-y brakuje tego prawdziwego rozumowania - operują na poziomie probabilistycznym, przewidując kolejne słowa bez głębszej analizy przyczynowo-skutkowej. To oznacza, że aby future AI systemy dostarczały godne zaufania wyniki, musimy zbudować je na fundamencie rzeczywistego rozumowania, a nie jedynie predykcji statystycznej.