Przemysł sztucznej inteligencji opiera swoją wizję na głębokim nieporozumieniu dotyczącym natury ludzkiego umysłu - traktuje go jak zwykły komputer, biologiczną wersję maszyny Turinga. Demis Hassabis z Google mówi o mózgu jako "biologicznym przybliżeniu maszyny Turinga", a Elon Musk idzie dalej, deklarując, że "ludzie powinni po prostu myśleć o mózgu jako komputerze biologicznym". Ta analogia jest atrakcyjna dla inżynierów i naukowców, ale opiera się na fundamentalnym błędzie.
Historyczne słowa Norberta Wienera, ojca cybernetyki - "Myśl każdej epoki odbija się w jej technice" - pokazują, jak nasza technologia kształtuje naszą myśl. Przez ostatnie stulecie komputer definiował naszą wizję intelektu. Jednak człowiek jest niezmiernie bardziej złożony niż prosta maszyna przetwarzająca dane. Mamy ciała, emocje, intuicję, nieświadome procesy - całą sieć doświadczeń, którą nie da się zredukować do obliczeń. Gdy przemysł AI projektuje swoje systemy opierając się na tej uproszczonej wizji, ryzykuje budowanie narzędzi, które nigdy naprawdę nas nie będą rozumieć.
To nie jest purystyczne narzekanie filozofa. Praktycznie rzecz biorąc, błędne założenia o naturze inteligencji mogą prowadzić do AI systemów, które potrafią naśladować inteligencję na poziomie czysto obliczeniowym, ale całkowicie ignorują wymiary ludzkie - znaczenie, kontekst, etykę, rozumienie konsekwencji. Gdy te systemy coraz bardziej wchodzą w nasze życia, codziennie podejmując decyzje i wpływając na nasze społeczeństwo, ta luka może okazać się katastrofalna.