Obsesja wokół sztucznej inteligencji paraliżuje decyzje podejmowane w największych firmach świata, pozostawiając racjonalność na boku. Nik Suresh, konsultant pracujący z korporacjami, zebrał szereg przykładów tego zjawiska: dyrektor wykonawczy stworzył strategię technologiczną dla organizacji z przychodami powyżej 2 miliardów dolarów całkowicie skupioną na AI, nigdy wcześniej nie używając ChatGPT ani żadnego innego narzędzia tego typu. W innym przypadku inżynier z firmy pracował nad przepisaniem całego repozytorium Go na język Zig przy pomocy AI, głównie po to, by uzasadnić swoją przydatność w zespole.
Szcególnie fascynujący jest mechanizm, który napędza te irracjonalne decyzje. Klienci korporacyjni zgłaszają absurdalne obietnice, takie jak 100-krotny wzrost produktywności. Jeśli dostawcy narzędzi AI będą kwestionować te rozbieżne z rzeczywistością cele, mogą to być postrzegane jako atak na wiarygodność kierownictwa klienta - a to grozi utratą znaczących kontraktów. W rezultacie wszyscy uczestnicy systemu pozostają w milczeniu, umacniając absurdalne oczekiwania.
To tworzy niebezpieczny układ, w którym rzeczywiste możliwości AI pozostają zastępowane mitami, a decyzje biznesowe coraz bardziej oddalają się od rzeczywistości technicznej. Gdy strategie oparte są na fałszywych przesłankach, a pracownicy dziś pracują z nieracjonalnymi celami, konsekwencje mogą być poważne dla konkurencyjności i struktury organizacyjnej tych firm.