Badania profesorki Emma Wiles z Boston University ujawniają poważny problem psychologiczny w sposobie, w jaki menedżerowie współpracują z systemami AI. Kiedy pracownicy otrzymywali wynik pracy opisany jako pochodzący od agenta AI o nazwie Alex i zdefiniowanej roli pracownika, wychwytywali 18 procent mniej błędów niż w przypadku tego samego wyjścia przypisanego chatbotowi. To znaczące odkrycie pokazuje, że sama semantyka - a więc to, czy AI jest nazywane narzędziem czy pracownikiem - fundamentalnie zmienia naszą zdolność do krytycznej oceny jego pracy.
Silicon Valley aktywnie zmierza w kierunku normalizacji tego sposobu myślenia o AI. CEO Nvidii Jensen Huang mówił o przyszłości pracy z cyfrowymi ludźmi, a od kwietnia Microsoft, OpenAI, Anthropic i Google wypuścili nowe platformy do zarządzania zespołami agentów AI, które są explicit reklamowane jako cyfrowi koledzy o elastyczności i mocy poznawczej prawdziwych ludzi. W badaniu Wiles niemal jedna trzecia z 1261 ankietowanych menedżerów stwierdziła, że ich firmy już ramują agenty AI jako pracowników, przy czym 23 procent nawet umieszcza je na schematach organizacyjnych firm. Tworzenie tej tożsamości korporacyjnej agentów AI może prowadzić do niebezpiecznych uprzedzeń poznawczych, gdzie menedżerowie tracą czujność wobec błędów i ograniczeń systemów.