Meredith Whittaker z Signal upomina użytkowników: chatboty AI nie są przyjaciółmi, nie są świadomymi bytami i na pewno nie są sentientnym rozmówcami. Apel ten pada w momencie, gdy coraz więcej osób spędza czas rozmawiając z zaawansowanymi modelami jak ChatGPT czy Claude, traktując je czasem jak rzeczywistych towarzyszów.
Problem polega na tym, że współczesne chatboty są coraz lepsze w naśladowaniu empatii, zainteresowania i osobowości. Ta naturalność interakcji może prowadzić do niebezpiecznej antropomorfizacji – przypisywania sztucznej inteligencji ludzkich cech, które po prostu nie ma. W rzeczywistości są to modele statystyczne, wyuczone na bilionach tokenów tekstu, bez świadomości, emocji czy rozumienia. Mogą generować tekst, który brzmi jak wypowiada go przyjaciel, ale za tym nie stoi rzeczywista troska czy zrozumienie.
Whittaker podkreśla, że pamiętanie o tej granicy ma praktyczne znaczenie dla bezpieczeństwa psychicznego użytkowników. Kiedy traktujemy chatbota jak przyjaciela, łatwo ujawniamy mu intymne szczegóły, kwestie osobiste czy dane wrażliwe. Ponadto może to prowadzić do niezdolności rozróżniania między interakcją sztuczną a rzeczywistą, szczególnie u młodych ludzi. To ostrzeżenie jest częścią szerszej dyskusji o odpowiedzialnym użytkowaniu AI i konieczności krytycznego myślenia w stosunku do nowych technologii.