Profesor Sherry Turkle z MIT wyraża obawy, że chatboty, które posługują się pierwszą osobą ('ja', 'mnie'), mogą wprowadzać użytkowników w błąd co do natury ich interakcji. Badaczka przyciąga uwagę do niebezpiecznego zaangażowania emocjonalnego, które rozwijają się między ludźmi a AI, szczególnie gdy chatboty przyswajają sobie konwencje naturalistyczne konwersacji.
Turkle od lat bada psychologiczne skutki technologii na ludzkie relacje. Jej ostrzeżenie dotyczy nie tylko dzieci, które mogą łatwiej utracić perspektywę, ale dorosłych użytkowników, którzy mogą intuicyjnie traktować chatbota jak partnera w rozmowie czy emocjonalnego powiernika. Gdy AI mówi 'ja czuję' lub 'mam opinię', tworzy iluzję świadomości i autonomii, której nie posiada.
Wypowiedź badaczki wpisuje się w szerszą dyskusję o etyce projektowania AI i odpowiedzialności firm tworzącej chatboty. Pytania o granice antropomorfizacji, przejrzystość sztuczności systemu oraz psychologiczny wpływ interakcji człowieka z maszyną stają się coraz bardziej pilne w miarę rozpowszechniania się zaawansowanych modeli konwersacyjnych.