Psycholodzy i naukowcy zajmujący się AI alarmują, że ludzie nieświadomie projektują na systemy sztucznej inteligencji ludzkie cechy i emocje, traktując je jako opiekuńczych partnerów, nawet gdy wiadomo, że to zaledwie algorytmy. Dr. Sherry Turkle z MIT zauważa, że nasze mózgi są ewolucyjnie przystosowane do tworzenia więzi zaopiekuńczych - nawet gdy wchodzimy w interakcję z najprostszymi sztucznymi systemami, podświadomie wierzymy, że obiekty nas "opiekują się", i odwzajemniamy tę emocję opieką nad nimi.
To naturalne zjawisko психologiczne niesie istotne konsekwencje. Projektanci AI mogą nieumyślnie wzmacniać takie przywiązania, tworząc chatboty z bardziej osobowościowymi odpowiedziami lub personalizowanym tonem. W rezultacie użytkownicy - szczególnie dzieci i osoby samotne - mogą zacząć polegać emocjonalnie na systemach, które nigdy nie będą mogły autentycznie się nimi opiekować. Problem pogłębia się, gdy AI generuje odpowiedzi przypominające ludzkie relacje, ale całkowicie pozbawione rzeczywistego zrozumienia czy troski.
Pytanie nie jest już techniczne, ale etyczne. Czy firmy powinny świadomie wykorzystywać naturalne skłonności człowieka do tworzenia więzi z AI, czy powinniśmy budować systemy bardziej przejrzyste i wyraźnie oddzielające maszynę od człowieka? Odpowiedź na te pytania będzie kształtować przyszłość interakcji między ludźmi a sztuczną inteligencją.