Modele AI stojące za popularnymi botami terapeutycznymi nie potrafią prawidłowo interpretować komunikacji nastolatków z generacji Alpha, nawet jeśli rozumieją używane słowa. Badacze przeanalizowali odpowiedzi Claude'a, GPT-4o i Llamy-3.1 na 64 autentycznych wyrażenia związane ze zdrowiem psychicznym zatwierdzone przez clinicianów oraz 75 wieloturowych rozmów z parami wersji w standardowym i Gen Alpha stylu. Wyniki pokazały konsekwentną lukę: systemy rozumieją wokabularię w 76-82 proc., ale tylko w 64-72 proc. przypadków prawidłowo oceniają ryzyko kliniczne - creating a 10-14 procentowy przepaść, którą u człowieka widać na poziomie zaledwie 3 procent.
Problemy pogłębiają się wraz ze wzrostem dwuznaczności wypowiedzi. Luka rośnie z 7 procent przy jasnych wypowiedziach do 18 procent przy stwierdzeniach obarczonych niejasności. Badacze zidentyfikowali sześć głównych fail patterns: sarcazm maskujący zagrożenie (różnica 29 pkt), akceptacja minimalizacji problemów (43 pkt), tendencja do interpretacji nieformalnego stylu jako mniej groźnego (24 pkt), dwuznaczne ryzyko (19 pkt), szybka zmiana znaczenia słów (19 pkt) i kontekstowa zależność. Ta architekturalna konsekwentność błędów oznacza, że problem nie jest wariantem, ale fundamentalnym ograniczeniem obecnych LLM.
Badania zyskują na znaczeniu w kontekście ponad 5 milionów nastolatków w USA regularnie szukających wsparcia psychicznego poprzez generatywne AI - bez prawidłowej oceny zagrożeń. Już kilka incydentów powiązano z tragicznym zakończeniami. Wymienia się konkretne aplikacje terapeutyczne oparte na tych modelach. Ponieważ młodzież celowo posługuje się hiperboli, ironią i szybkimi zmianami semantyki w komunikacji online, boty pozostają nieodpowiednio przygotowane do bezpiecznej interakcji z tą grupą wiekową.