Naukowcy z MIT Media Lab odkryli niepokojący efekt uzależnienia: osoby wspierane chatbotami AI przy ocenie wiadomości i zdjęć były początkowo o 21 procent bardziej dokładne w rozpoznawaniu fake newsów, ale po czterech tygodniach samo-ocena bez pomocnika spadła aż o 15 procent poniżej poziomu sprzed eksperymentu. To przykład tzv. paradoksu uzależnienia od AI, który obserwuje się także w medycynie.
Problem tkwi w naturze dużych modeli językowych. Jak wyjaśnia Anku Rani, doktorantka z MIT Media Lab i współautorka badania, LLM-y to zaledwie modele statystyczne przewidujące następny token w sekwencji, a nie wszechwiedzące arbitra prawdy. Gdy ludzie przyzwyczajają się do "magicznych" odpowiedzi chatbota, zatracają motywację do samodzielnego krytycznego myślenia. Badacze odkryli również, że zakres może być nawet gorzejszy - około ćwierć uczestników zgłaszała, że czuje się lepiej w wykrywaniu fejków, mimo że faktycznie się pogorszyła.
Rozwiązanie może być jednak proste: styl interakcji z AI ma kluczowe znaczenie. Chatboty zadające pytania sokratejskie - angażujące użytkownika w rzeczywisty proces myślenia - prowadziły do lepszych samodzielnych umiejętności niż te podające bezpośrednie odpowiedzi. Oczywiście to wymaga wysiłku i zajmuje więcej czasu. To nie pierwsza obserwacja tego trade-offu między szybkością a głębokim uczeniem się, ale dla branży AI-chatbotów stanowi ważne ostrzeżenie: narzędzia, które nas wspierają, mogą nam też szkodzić, jeśli nie stawiają oporu.