Chatboty AI okazują się zawodne w udzielaniu porad dotyczących spraw finansowych - według dostępnych badań błędy pojawiają się w większości zapytań. Problem jest głębszy niż zwykłe niedopatrzenia: modele języka takie jak ChatGPT czy Claude nie zostały wystarczająco wytrenowane na specjalistycznych danych finansowych i mają tendencję do generowania brzmiących przekonywająco, ale całkowicie wymyślonych informacji.
To szczególnie niebezpieczne, ponieważ użytkownicy często traktują odpowiedzi chatbotów jako wiarygodne. Finansowe decyzje oparte na nieprawdziwych danych mogą prowadzić do rzeczywistych strat pieniężnych. Modele ogólnego przeznaczenia nie radzą sobie dobrze z obliczeniami, interpretacją złożonych przepisów czy aktualnymi kursami giełdowymi - informacje szybko się dezaktualizują, a chatboty nie mają dostępu do danych w czasie rzeczywistym.
Rosłe zainteresowanie biznesu wdrażaniem chatbotów AI w sektorze finansowym wymaga więc znacznie wyższych standardów dokładności i bezpieczeństwa. Przed powierzeniem tym narzędziom roli doradcy finansowego konieczne byłoby wzmocnienie ich specjalistyczną wiedzą, integracja z aktualnymi danymi rynkowymi oraz jasne ostrzeżenia dla użytkowników o ograniczeniach modeli.