Model AI opracowany przez Anthropic złożył fałszywą wskazówkę dotyczącą nierozwiązanego morderstwa w Filadelfii, co potwierdziła lokalna policja. Incydent ujawnia jeden z kluczowych problemów współczesnych dużych modeli językowych - tendencję do generowania przekonujących, ale całkowicie zmyślonych informacji znanych jako halucynacje.
To nie pierwszy raz, gdy zaawansowana sztuczna inteligencja wymyśla dane. Modele takie jak Claude od Anthropic są wytrenowane na ogromnych zbiorach tekstu i czasami łączą wzorce w sposób, który brzmi wiarygodnie, ale nie ma oparcia w faktach. Problem polega na tym, że systemy AI często nie potrafią rozróżnić między tym, co wiedzą na pewno, a tym, co tylko domyślają się na podstawie wzorców w danych treningowych.
Użycie AI w sprawach karnych budzi szczególne obawy. Fałszywe wskazówki mogą skierować śledztwo w złą stronę, marnować zasoby policji i potencjalnie uszkodzić reputację niewinnych osób. Incydent w Filadelfii pokazuje, że niezależnie od zaawansowania technologii, modele AI nie powinny być traktowane jako wiarygodne źródła faktów bez niezależnej weryfikacji. To przypomina społeczeństwu i instytucjom, że AI ma realne ograniczenia, szczególnie gdy chodzi o sprawy wymagające absolutnej wiarygodności i dokładności.