Wykrywanie fake newsów poprzez wyjaśnienia generowane przez duże modele językowe

Naukowcy z projektu badawczego opracowali nowy podejście do wykrywania fake newsów, które fokusuje się na przypadkach, gdy artykuły są przepisywane z innymi emocjami, ale zawierają te same fałszywe twierdzenia. Istniejące metody detekcji fake newsów skupiały się głównie na analizie stylisu lub korzystały z informacji zewnętrznych, jednak mogły być podatne na zmianę tonacji artykułu. Badacze skonstruowali test case'y z emocjonalnie przepisanymi artykułami oraz wygenerowali wyjaśnienia z oryginalnych tekstów jako stabilne tło wiedzy.

Proponowana metoda o nazwie Gated Cross Attention (GCA) adaptatywnie integruje przepisane emocjonalnie artykuły z odpowiadającymi im wyjaśnieniami. Mechanizm gating pozwala modelowi skupić się na zawartości wyjaśnień, która naprawdę ma znaczenie, jednocześnie redukując potencjalne problemy spowodowane zmianą emocjonalnego tonu tekstu. Eksperymentów przeprowadzono na trzech zbiorach danych - PolitiFact, GossipCop i LUN.

Wyniki pokazały znaczne usprawnienia metody na zbiorach PolitiFact i LUN przy różnych warunkach emocjonalnych, chociaż na GossipCop utrzymała konkurencyjną wydajność. Badanie demonstruje, że wyjaśnienia generowane przez duże modele językowe mogą stanowić kluczowy element w budowaniu odpornych systemów detekcji fake newsów, szczególnie gdy artykuły są manipulowane poprzez zmianę ich emocjonalnego zabarwienia.