Czy możemy zaufać LLM-om w ocenie nowości pomysłów badawczych?

Duże modele językowecoraz częściej są proponowane jako narzędzia wspomagające proces recenzji naukowej i oceny nowości pomysłów badawczych. Jednak badania pokazują, że LLM-y mają znaczące ograniczenia w tej roli - mogą być niedokładne, nierzetelne i podatne na błędy heurystyczne przy ocenie tego, czy dany pomysł jest rzeczywiście nowatorski.

Problem leży w naturze działania tych modeli. LLM-y uczą się na podstawie historycznych danych treningowych i mogą mieć trudności z zrozumieniem trendu prac nad danym tematem czy pogranicza pomiędzy konwencjonalnym a przełomowym podejściem. Mogą także być skłonne do przeceniania pomysłów, które brzmią znajomo z powodu częstości pojawienia się w danych treningowych, lub niedoceniania oryginalnych, ale mniej intuicyjnych podejść.

To badanie podkreśla konieczność ostrożności przy delegowaniu kluczowych decyzji naukowych sztucznej inteligencji. Podczas gdy LLM-y mogą być użyteczne jako pomocnicze narzędzia do przeszukiwania literatury czy podsumowywania pracy, nie powinny być jedyną podstawą oceny nowości badawczej. Eksperci-ludzie, którzy rozumieją kontekst historyczny, trendy w dziedzinie i granice możliwości, pozostają niezbędni w recenzji naukowej.