Firma, która reklamowała się jako dostawca w pełni napisanych przez ludzi recenzji peer-review dla badań medycznych, została nakryta na tym, że jej całą działalność napędzają algorytmy AI. Sprzedawała swoje usługi jako gwarantowaną ochronę przed problemami związanymi ze sztuczną inteligencją, a sama w całości zbudowana była na tej technologii.
To nie jest zwykły fałsz marketingowy - to fundamentalne naruszenie zaufania w ekosystemie publikacji naukowych. Peer-review stanowi krytyczną warstwę kontroli jakości w nauce. Kiedy recenzenci twierdzą, że są ludźmi, ale w rzeczywistości są AI, mogą przechodzić niedostatecznie przeanalizowane lub potencjalnie niebezpieczne badania. Szczególnie w medycynie takie skutki mogą mieć bezpośrednie i poważne konsekwencje dla pacjentów.
Ujawnienie pokazuje szerszy problem: brak przejrzystości i rosnący problem oszustw AI w świecie nauki. Czasopisma i platformy publikacyjne zmagają się z tym, jak weryfikować autentyczność treści w epoce zaawansowanych modeli językowych. To precedens, który powinien zmobilizować instytucje naukowe do wprowadzenia bardziej rygorystycznych procedur weryfikacji i lepszych narzędzi do detekcji treści generowanych przez AI.