Papież Franciszek od lat ostrzega przed zagrożeniami związanymi ze sztuczną inteligencją, ale teraz pojawia się ironia godna najlepszych filmów science-fiction: system do detekcji tekstu wygenerowanego przez AI sugeruje, że jego słynne wypowiedzi mogły być stworzone przez maszynę. Detektor tekstu generowanego przez AI przeanalizował publiczne oświadczenia głowy Kościoła katolickiego dotyczące ryzyk technologicznych i wskazał wysoki poziom podobieństwa do tekstów tworzonego przez algorytmy. To odkrycie podało w wątpliwość autentyczność niektórych jego publicznych wypowiedzi i rozpaliło dyskusję o wiarygodności narzędzi do badania pochodzenia tekstu.
Papież Franciszek konsekwentnie komunikuje stanowisko Watykanu wobec rozwoju sztucznej inteligencji, przestrzegając przed potencjalnymi zagrożeniami dla ludzkości, godności osoby i etyki. Jego oświadczenia na temat AI pojawiały się zarówno w oficjalnych dokumentach watykańskich, jak i w publicznych przemówieniach. Jednak obecne odkrycie raises fundamentalne pytania o niezawodność detektorów AI - mogą one generować fałszywe alarmy, szczególnie gdy analizują tekst z wyraźnym stylem lub powtarzającą się strukturą. Detektory te, oparte na modelach uczenia maszynowego, nie zawsze skutecznie odróżniają tekst napisany przez człowieka od tekstu generowanego algorytmicznie.
Ta sytuacja ilustruje szerszy problem stojący przed społeczeństwem w erze rozpowszechniania się generatywnych systemów AI. Narzędzia mające chronić nas przed dezinformacją mogą sami zostać źródłem zamieszania i niepewności. Ironia jest gorzka - papież ostrzega przed szkodą wyrządzaną przez AI, a detektory AI sugerują, że jego ostrzeżenia mogą pochodzić od AI. To powinno nas skłonić do zastanowienia się nad tym, jakie narzędzia rzeczywiście potrafimy zaufać w zbadaniu autentyczności treści w dobie zaawansowanej technologii.