Anthropic opracowuje nowy system o nazwie FlashProve, który ma pozwolić komukolwiek zweryfikować autentyczność odpowiedzi AI. System umożliwi sprawdzenie, czy dana odpowiedź rzeczywiście pochodzi od modelu, za który się podaje, a nie od podróbki lub innego systemu.
Rozwiązanie odpowiada rosnącemu problemowi w branży - łatwo jest obecnie sfałszować output modelu AI, a liczba podrobnych chatbotów i fałszywych wariantów popularnych modeli rośnie. FlashProve miałby działać jako kryptograficzny dowód tożsamości, pozwalający na szybką weryfikację autentyczności bez konieczności zaangażowania dodatkowych systemów.
Taki mechanizm weryfikacji może mieć istotne znaczenie dla budowania zaufania do technologii AI, szczególnie gdy modele są używane w wrażliwych kontekstach biznesowych lub edukacyjnych. Może również pomóc w walce z dezinformacją generowaną przez fałszywe systemy podające się za legalne narzędzia AI.