System znaku wodnego SynthID firmy Google po raz pierwszy w praktyce sprawdził się w ujawnianiu deepfake'i. Wirus zdjęcie senatora Mitcha McConnella, pokazujące go w łóżku szpitalnym podłączonego do różnych rurek medycznych, rozprzestrzeniało się szybko na platformach Reddit i X, budząc obawy wśród użytkowników. Serwis faktu Snopes wykorzystał technologię Google'a do potwierdzenia, że obraz był całkowicie generowany przez AI.
SynthID to system Google'a, który dodaje niewidoczne dla człowieka znaki wodne do obrazów tworzonych przez modele AI. Znaki te mogą być później wykryte i potwierdzone, co stanowi obronę przed rozprzestrzenianiem się nieprawdziwych treści bez jasnego oznaczenia ich pochodzenia. W tym przypadku narzędzie zadziałało dokładnie tak, jak zaplanowano - pozwoliło zidentyfikować fałszywy obraz zanim zdążył wyrządzić więcej szkód.
Ten przypadek ma znaczenie dla przyszłości bezpieczeństwa cyfrowego. Wraz z rosnącą mocą generatorów obrazów AI, możliwość szybkiego wykrycia deepfake'i staje się kluczowa dla ochrony reputacji osób publicznych i ograniczania rozprzestrzeniania się dezinformacji. SynthID, pozostając długo w fazie testowania, wreszcie zdobywa realne dowody na swoją przydatność w walce z fałszywymi treściami w mainmapie.