Google rozszerzył partnerstwa dla swojej technologii SynthID, która ma oznaczać zawartość wygenerowaną przez sztuczną inteligencję. Technologia watermarkingu ma potencjał do pomocy użytkownikom w identyfikacji prawdziwych treści na tle lawinowo rosnącej liczby mediów AI. Badanie Starling Lab, wspólpracy Stanford University i University of Southern California, ukazuje skalę problemu - od wynalezienia fotografii w 1826 roku do 1975 roku ludzkość wytworzył 1,5 miliarda obrazów, a generatywna AI dokonała tego w zaledwie 18 miesięcy. W tym roku Google ogłosił, że jego narzędzia zostały użyte do stworzenia ponad 100 miliardów obrazów i filmów AI w ciągu zaledwie kilku lat.
Część ekspercka branży nie uważa jednak, że sama technologia znaku wodnego jest wystarczająca do walki z dezinformacją. Chociaż SynthID jest stosunkowo odporny na ataki i próby usunięcia go z obrazów, oznaczanie zawartości to tylko jeden element rozwiązania. Problem leży w szybkości rozprzestrzeniania się treści AI w mediach społecznościowych i internecie - nawet jeśli treść będzie oznaczona, może rozprzestrzeniać się szybciej niż ludzie uświadomią sobie jej pochodzenie.
Googla nie jest jedynym źródłem treści AI, co dodatkowo komplikuje sytuację. Rozmaite firmy i open source'owe modele generują ogromne ilości mediów, z których tylko część może być opatrzona znakami wodnymi. Rzeczywiste rozwiązanie problemu dezinformacji AI będzie wymagać kombinacji podejść - od technicznych znaków wodnych, przez edukację mediów, aż do regulacji i odpowiedzialności twórców.