YouTube wprowadza nowe narzędzie, które pozwoli celebrytom automatycznie znajdować i żądać usunięcia deepfake'ów pokazujących ich osoby. Platforma, należąca do Google'a, zdecydowała się na ten krok wobec rosnącego problemu deepfake'ów - filmów generowanych przez sztuczną inteligencję, w których twarze znanych osób są nakładane na treści często kompromitujące lub wprowadzające w błąd. Nowe narzędzie ma działać jako system wczesnego ostrzegania, automatycznie monitorując zawartość i sygnalizując potencjalne przypadki nieautoryzowanego wykorzystania wizerunku.
Inicjatywa YouTube'a trafia na podatny grunt. Deepfake'i generowane za pomocą AI stały się w ostatnich latach poważnym problemem, szczególnie dla osób publicznych - od polityków po aktorów. Treści tego typu mogą być wykorzystywane do rozpowszechniania dezinformacji, tworzenia fałszywych materiałów kompromitujących czy nawet do oszustw finansowych. Dotychczas celebryci musieli samodzielnie szukać takich filmów i zgłaszać je platformie, co było czasochłonne i nieefektywne. YouTube'owe narzędzie ma zmienić tę sytuację, pozwalając na szybsze zidentyfikowanie i usunięcie problematycznych materiałów.
Jednak rozwiązanie YouTube'a ma też swoje ograniczenia i rodzi pytania o praktyczne zastosowanie. Nie wiadomo jeszcze, jak dokładnie algorytm będzie wykrywać deepfake'i ani czy system będzie dostępny dla wszystkich celebrytów, czy tylko dla wybranych. Dodatkowo pojawia się pytanie o granicę pomiędzy ochroną wizerunku a cenzurą, zwłaszcza w kontekście satiry, parodii czy komentarza publicznego. Platforma musi znaleźć balans między ochroną przed szkodliwymi materiałami a nieograniczaniem wolności twórczej.