YouTube wprowadza nowe narzędzia do walki z deepfake'ami i nieautoryzowanym wykorzystywaniem podobizny celebrytów przez sztuczną inteligencję. Platforma rozszerza swoją technologię wykrywania podobieństwa, którą dotychczas stosowała głównie do ochrony praw autorskich muzyki, na portrety i wizerunki słynnych osób. Artystom oraz ich zespołom prawnym będzie teraz dostępny system, który ma automatycznie identyfikować i flagować treści zawierające ich podobizny wygenerowane przez AI bez zgody.
Inicjatywa odpowiada rosnącemu problemowi deepfake'ów w internecie, gdzie modele generatywne mogą tworzyć wiarygodne wideo lub zdjęcia celebrytów, często wykorzystując je do dezinformacji, oszustw lub zawartości o charakterze eksploatacyjnym. YouTube stoi pod presją regularnych skandali związanych z takimi materiałami i jego odpowiedzialne podejście może ustawić nowy standard w branży. Narzędzie ma działać podobnie do Content ID - systemu, który przez lata chroni muzykę - ale zamiast tworów muzycznych będzie skanować bazy obrazów i wideo powiązane z poszczególnymi osobami.
Dodatkowo platforma pracuje nad mechanizmami, które będą umożliwiać artystom zgłaszanie naruszeń, a jej zespoł wesprze procesy moderacyjne. Choć nie są jeszcze znane szczegóły dostępności i dokładnych funkcjonalności narzędzia, zaaplikowanie tej technologii do sfery wizerunku osób jest znaczącym krokiem w kierunku uporządkowania chaotycznego rynku deepfake'ów. Pozostaje pytanie, czy inne platformy jak TikTok czy Instagram pójdą podobnym tropem, aby zapobiegać rozpowszechnianiu się takich treści w swoich ekosystemach.