Google wprowadził narzędzie umożliwiające użytkownikom tworzenie deepfake'ów własnej twarzy i głosu bez zaawansowanej wiedzy technicznej. Technologia, chociaż teoretycznie dedykowana projektom kreatywnym, budzi znaczące obawy dotyczące bezpieczeństwa tożsamości i potencjalnych nadużyć. To kolejny, a zarazem kontrowersyjny krok w popularyzacji generatywnej sztucznej inteligencji, która coraz bardziej trafia w ręce zwykłych użytkowników.
Dostęp do tego rodzaju narzędzi zmienia dynamikę branży AI. Dotychczas tworzenie wiarygodnych deepfake'ów wymagało specjalistycznej wiedzy i mocy obliczeniowej, co stanowiło pewną barierę dla potencjalnych sprawców oszustw czy ataków wizerunkowych. Teraz każdy, dysponując smartfonem i dostępem do internetu, może wygenerować przekonujący wizerunek lub nagranie swojej osoby w sytuacjach, w których nigdy się nie znalazł. Google argumentuje, że użytkownicy mogą wykorzystać technologię do zabawy, tworzenia treści dla mediów społecznych czy zaangażujących projektów edukacyjnych.
Jednak praktyka pokazuje, że narzędzia tego typu to miecz obosieczny. Deepfake'i mogą służyć tworzeniu fałszywych dowodów, manipulowaniu opinionem publiczną lub szantażowaniu osób. Brak jasnych, skutecznych regulacji sprawia, że odpowiedzialność spada głównie na ramiona gigantów technologicznych i użytkowników. Eksperci apelują o wprowadzenie obowiązkowych mechanizmów podpisu cyfrowego oraz ścisłe wytyczne dotyczące dozwolonego zakresu użytku, aby kontrolować rozprzestrzenianie się zafałszowanych materiałów i ochronić jednostki przed przywłaszczaniem wizerunku.