Dziennikarz portalu Wired testował nowe narzędzie Google Gemini do tworzenia avatarów AI i zbudował cyfrową kopię samego siebie - z zaskakującymi rezultatami. Wygenerowany klon nie tylko imitował jego wygląd, ale przejmował również charakterystyczne manieryzmy, sposób mówienia i specyficzną intonację głosu. To wyraźny dowód na to, jak daleko zaszła personalizacja w modelach AI i jak precyzyjnie potrafią one przechwycić indywidualne cechy użytkownika na podstawie dostępnych danych.
Eksperyment zwraca uwagę na szybkie postępy w technologiach generatywnych, ale jednocześnie otwiera puszkę Pandory wokół kwestii etycznych. Możliwość stworzenia wiernego cyfrowego bliźniaka człowieka ma oczywiste zastosowania - od marketingu i treści edukacyjnych po entertainment czy telemedycynę. Jednak wraz z tą potęgą idą realne zagrożenia: cyberprzestępcy mogliby tworzyć realistyczne deepfake'i do oszustw, nieuczciwe osoby mogłyby kopiować wizerunki celebrytów bez ich zgody, a opublikowane już klony mogłyby działać autonomicznie w internecie bez kontroli oryginału.
Google będzie musiał zatem odpowiedzieć na trudne pytania dotyczące bezpieczeństwa, prywatności i odpowiedzialności. Jak zabezpieczyć takie narzędzia przed zneużyciem? Kto odpowiada za działania cyfrowego avatara? Czy twórcy avatarów będą wymagać wyraźnej zgody użytkownika? Jakiś czas temu podobne obawy towarzyszyły pojawaniu się narzędzi do generowania wizerunku, a teraz problem staje się bardziej złożony. Historia pokazuje, że technologia bywa szybsza niż regulacje, ale ten przypadek mówi wprost - potrzebujemy ramowych wytycznych zanim takie narzędzia na szeroką skalę przejdą do masowego użytku.