Sztuczna inteligencja staje się narzędziem do tworzenia pornografii deepfake'owej bez zgody ofiar i przypadkowego ujawniania prywatnych danych użytkowników. MIT Tech Review dokładnie przeanalizował dwa poważne problemy, które pokazują, jak szybko technologia generatywna może zostać przekierowana przeciwko nam - od syntetycznych materiałów seksualnych tworzonych bez wiedzy przedstawionych na nich osób, po modele AI, które "pamiętają" i potrafią ujawnić wrażliwe informacje z danych treningowych. Te zagrożenia już przestały być teoretyczne i coraz częściej pojawiają się w rzeczywistych incydentach, dotykając nie tylko celebrytów, ale zwykłych użytkowników internetu.
Problem pornografii deepfake'owej rośnie alarmująco szybko - detektywów i aktywistów zajmujących się bezpieczeństwem online niepokoją głównie niskie bariery wejścia. Wystarczy kilka zdjęć osoby i dostępne online narzędzia do stworzenia przekonującego materiału porno, który może zostać rozpowszechniony bez zgody. Równocześnie modele AI takie jak ChatGPT czy jego odpowiedniki czasami "wyciekają" dane, które były w zbiorach treningowych - numery telefonów, adresy e-mail, a nawet bardziej wrażliwe informacje. Problem polega na tym, że nawet najlepsze praktyki bezpieczeństwa nie zagwarantują całkowitej ochrony przed takim ujawnieniem.
Debata o regulacji AI nabiera tempa, ale zdaniem ekspertów prawa i etyki pozostajemy w tyle za rzeczywistością techniczną. Potrzebne są zarówno rozwiązania techniczne - lepsze narzędzia do detekcji deepfake'ów i bardziej bezpieczne metody treningowania modeli - jak i ramy prawne, które wyraźnie zabraniałyby wykorzystywania AI do tworzenia niechcianego materiału erotycznego. To jedna z najtrudniejszych kwestii przed przemysłem AI: bezpieczeństwo i etyka nie mogą być dodatkowymi funkcjami, muszą być wbudowane od początku.