Amerykańskie władze stanęły wobec rosnącego problemu: w internecie pojawiają się syntetyczne głosy zmarłych pilotów, generowane za pomocą technologii AI. Rząd USA zaczął podejmować działania mające na celu powstrzymanie tego zjawiska, gdyż łatwo dostępne narzędzia do syntezy mowy stanowią poważne zagrożenie dla bezpieczeństwa i mogą być wykorzystywane do oszustw oraz rozpowszechniania dezinformacji. Problem polega na tym, że współczesne systemy AI potrafią tworzyć niezwykle przekonujące deepfake'i głosowe bez jakiejkolwiek zgody osób, których głosy są odtwarzane - co otwiera furtkę do nieuczciwych praktyk i manipulacji.
To zagadnienie wykracza poza zwykłą kwestię prywatności. Syntetyczne głosy mogą być wykorzystane do sfałszowania materiałów archiwalnych, stworzenia fałszywych nagrań rozmów czy przekazów informacyjnych, a to wszystko z potencjalnie poważnymi konsekwencjami dla reputacji zmarłych osób i ich rodzin. W przypadku pilotów sprawa jest szczególnie wrażliwa - ich głosy mogą być zniekształcane w materiałach, które byłyby wykorzystywane do dezinformacji dotyczącej procedur lotniczych czy bezpieczeństwa w powietrzu.
Inicjatywa rządu USA pokazuje, jak szybko technologia voice synthesis zmienia się z narzędzia wspierającego dostępność i komunikację w potencjalny instrument do nadużyć. Odpowiednia regulacja i edukacja społeczeństwa stają się konieczne, aby zapobiec wykorzystywaniu AI do tworzenia oszukańczych treści, zwłaszcza gdy chodzi o osoby publiczne lub już nieżyjące. To jedno z wielu wyzwań, jakie stoją przed rządami i platformami internetowymi w erze, gdy technologia generatywna staje się coraz bardziej zaawansowana i dostępna.