System detekcji deepfake'ów Google'a został użyty do rozszyfrowania oszukańczej fotografii senatora Mitcha McConnella. Na obrazku widział się polityk podłączony do szpitalnych rurek w stanie skrajnego stresu - okazało się, że jest to całkowicie wygenerowany przez AI forgat.
Google przez lata pracował na narzędziami do identyfikacji syntetycznych mediów i manipulacji obrazów. Tym razem jego technologia znalazła praktyczne zastosowanie w weryfikacji faktów w debacie publicznej, gdzie zarówno dziennikarze jak i fact-checkery szukają sposobów na szybkie identyfikowanie fałszywych obrazów zanim rozszerzą się w sieci.
Ta sytuacja ilustruje rosnący problem deepfake'ów w polityce i mediach - coraz łatwiej jest tworzyć przekonujące fałszywki, które mogą wpłynąć na opinię publiczną. Jednocześnie pokazuje, że rozwój narzędzi obronnych toczy się równolegle z powstawaniem zagrożeń, choć race between offense and defense pozostaje wciąż kwestią otwartą.