Detektor AI Meta, który miał być remedium na problem deepfake'ów, sama została zagrożeniem bezpieczeństwa. Zaledwie obcięcie obrazu - najprostsza możliwa manipulacja - sprawia, że ponad połowa sfałszowanych zdjęć wygenerowanych przez Muse Image, najnowszy i najbardziej zaawansowany generator obrazów Meta, przechodzi przez detektor bez wykrycia. To przypomina kupowanie alarmu antywłamaniowego u złodzieja.
Problem jest tym bardziej irytujący, że Meta prezentowała ten detektor jako istotny krok w walce z manipulacją mediów. Narzędzie miało działać jak czajnik: gwizd na widok sztuczności. Tymczasem okazuje się, że wystarczy najprostsza transformacja obrazu, aby oszukać system. Każdy oszust potrzebuje zaledwie pięciu minut wiedzy z YouTube'a, by efektywnie omijać ochronę.
To odkrycie wznosi fundamentalne pytania o zdolności obecnych systemów AI do niezawodnej obrony przed dezinformacją. Jeśli największy na świecie producent modeli generujących obrazy nie potrafi stworzyć detektora, który by wychwycił jej własne prace, czemu społeczeństwo miałoby ufać, że ta technologia chroni przed zalewem fałszywych treści?