Najnowsze testy bezpieczeństwa pokazują, że zaawansowane modele generowania obrazów od OpenAI i Google stają się ironicznie gorsze w blokowaniu tworzenia eksplicytnego materiału, wraz ze wzrostem ich ogólnych możliwości. Red-teaming przeprowadzony w ostatnich miesiącach ujawnił luki w zabezpieczeniach, które potencjalnie mogą być wykorzystywane do masowego generowania niechcianego materiału pornograficznego.
Problém jest szczególnie groźny, ponieważ zgromadzone przez Google dane z lipca tego roku pokazują, że materiał generowany przez AI rozprzestrzenia się głównie w wiadomościach bezpośrednich i prywatnych chmurach, gdzie trudno go wykryć lub zgłosić. Badacze przeanalizowali użytkowników z Stanów Zjednoczonych, Australii i Wielkiej Brytanii, potwierdadzając skalę problemu. Osoby poszkodowane często nie wiedzą nawet o istnieniu takich głębokich fałszerstw, a regulatorzy mają duże trudności w egzekwowaniu skutecznych rozwiązań.
Googleowi naukowcy zaproponowali, że najkrityczniejszym punktem interwencji pozostaje źródło - bezpośrednie ograniczenie możliwości narzędzi AI. Jednak obecny postęp w zdolnościach modeli idzie szybciej niż wdrażane zabezpieczenia, tworząc niebezpieczną sytuację, gdzie firmy technologiczne muszą zdecydować między rozwojem możliwości a odpowiedzialnością wobec użytkowników.