Google wyłączył funkcję do edycji zdjęć satelitarnych w Google Earth zaledwie jeden dzień po jej uruchomieniu. Narzędzie, oparte na modelu Nano Banana 2, pozwalało użytkownikom na modyfikowanie rzeczywistych zdjęć satelitarnych za pomocą prostych opisów tekstowych, tworząc w efekcie deepfake'i. Google zaopatrywał generowane obrazy w cyfrowy watermark i zapewniał, że blokuje tworzenie szkodliwych treści.
Praktyka szybko pokazała jednak luki w systemie bezpieczeństwa. Badacz Digital Digging Henk van Ess demonstrował możliwości narzędzia, generując obrazy uchodźców przy granicy meksykańskiej oraz kraterów bombardowania obok szpitala w Gazie - wszystko bez żadnych przeszkód. Te przykłady rozprzestrzeniły się w sieci, wywołując dyskusję o potencjale narzędzia do tworzenia dezinformacji na dużą skalę.
Wycofanie funkcji po zaledwie 24 godzinach ilustruje wyzwania stojące przed Google w zarządzaniu technologiami AI. Mimo wbudowanego watermarku i oświadczanych ograniczeń, twórcy zawartości znaleźli sposoby na obejście zabezpieczeń. To zdarzenie podkreśla, jak szybko mogą rozprzestrzeniać się potencjalne nadużycia takich narzędzi i jak trudno jest wprowadzać je na rynek bez dogłębnego testowania przed uruchomieniem.