Google szybko wycofał funkcję AI o nazwie Nano Banana z aplikacji Google Earth po tym, jak bezpieczeństwo narzędzia zostało zakwestionowane. Badacz z Digital Digging wykazał, że już proste tekstowe polecenia wystarczały do wygenerowania całkowicie fałszywych, ale bardzo wiarygodnych obrazów - w tym manipulacyjnych zdjęć uchodźców czy zniszczeń wojennych.
Problem tkwił w istocie koncepcji - integracja generatora tekstu na obrazy z rzeczywistymi danymi satelitarnymi Google Earth stworzyła narzędzie do tworzenia przekonujących deepfake'ów przywiązanych do konkretnych lokalizacji geograficznych. To znacznie bardziej niebezpieczne niż zwyczajne AI image generators, bo łączy pozory autentyczności satelitarnej z całkowicie zmyślonymi treściami. Google starał się zmniejszyć ryzyko poprzez dodawanie markera SynthID i umożliwienie sprawdzenia obrazów w Gemini, ale to okazało się niewystarczające.
Wycofanie Nano Banana pokazuje, jak szybko innowacyjne funkcje AI mogą stać się problemem bezpieczeństwa, gdy zostaną źle zastosowane. To lekcja dla całej branży - przed udostępnieniem narzędzi generujących media trzeba głębiej przemyśleć potencjalne scenariusze dezinformacji, zwłaszcza gdy łączą się one z danymi geolokacyjnymi czy real-time informacjami.