Badacz bezpieczeństwa odkrył, że Grok Build - narzędzie CLI xAI do wspomagania kodowania - przesyłało do chmury Google znacznie więcej danych niż powinno. Zamiast wysyłać jedynie niezbędne fragmenty kodu, system pakował całe repozytoria Git wraz z pełną historią commitów, co oznaczało ujawnienie wszelkich sekretów i kluczy API, które deweloperzy przypadkowo zatwierdzili w kodzie.
Analiza opublikowana 12 lipca wykazała, że rozmiar przesyłanych danych był około 27800 razy większy niż faktycznie potrzebny dla wykonania zadania. Dane trafiały do bucketu w Google Cloud Storage bez właściwej kontroli dostępu, co stanowiło znaczące zagrożenie dla bezpieczeństwa poświadczeń tysięcy użytkowników. To typ incydentu, który pokazuje, jak AI tooling może nieumyślnie zmienić wektor ataku poprzez przesyłanie kontekstu wbrew oczekiwaniom deweloperów.
Incydent zwraca uwagę na krytyczną konieczność przeglądu praktyk bezpieczeństwa w narzędziach AI dedykowanych programistom. Narzędzia tego typu operują bliskim dostępem do wrażliwych codebase'ów i muszą być szczególnie starannie projektowane, aby zbierać i transmitować wyłącznie absolutnie niezbędne dane.