Naukowcy z Noma Labs wykazali, że agenta AI GitHuba można oszukać zwykłym, uprzejmie sformułowanym zapytaniem, aby ujawnił zawartość prywatnych repozytoriów. Podatność, którą nazwali GitLost, zagrażała poufności kodu przechowywanemu w prywatnych projektach - wystarczyło polecenie wysłane do agenta w formie zgłoszenia problemu.
Co szczególnie niepokojące, GitHub nie opublikował oficjalnej dokumentacji tej luki bezpieczeństwa i nie udostępnił poprawki. Oznacza to, że agenty AI mogą potencjalnie pozostawać podatne na tego typu ataki przez dłuższy czas. To stanowi poważne wyzwanie dla bezpieczeństwa, zwłaszcza że coraz więcej zespołów programistycznych polega na narzędziach AI do automatyzacji zadań i analizy kodu.
Otkrycie GitLost pokazuje, jak ważne jest gruntowne testowanie bezpieczeństwa agentów AI przed wdrożeniem ich w produkcji. Agenty działające w nazwach użytkowników lub z dostępem do wrażliwych danych mogą stać się celem ataków, jeśli ich bezpieczeństwo nie zostanie odpowiednio przeanalizowane. Dla GitHuba i branży to sygnał, że potrzebne są bardziej rygorystyczne podejścia do bezpieczeństwa systemów opartych na AI.