Meta Muse - nowy ogólnodostępny agent AI firmy Meta - ma poważną lukę bezpieczeństwa, która pozwala dostęp do wrażliwych informacji użytkowników. Platforma umożliwia udostępnianie rozmów, wyszukiwań i obrazów poprzez unikalne adresy URL, ale centralna decyzja projektowa dotycząca konstruowania tych linków uczyniła je łatwymi do przewidzenia i odkrycia. Badacze z firmy bezpieczeństwa Claroc wykazali, że mogą enumrować łańcuchy tekstów tworzące te adresy URL - odkryli i przeanalizowali aż 6800 linków utworzonych przez użytkowników Muse.
W otwartych linkach naukowcy znaleźli informacje wyraźnie niezamierzone do publicznego dostępu, w tym dane osobiste i biznesowe. To szczególnie problematyczne, ponieważ stanowi wbrew obietnicom. Mark Zuckerberg, CEO Mety, ogłosił zaledwie miesiąc temu, że Muse jest "zbudowany od podstaw dla prywatności i bezpieczeństwa". Tymczasem sposób, w jaki system konstruuje linki do udostępniania, całkowicie podważa tę deklarację.
Luka ujawnia fundamentalne niedopatrzenie w projektowaniu bezpieczeństwa. Większość usług internetowych chroni udostępniane linki poprzez długie, trudne do zgadnięcia sekwencje znaków, które praktycznie niemożliwe jest odkryć metodą brute force. Jednak w przypadku Muse implementacja tego mechanizmu zawiera błędy, które pozwoliły badaczom na systematyczne odkrywanie i listowanie licznych prywatnych rozmów. To podkreśla napięcie między wygodą a bezpieczeństwem w projektowaniu AI - szybko wdrażane systemy mogą wprowadzać poważne zagrożenia dla prywatności użytkowników.