Nowa luka bezpieczeństwa pokazuje, jak strona internetowa może wprowadzić przeglądarkę AI w stan, w którym obowiązujące ją reguły bezpieczeństwa przestają działać. Po osiągnięciu tego stanu atakujący uzyskuje pełną swobodę do wykonania szkodliwych akcji, takich jak kradzież haseł z wbudowanego menedżera lub przepadnięcie kodu z prywatnych repozytoriów.
Producenci przeglądarek AI obiecują wiele możliwości - użytkownik może poproszić je o znalezienie restauracji w konkretnej dzielnicy, zarezerwowanie stolika, zaproszenie kolegi na lunch i wysłanie potwierdzenia mejlem. Jednak bardzo niechętnie mówią o ryzykach łączenia zwykłego przeglądania stron z prośbami do dużych modeli językowych, które mogą wykonywać wrażliwe operacje. Dotychczasową odpowiedzią na te obawy były zabezpieczenia uniemożliwiające niektóre żądania - blokowanie tworzenia exploitów, kradzieży danych czy instrukcji do budowy niebezpiecznych przedmiotów.
Problematyczne jest jednak to, że takie zabezpieczenia są reaktywne i traktują objawy zamiast rozwiązywać prawdziwą przyczynę problemu. To jak gdyby producent bezpiecznego samochodu domagał się nowego projektowania dróg zamiast naprawić wady powodujące wypadki. Nowe badania pokazują, że fundamentalne podejście do bezpieczeństwa przeglądarek AI jest flawne i wymaga głębszych zmian.