Artykuł analizuje bezprecedensowe wyzwania związane z używaniem dużych modeli językowych do automatyzacji geoinformatycznych systemów informacyjnych (GIS), które potrafią interpretować i generować informacje geograficzne poprzez interfejsy w języku naturalnym. Problem polega na tym, że duże modele językowe mogą wnioskować dokładne lokalizacje z niepełnych śladów mobilności, generować fałszywe fakty geograficzne lub wzmacniać uprzedzenia w nierówny sposób ze względu na strukturalne cechy danych przestrzennych.
Badacze wymienili osiem głównych zagrożeń dla bezpieczeństwa i odpowiedzialności takich systemów. Pierwsze dotyczą praktyk danych - pochodzenia, zgody użytkownika i zarządzania informacjami wrażliwymi na lokalizację. Kolejne wiążą się z mechanikami przestrzennymi: autokorelacją przestrzenną, modyfikowalnym problemem jednostkowego obszaru lub efektami skali, które mogą nieprzewidywalnie wzmacniać błędy. Dodatkowo pojawiają się problemy typowo AI - halucynacje LLM, brak wyjaśnialności decyzji, oraz brakujące regulacje i standardy bezpieczeństwa.
Proponowana architektura ma mapować każde zagrożenie na konkretne, wymuszalne kontrole i artefakty poddane audytowi. To podejście jest istotne, ponieważ w miarę jak systemy GeoAI stają się bardziej autonomiczne i wszechobecne w planowaniu miast, zarządzaniu zasobami naturalnymi czy analizie społecznej, potrzebny jest nie tylko techniczny nadzór, ale także nowa forma zarządzania - uwzględniająca specyficzne ryzyko związane z interpretacją danych geograficznych i możliwością ingerencji w prywatność na podstawie lokalizacji.