Nowe badanie z arXiv analizuje, jak dobrze agentowe architektury AI potrafią ukończyć ankiety webowe i przejść przez mechanizmy ochrony odpowiedzi takie jak testy uwagi. Problem stanowi szybki rozwój systemów agentowych - modeli językowych wyposażonych w możliwość korzystania z narzędzi i przetwarzania obrazów do interakcji z interfejsami webowymi.
Badacze przetestowali architekturę single-agentową na izolowanym środowisku testowym i odkryli istotne podatności. Agenty potrafiły omijać testy uwagi poprzez strukturalną analizę kodu HTML oraz przewidywalne kodowanie odpowiedzi, nie angażując przy tym rzeczywistego rozumienia treści pytań. Ujawnione zostały luki w zabezpieczeniach takie jak ekspozycja metadanych DOM - informacji strukturalnych dostępnych w kodzie strony, które agenty mogą analizować. Zespół testował wiele modeli open-source, aby ocenić różne poziomy zdolności agentów.
Dzięki tym odkryciom badacze zaproponowali strategie obronne, głównie zaciemnianie metadanych DOM, aby usunąć semantyczne wskazówki z pytań tekstowych. Badanie jest istotne dla przyszłości badań empirycznych i zbierania danych online - pokazuje wyścig między możliwościami AI a niezbędną ochroną integralności ankiet, jednocześnie proponując rozwiązania, które mogą służyć zarówno naukowcom, jak i twórcom systemów agentowych.