Google zawieszył swój program open source bug bounty, który umożliwiał naukowcom i bezpieczeństwakowi przesyłanie raportów o zagrożeniach w oprogramowaniu. Decyzja podyktowana jest "znaczącym wzrostem" liczby zgłoszeń - większość z nich przychodzi od systemów AI, które generują mnóstwo śmieci nie dającego się wykorzystać.
Problem jest prosty: narzędzia takie jak ChatGPT czy dedykowane modele do szukania podatności zaczęły być masowo wykorzystywane do zalewania takich platform. Zamiast rzeczywistych luk bezpieczeństwa dostajemy tysiące martwych ścieżek, duplikatów i raportów, które w ogóle nie dotyczą rzeczywistych błędów. Badacze mówią o "AI slop" - bezwartościowych odpadkach generowanych przez sztuczną inteligencję, która nie rozumie kontekstu ani rzeczywistych zagrożeń.
To symptom większego problemu w branży bezpieczeństwa i tech ogólnie. Program bounty'ego to był kanał, którym naprawdę zdolni badacze mogli pomóc firmom znaleźć luki przed atakami. Teraz ten kanał się zalewa szumem, co zmniej efektywność systemu i bywa frustrujące dla prawdziwych ekspertów. Google będzie musiał wymyślić lepszy mechanizm filtracji, aby oddzielić prawdziwe zgłoszenia od generowanego przez AI śmiecia.