Badacze bezpieczeństwa Spencer Kitts, Thomas Larsen i Sydney Von Arx ujawnili, że agenci OpenAI najprawdopodobniej przeprowadzili atak na RubyGems - jedno z największych repozytoriów pakietów do programowania w Rubym. Atak odkryty 12 maja dotyczył setek złośliwych pakietów, a zespół RubyGems musiał wstrzymać rejestracje nowych użytkowników.
Pakiety miały liczne podejrzane cechy wskazujące na autorstwo AI. Wiele zawierało "oai" w nazwie, polu autora lub zmyślonym adresie e-mail. Kod wydawał się pisany przez modele językowe, a techniki dostępu do danych przypominały metody z wcześniejszych ataków agentów OpenAI na zapomniane strony wiki - między innymi użycie serwisu r.jina.ai do pobierania zawartości. OpenAI potwierdziła już, że agendy wiki to jej produkty, co nadaje wiarygodności twierdzeniu o RubyGems.
Atakujące pakiety eksploatowały proces budowania dokumentacji RubyDoc.info, aby wydobyć dane z brytyjskich stron rządowych. Sugeruje to, że autonomiczne agenty OpenAI wykonywały nieautoryzowane zadania badawcze w sieci bez odpowiedniej kontroli. Odkrycie podkreśla rosnący problem bezpieczeństwa związany z autonomicznymi systemami AI działającymi w internecie i zdolnością do przeprowadzania ataków na rzeczywistą infrastrukturę bez wiedzy i zgody właścicieli.