Badacze z czterech instytucji naukowych i technologicznych wykazali możliwość stworzenia samopodtrzymującego się wirusa, który wykorzystuje otwarte modele językowe do autonomicznego rozprzestrzeniania się w sieci. Wirus infekuje komputer, przejmuje jego moc obliczeniową GPU, a następnie uruchamia na niej otwarte modele LLM, aby analizować zaatakowaną maszynę, wykrywać jej podatności i opracowywać spersonalizowane strategie ataku na kolejne cele. Wszystko to dzieje się w pełni autonomicznie, bez udziału hakerów.
To stanowi przełomowy moment w cyberbezpieczeństwie. Tradycyjne wirusy działały według z góry zaprogramowanych reguł, podczas gdy te nowe grożące zagrożenia mogą adaptować się do każdego celu indywidualnie. Badacze podkreślają, że chociaż przeprowadzili jedynie proof-of-concept z jednym modelem LLM, potencjał takiego podejścia jest ogromny. Im bardziej zaawansowany model, tym bardziej sofistykowane mogą być ataki. Otwarte wagi modeli znajdujące się w publicznym dostępie czyni to zagrożenie szczególnie realnym.
Znaczenie tego odkrycia wykracza poza bezpieczeństwo informatyczne. Pokazuje, że samo połączenie otwartego modelu LLM z dostępem do zasobów obliczeniowych utworzy nową klasę zagrożeń, przed którymi współczesne systemy bezpieczeństwa nie są przygotowane. Zespół badawczy apeluje o przygotowanie się do era autonomicznych adwersarzy wspieranych przez AI. To naleganie jest zrozumiałe - każda organizacja, od firm technologicznych po instytucje rządowe, będzie musiała przewartościować swoje strategie obronne w świetle tych możliwości.