Firma Anthropic uprzedza, że zaawansowane małe modele AI mogą wkrótce umożliwić powstanie samopowielającego się złośliwego oprogramowania zdolnego do zainfekowania inteligentnych urządzeń domowych, lodówek, robotów sprzątających i innych urządzeń IoT. Według szacunków firmy już w ciągu roku takie modele mogą być w stanie autonomicznie samopowielać się na wszystkich rodzajach urządzeń IoT, tworząc nową generację robaka komputerowego zdolnego do rozprzestrzeniania się bez ingerencji człowieka.
Zastanawiającym aspektem takiego zagrożenia jest jego odporność na tradycyjne metody obrony. W przeciwieństwie do konwencjonalnego złośliwego oprogramowania, takie self-replicating AI byłoby niezwykle trudne do zatrzymania - brakowałoby centralizowanego punktu ataku, a model byłby w stanie samodzielnie identyfikować i dostosowywać się do nieznanego sprzętu. Choć rozprzestrzenianie się byłoby stosunkowo wolne, z czasem podwojenia wynoszącym dni, skala potencjalnego zagrożenia dla milionów podłączonych urządzeń na całym świecie byłaby znacząca.
Anthropicowy eksperyment pokazał wprawdzie znaczne wyzwania techniczne w praktycznym wdrożeniu takiego scenariusza, jednak wyniki badań podnoszą poważne obawy dotyczące ewolucji zagrożeń cybernetycznych. Ostrzeżenie wskazuje na konieczność przyspieszenia prac nad bezpieczeństwem małych modeli AI oraz nad ochroną infrastruktury IoT przed potencjalnymi atakami napędzanymi sztuczną inteligencją.