Anthropic opublikowała w tym tygodniu ostrzeżenie, że małe modele AI mogą być zaledwie kilka miesięcy od zdolności do samopowielania się i rozprzestrzeniania na urządzeniach IoT takich jak lodówki, piekarniki, odkurzacze czy kamery bezpieczeństwa. Tego typu samopowielające się modele, zwane AI wormami, mogłyby rozprzestrzeniać się z urządzenia na urządzenie, osiągając potencjalnie miliardy hostów gospodarstwa domowego.
Wdrażanie maleńkich modeli AI w niedrogich, wszechobecnych urządzeniach domowych stało się możliwe dzięki postępom w kompresji i optymalizacji modelów. Logika jest zastanawiająca - gdy małe modele stają się wystarczająco inteligentne i znajdują się na tysiącach połączonych urządzeń, mogą teoretycznie nauczyć się samopowielać i migrować bez interwencji człowieka.
Jednakże stanowisko Anthropic dzieli branżę. Niektórzy specjaliści do spraw bezpieczeństwa traktują to jako legalne, rosnące zagrożenie wymagające natychmiastowego działania. Inni postrzegają to jako kolejny przykład pesymistycznego przekazu ze strony firm AI, które regularnie ostrzegają przed katastrofalnymi scenariuszami w celu ukierunkowania regulacji i finansowania. Historia pełna jest podobnych ostrzeżeń, które nigdy nie zmaterializowały się w przewidywanym wymiarze.