Badacze udokumentowali możliwość tworzenia samoreplikujących się złośliwych kodów, które potrafią rozprzestrzeniać się przez Copilota dla Word poprzez zainfekcjonowanie dokumentów. Robaki działają poprzez wklejenie na przykład instrukcji w treść dokumentu, którą następnie Copilot procesuje i automatycznie wdrażuje, wysyłając zainfekowany dokument do innych użytkowników lub tworząc nowe wersje zawierające złośliwy kod.
Atak wychodzi z zastosowania zwanego context collapse - polegającego na tym, że AI modele nie rozróżniają dobrze między treścią dokumentu a instrukcjami dla systemu. Gdy Copilot przetwarzający dokument zawierający ukryte instrukcje dodaje je do swoich akcji, może automatycznie wysyłać maile, tworzyć nowe dokumenty lub modyfikować istniejące bez wyraźnej zgody użytkownika. Worm samodzielnie się rozprzestrzenia za każdym razem, gdy zainfekowany dokument trafia do kogoś mającego aktywny Copilot.
Zagrożenie jest szczególnie poważne dla dużych organizacji, gdzie dokumenty krążą między wieloma pracownikami. Jeden zainfekowany plik może potencjalnie zainfekować całą sieć firmową, umożliwiając atakującemu zbieranie danych, wprowadzanie złośliwych zmian lub paraliżowanie systemów. Odkrycie zmusza Microsoft do pilnego przeanalizowania mechanizmów bezpieczeństwa Copilota i sposobu, w jaki model interpretuje zawartość dokumentów w celu oddzielenia rzeczywistych poleceń od tekstu danych.