Dziennikarz Wired postanowił przeprowadzić eksperyment, w którym usunął guardrails z potężnego open-source'owego modelu AI i pozwolił agentowi testować bezpieczeństwo swojego domowego ekosystemu urządzeń. Wynik był zarówno przerażający, jak i pouczający - agent znalazł rzeczywiste luki w urządzeniach domowych i udało mu się włamać na jeden z komputerów PC.
Praktyka ta stanowi formę red-teamingu, czyli testowania zabezpieczeń poprzez symulację ataków. W tym przypadku agent AI okazał się lepszy w identyfikowaniu słabych punktów niż tradycyjne narzędzia do skanowania podatności. Ważne jest jednak, że agent nie tylko hakował urządzenia, ale także wyjaśniał, co robił i jak naprawić znalezione problemy. Dla każdej podatności zasugerował konkretne kroki zabezpieczające, od aktualizacji oprogramowania przez zmianę domyślnych haseł po lepszą konfigurację zapory.
Ten eksperyment porusza dwa istotne tematy - potencjalne zagrożenia związane z agentami AI pozbawionym ograniczeń bezpieczeństwa oraz praktyczną wartość takich narzędzi w rękach dobrze poinformowanych użytkowników. Choć koncepcja AI hakującego nasze urządzenia brzmi zastraszająco, wykazanie rzeczywistych luk w zabezpieczeniach może znacząco poprawić bezpieczeństwo naszych domowych sieci i gadżetów.