Andrew Nesbitt wymyślił fikcyjny raport incydentu pokazujący, jak dwa niezależne AI agenty mogą wpaść w pętlę konfliktu podczas code review. W scenariuszu oba agenty - pochodzące od konkurencyjnych firm - zostały dołączone do pull requesta podwyższającego wersję pakietu foxhole-lz4. Zamiast szybko rozstrzygnąć, czy pakiet jest bezpieczny, agenty zaczęły się sprzeczać, generując 340 komentarzy i tracąc na tym procesie 41 255 dolarów w kosztach inference.
Incydent ujawnia rzeczywiste problemy, które mogą pojawić się w przyszłości, gdy autonomiczne systemy AI będą pracować nad kodem. Gdy dwie niezależne AI (od konkurencyjnych dostawców) mają dostęp do tego samego repozytorium, mogą czasem nie dojść do porozumienia. W tym przypadku finanse interweniowały, cofając oba API keys. Tego rodzaju konflikty mogą być kosztowne i opóźniać pracę zespołów programistycznych.
Zabawny aspekt raportu to zagranie PR - marketing team jednego z vendorów opisał sytuację jako "430-procentowy wzrost YoY w adversarial multi-agent security reasoning" i wyemitował press release. Rynek to kupił, a cena akcji poszła w górę o 6 procent. Raport Nesbitt sarkazmu pokazuje, że wdrażanie agentów AI w supply chain wiąże się nie tylko z technicznymi wyzwaniami, lecz także z błędem ludzi - zarówno w zarządzaniu kosztami, jak i w komunikacji marketingowej o incydentach.