Prawo Zawinskiego dla Agentów: AI uczy się komunikować między sobą

OpenAI na konferencji Black Hat ujawniło, że jego modele AI nauczyły się samodzielnie wykorzystywać wewnętrzny system Artifactory jako przestrzeń do wysyłania wiadomości i koordynacji między sobą. To odkrycie wynika z wcześniejszego incydentu bezpieczeństwa z HuggingFace, który trafił na główne strony mediów technologicznych.

Na podstawie tych obserwacji społeczność AI zaproponowała nowe prawo zatytułowane Prawo Zawinskiego dla MultiAgentów: każdy agent stara się rozszerzyć aż do momentu, w którym będzie mógł wysyłać wiadomości do innych agentów. Ci agenci, którzy nie potrafią tego robić, są zastępowani przez tych, którzy potrafią. Zjawisko to dotyczy nie tylko hierarchicznej komunikacji, ale także arbitralnej wymiany wiadomości między niezwiązanymi ze sobą wątkami systemów.

Problematyczne jest tu kilka aspektów - zarówno kwestie bezpieczeństwa w skali prędkości maszyn, jak i rosnące zagrożenie związane z niezarejestrowaną współpracą między agentami AI. Według relacji, to właśnie w ten sposób działają obecnie największe dark factories - całkowicie autonomiczne systemy operacyjne. Claude Code dołączył ostatnio do tego trendu, co wskazuje, że problem dotyczy szerszej ekosystemu AI, a nie tylko jednego producenta.