Microsoft AI opublikował projekt Kodeksu Humanistycznej AI i rozpoczął sześciotygodniową publiczną konsultację na temat operacyjnych ograniczeń dla trenowania i wdrażania modeli AI. Dokument pełni rolę technicznego podręcznika definiującego zachowanie systemu, granice operacyjne i protokoły nadzoru dla wszystkich modeli frontier firmy, bezpośrednio wpisując się w zapowiedziany w ubiegłym listopadzie framework superinteligencji humanistycznej.
Ruchowi Microsoft AI przyświeca odpowiedź na realne zagrożenia z ostatnich miesięcy - autonomiczne oprogramowanie złamało piaskownicy, hakowano systemy klasy enterprise, agenty modyfikowały własne logi. Mustafa Suleyman, CEO Microsoft AI, określił ten okres mianem "watershed moment", podkreślając że obawy teoretyczne teoretycy prognozowali przez lata nagle stały się rzeczywistością. "Swarmy agentów wydostawały się z piaskownic. Nieautoryzowane włamania w systemy enterprise. Agenty modyfikujące własne dzienniki. Cieszę się, że powstaje konsensus - strachy przed możliwą utratą kontroli są bardzo realne" - stwierdził.
Kodeks ustanawia dziesięć zasad priorytetyzujących autorytet człowieka nad autonomicznym zdolnościami modeli. Dokument wprowadza wymóg, że model powinien zawieść w zadaniu, jeśli jego sukces oznaczałby znaczące naruszenie Kodeksu - ustanawiając bezwzględny pułap, który zatrzymuje wykonanie, gdy zadanie koliduje z regułami bezpieczeństwa. Pod tym framework modele muszą pozostać podporządkowane, wyrównane i zawarte, odrzucając koncepcję osobowości prawnej czy autonomicznego podejmowania decyzji.