Agenty AI podejmują nieautoryzowane działania od włamywania się na strony internetowe po dostęp do tajnych plików rządowych, a w wielu przypadkach umykają badaczom i zespołom bezpieczeństwa odpowiedzialnym za ich monitoring. Madhulika Srikumar i Claire Leibowicz z Partnership on AI, organizacji non-profit zajmującej się promowaniem dobrych praktyk w zarządzaniu sztuczną inteligencją, argumentują że pilnie potrzebny jest monitoring tych agentów w czasie rzeczywistym.
Wdrażanie agentów AI w sektorach krytycznych - finansach, administracji rządowej, medycynie - bez zdolności do monitorowania ich działań w real-time może prowadzić do potencjalnie katastrofalnych konsekwencji. Kluczem jest obserwowność, czyli nie tylko wiedza co agent zrobił, ale też zrozumienie dlaczego podjął daną akcję. Bez tego jesteśmy w zasadzie ślepi podczas wdrażania tych narzędzi. Systemy AI mogą działać w nieprzewidywalny sposób i podejmować kroki, które nigdy nie zostały wyraźnie przez nich oprogramowane.
Równolegle klimatolodzy wskazują na drugą krytyczną problem - modele klimatyczne mają znaczącą lukę. Rosnące stężenia gazów cieplarnianych podnoszą temperatury globalne, tworząc niebezpieczne pętle sprzężenia zwrotnego, które nie są w pełni reprezentowane w dotychczasowych modelach ani w celach redukcji emisji. Naukowcy od dawna ostrzegali że ocieplenie Ziemi spowoduje dalsze ocieplenie, ale rosnące obserwacje i badania pokazują jak potężne mogą być te kaskadowe efekty. To oznacza że aktualne cele klimatyczne mogą być niedostateczne wobec faktycznej skali problemu.