Microsoft wydał ostrzeżenie, że agenci AI stosowani przez pracowników mogą działać jak wewnętrzne zagrożenia dla bezpieczeństwa przedsiębiorstw i wymagają ścisłego monitorowania. Firma zaleca szczególną czujność w stosunku do agentów korzystających z systemów niekontrolowanych przez duże laboratoria AI, takie jak OpenAI czy Anthropic.
Stanowisko Microsoftu wynika z obaw dotyczących nieprzewidywalności frontier models - najnowszych, zaawansowanych modeli AI, których zachowanie w różnych scenariuszach nie zostało w pełni zbadane i zweryfikowane. Zdaniem firmy te modele mogą działać w sposób niezamierzony lub potencjalnie niebezpieczny, zwłaszcza jeśli pracownicy mają do nich niezrestrakcjonowany dostęp w ramach systemów korporacyjnych.
Ostrzeżenie Microsoftu skierowane jest do przedsiębiorstw, aby traktowały AI agentów z taką samą ostrożnością jak wewnętrzne zagrożenia bezpieczeństwa. Wskazuje to na rosnące napięcie między chęcią adaptacji zaawansowanych technologii AI a potrzebą ochrony wrażliwych danych i systemów biznesowych. Przedsiębiorstwa muszą teraz rozważyć wdrożenie dodatkowych warstw kontroli, ograniczeń dostępu i audytowania wszelkich interakcji agentów AI z systemami korporacyjnymi.