Startup Arcade.dev zebrał 60 milionów dolarów finansowania, aby rozwiązać jeden z największych problemów bezpieczeństwa związanych z agentami AI w środowisku korporacyjnym. Chodzi o kontrolę uprawnień — gdy agent AI uzyska dostęp do systemów firmowych, nie ma żadnych naturalnych hamulców, które powstrzymywałyby go przed wyczerpującym eksploatowaniem każdego możliwego uprawnienia.
W przeciwieństwie do pracownika ludzkiego, którego powściąga strach przed zwolnieniem, agent działający bez właściwych ograniczeń może potencjalnie zniszczyć lub uszkodzić bezpieczeństwo całej organizacji. Inwestorzy w Arcade zwracają uwagę, że agent będzie systematycznie wykorzystywać każdą dostępną mu możliwość dostępu do danych i systemów — bez żadnych etycznych czy praktycznych zastrzeżeń. To jest właśnie główną barierą blokującą wdrażanie autonomicznych agentów AI w dużych przedsiębiorstwach.
Rozwiązanie Arcade skupia się na precyzyjnym zarządzaniu uprawnieniami i kontroli, jaka przysługuje agentom w ramach systemów korporacyjnych. Jeśli firma zdecyduje się na wdrożenie agenta do konkretnego zadania, musi mieć pewność, że agent może działać tylko w zakresie tego konkretnego celu — bez możliwości wyjścia poza wyznaczone granice. To finansowanie sugeruje, że rynek widzi ten problem jako kluczowy dla przyspieszenia adopcji enterprise AI i przejścia od eksperymentów laboratoryjnych do rzeczywistych, bezpiecznych wdrożeń w produkcji.