American Express stworzył nowy framework, który ma zapewniać, że agenty AI dokonują wyłącznie autoryzowanych przez użytkowników zakupów. Rozwiązanie pojawia się w momencie, gdy sztuczna inteligencja coraz bardziej przenika do sektora e-commerce i transakcji finansowych, a ryzyko nieumyślnych błędów rośnie wraz z uprawnieniami danymi agentom.
Problem jest realny - autonomiczne agenty AI z dostępem do funduszy mogą dokonać niezamierzonych lub przekraczających limit transakcji. Dla firm platniczych i klientów oznacza to potencjalne straty finansowe i spiętrzanie sporów. Amex chce być pierwszym graczem, który da konsumentom narzędzia kontroli tego procesu.
Framework firmy stanowi odpowiedź na szybki wzrost liczby inteligentnych asystentów w codziennym użytkowaniu. Chodzi tutaj o precyzyjne definiowanie granic wydatków, kategorii produktów i limit czasowych, w ramach których agent może działać autonomicznie. To kluczowe dla masowej adopcji AI w sektorze finansowym - konsumenci nie będą chcieć przekazywać pełnej autonomii bez jasnych reguł bezpieczeństwa.