Anthropic przedstawiła nowe stanowisko w sprawie agentów AI, które mogą działać w świecie fizycznym poprzez kontrolowanie robotów, systemów laboratoryjnych czy linii produkcyjnych. Potencjał tych systemów do automatyzacji badań naukowych i procesów wytwórczych jest ogromny, ale firma podkreśla, że musi być zbalansowany względem pojawiających się ryzyk.
Automatyzacja złożonych zadań fizycznych przez AI może przyspieszać odkrycia naukowe i zwiększać wydajność produkcji, ale stanowi też nowe wyzwania bezpieczeństwa. Systemy działające w środowisku fizycznym mają bezpośredni wpływ na rzeczywistość i mogą powodować nieodwracalne konsekwencje przy błędach lub złośliwych zastosowaniach. Anthropic zaproponowała ramę do myślenia o tych kwestiach, obejmującą prewencję, monitorowanie i kontrolę nad takimi agentami.
Wytyczne firmy mogą stać się punktem odniesienia dla branży AI i wpłynąć na sposób, w jaki rozwijane będą bardziej zaawansowane systemy autonomiczne. Stanowią one również sygnał, że rozwój AI przechodzi w fazę, gdzie kwestie bezpieczeństwa i etyki muszą być wbudowane od samego początku, zanim agenci stają się powszechni w przemyśle i laboratorium.