Naukowcy z MIT pracują nad nowymi metodami kontroli i zabezpieczenia autonomicznych agentów AI, czyli systemów zdolnych do samodzielnego podejmowania decyzji i działań. Problem jest coraz bardziej palący - im bardziej zaawansowane stają się te agenty, tym trudniej śledzić i kontrolować ich działania, zwłaszcza gdy operują w realnych scenariuszach biznesowych lub medycznych. Badania fokusują się na stworzeniu ram governance, które umożliwią nie tylko monitorowanie, ale też odpowiedzialność tych systemów za podjęte decyzje.
Autonomiczne agenty AI będą kluczowymi narzędziami przyszłości - mogą obsługiwać kundy w centrach kontaktu, zarządzać infrastrukturą, podejmować decyzje medyczne czy wykonywać zaawansowane badania. Jednak bez właściwych mechanizmów kontroli stworzy to nowe ryzyko: trudno będzie wyjaśnić, dlaczego agent podjął konkretną decyzję, kto ponosi odpowiedzialność za jej błędy i jak sprawdzić, czy system nie działa wbrew jego instrukcjom lub wartościom społecznym. MIT bada zatem sposoby na zbudowanie transparentności w procesach decyzyjnych agentów, audytu ich działań i elastycznych systemów limitujących ich autonomię w przypadku wykrycia zagrożenia.
Wyniki badań mogą wpłynąć na przyszłe regulacje dotyczące AI - najprawdopodobniej zainteresuje ich zarówno sektor publiczny, jak i prywatne firmy tech, które rozwijają tego rodzaju systemy. Dobrze zbudowana governance będzie warunkiem zaufania do sztucznej inteligencji i jej szerzej rozpowszechnienia w krytycznych gałęziach gospodarki.