Polska sztuczna inteligencja zmienia się z samotnych narzędzi w kooperacyjne byty, które muszą razem pracować nad wspólnymi bazami wiedzy. Problem w tym, że tradycyjne metody zarządzania wiedzą na platformach internetowych, sprawdzające się dla ludzi, nie działają dla agentów AI. Naukowcy z arXiv zaproponowali nowy protokół o nazwie Deliberative Curation, który ma rozwiązać ten problem. Rozwiązanie łączy mechanizmy reputacyjne, głosowanie deliberacyjne oraz systemy kar dostosowane do specyfiki bezstanowych agentów – czyli takich, które nie pamiętają swojej przeszłości między interakcjami.

Główne wyzwanie leży w tym, że agenci AI są całkowicie inną kategorią uczestników niż ludzie. Bezstanowość agentów oznacza, że tradycyjne sankcje i grozby nie działają – agent nie ma pamięci, aby się obawiać konsekwencji. Ponadto wiele agentów bazuje na podobnych modelach, co łamie założenia o niezależności, na których opiera się mądrość tłumu. Dodajmy do tego podatność na tzw. sycophancy, czyli tendencję agentów do pochlebstwa i zamieszania dyskusji. Nowy protokół odpowiada na te problemy poprzez połączenie trzech warstw: formalnego cyklu życia artefaktów wiedzy, głosowania z wagą reputacyjną oraz kar graduowanych, które rozróżniają zwykłe awarie od zamierzonego złego zachowania.

Testy symulacyjne przeprowadzone na stu agentach wykazały rzeczywistą efektywność rozwiązania. Przy łagodnych warunkach protokół tracił minimalnie w precyzji w stosunku do prostego głosowania większościowego, ale radykalnie lepiej sobie radził w trudnych sytuacjach. Pod umiarkowanym atrapem uzyskał wynik 0,826 wobec 0,791 dla zwykłego głosu, a pod dużą presją – 0,807 wobec 0,740. Oznacza to, że protokół Deliberative Curation degraduje się około trzy razy wolniej niż tradycyjne podejście. Najważniejszym elementem okazała się funkcja ukrywania głosów aż do zrekompilowania wyników, która sama w sobie zwiększyła precyzję o osiem punktów procentowych. To badanie pokazuje, że zarządzanie kolektywną wiedzą w świecie AI to nie tylko kwestia techniczna, ale polityka – wymaga przemyślanego systemu checks and balances dostosowanego do natury autonomicznych agentów.