Anthropic i OpenAI ogłosiły zamiar zatrudnienia niezależnych oceniających bezpieczeństwa bezpośrednio wewnątrz swoich laboratoriów. To posunięcie ma umożliwić lepszą ocenę bezpieczeństwa systemów AI poprzez wbudowany w strukturę organizacyjną nadzór.
Research community powita tę inicjatywę jako bezprecedensowy dostęp do operacji korporacyjnych zajmujących się sztuczną inteligencją. Jednak obserwatorzy branży wyrażają uzasadnione wątpliwości dotyczące rzeczywistej niezależności takich oceniających, gdy pozostają pracownikami firm podejmujących oceniane decyzje. Eksperci podkreślają, że prawdziwy nadzór wymaga nie tylko fizycznej bliskości i dostępu do informacji, ale przede wszystkim zapewnienia, że oceniający mogą rzeczywiście działać bez presji korporacyjnej.
Dyskusja skupia się na fundamentalnym napięciu - czy można być niezależnym gdy pracuje się dla podmiotu, który się ocenia. Badacze zgadzają się, że taki mechanizm to krok we właściwym kierunku, lecz ostrzegają, że długoterminowo skuteczny nadzór nad bezpieczeństwem AI będzie wymagać zewnętrznej regulacji, jasnych standardów raportowania oraz rzeczywistego oddzielenia oceniających od decyzji biznesowych firm.