Laboratoria sztucznej inteligencji propagują ideę wewnętrznych audytorów jako głównego sposobu na powstrzymanie autonomicznych agentów przed niebezpiecznym zachowaniem. Propozycja brzmi rozsądnie na papierze - niezależni weryfikatorzy wewnątrz firmy mogliby monitorować działania zaawansowanych systemów AI i zabezpieczać użytkowników przed nieprzewidzianymi działaniami.
Problem w tym, że to może być podejście zbyt skomplikowane i przesuwające uwagę od prostszych, bardziej efektywnych rozwiązań. Zamiast budować coraz bardziej zaawansowane systemy monitorowania, laboratoria AI powinny najpierw zacieśnić podstawowe zabezpieczenia - ograniczenia w dostępie, kontrolę uprawnień i fundamentalne guardrails dla modeli. To są działania, które mogą zapobiec problemom zanim jeszcze pojawią się rogue agenty wymagające audytu.
Sprawę komplikuje fakt, że wiele firm w branży AI wciąż biegnie przed siebie z rozwojem możliwości systemów, zanim w pełni opracuje bezpieczeństwo. Audytorzy mogą być próbą ratunkową, ale prawdziwym rozwiązaniem jest stabilna architektura bezpieczeństwa od podstaw. Bez tego żaden audyt nie będzie wystarczająco efektywny.