Niebezpieczna zależność od AI - badacze ostrzegają przed uzależnieniem

Badacze publikujący na arXiv argumentują, że badania nad bezpieczeństwem AI powinny skoncentrować się na nowym, niedostatecznie zbadanym zagrożeniu - zjawisku AI Lock-In. Chodzi o sytuację, w której nadmierna zależność od systemów sztucznej inteligencji prowadzi do utraty umiejętności człowieka, osłabienia zdolności do niezależnego funkcjonowania i tworzenia podatnych miejsc w systemach krytycznych.

Do tej pory badania nad bezpieczeństwem AI skupiały się głównie na wyrównaniu wartości (alignment) - zapewnieniu, że wyniki systemów AI są zgodne z celami człowieka - oraz na regulacji wpływu generatywnego AI na społeczeństwo, w tym na ryzyko bezrobocia i zaburzenia rynku pracy. Pozycja paper'a autorów zwraca uwagę na równie ważny aspekt: systemowe zagrożenie wynikające z samej zależności od technologii AI. Zjawisko to objawia się już teraz na wielu poziomach - od indywidualnej atrofii umiejętności po potencjalne awarie infrastruktury na skalę krajową.

Naukowcy podkreślają pilną konieczność działań profilaktycznych. Przestrzegają, że w przypadku przerwań w dostępie do usług AI lub konfliktów geopolitycznych, takie uzależnienie mogłoby mieć katastrofalne skutki. Dlatego zaproponowali wytyczne do łagodzenia ryzyka AI Lock-In na każdym poziomie - od jednostkowego do krajowego - zanim te zależności staną się trwałe lub nieodwracalne. Chodzi o ochronę zarówno autonomii jednostek, jak i bezpieczeństwa narodowego.