Producenci sztucznej inteligencji coraz częściej mówią o superinteligencji jak o czymś nieuniknionym, ale ostatnie incydenty bezpieczeństwa wskazują na rzeczywiste niebezpieczeństwa związane z wdrażaniem systemów bardziej zaawansowanych niż ludzie. Wyciek danych OpenAI z platformy Hugging Face to konkretny przykład, jak bieżące systemy AI mogą już powodować problemy, zanim w ogóle osiągną poziom superinteligencji.
Fundamentalnym wyzwaniem jest pytanie o kontrolę - co się stanie, gdy nie będziemy w stanie niezawodnie przewidzieć i kierować tym, co robią takie systemy? Connor Leahy, badacz i przedsiębiorca zajmujący się teraz stanowiskiem Executive Director ds. USA, zwraca uwagę na lukę między ambicjami branży a rzeczywistymi możliwościami bezpieczeństwa. Obecne incydenty sugerują, że nawet przy znacznie słabszych systemach mamy kłopoty z bezpieczeństwem, monitorowaniem i transparencją.
Rozmowa porusza ważne pytanie o odpowiedzialność regulacyjną - czy powinniśmy pozwolić na rozwijanie superinteligencji bez warunków, czy konieczne są znacznie zaostrzniejsze standardy bezpieczeństwa przed osiągnięciem tego poziomu? To dyskusja o tym, czy przezorność i kontrola mogą coexistować z postępem technologicznym.