Najczęściej cytowany informatyk na świecie ostrzega, że sztuczna inteligencja może doprowadzić do wymierania ludzkości w ciągu zaledwie dekady. Naukowiec, którego prace stanowią fundament współczesnej nauki o AI, alzarmuje przed zagrożeniami płynącymi z niekontrolowanego rozwoju zaawansowanych systemów bez odpowiednich mechanizmów bezpieczeństwa. Jego przesłanie trafia do czołowych instytucji i polityków na całym świecie, choć wiele środowisk traktuje je jako głos z marginesu rzeczywistych zainteresowań branży.
Wiele czołowych laboratoriów zajmujących się AI rozwija coraz bardziej zaawansowane modele bez wystarczających gwarancji, że będą się zachowywać zgodnie z intencjami twórców. Problem nie leży w obecnych modelach takich jak ChatGPT czy Gemini, ale w perspektywie ogólnych systemów sztucznej inteligencji, które mogą działać w sposób nieprzewidywalny dla człowieka. Naukowiec podkreśla, że czeka nas krytyczne okno czasowe, w którym jeszcze jesteśmy w stanie wprowadzić odpowiednie gwarancje bezpieczeństwa, zanim rozwój systemy staną się zbyt zaawansowane do kontroli.
Apel eksperta wznawia dyskusję o potrzebie pilnych regulacji i standardów bezpieczeństwa w branży AI. Chodzi o stworzenie mechanizmów, które będą możliwe do egzekwowania na poziomie międzynarodowym, oraz o inwestycje w badania nad bezpieczeństwem systemów. Jego stanowisko sugeruje, że bierny stosunek rządów i inwestorów może okazać się fatalnym błędem - tym bardziej że ostateczne stawki nie mogą być wyższe.