MIT Technology Review zorganizował dla swoich prenumeratorów sesję Roundtables poświęconą pytaniu na ustach wszystkich - czy sztuczna inteligencja naprawdę grozi zniszczeniem całej ludzkości. Sesja trwała 30 minut, ale uczestników były tysiące pytań. Redaktorzy Will Douglas Heaven i Grace Huckins postanowili zebrać i odpowiedzieć na najciekawsze z nich.
Realizm zagrożenia jest mieszany. Z jednej strony, AI-powered drony już zabiły ludzi w konflikcie na Ukrainie, a cyberataki oparte na sztucznej inteligencji mogą wkrótce pochłonąć pierwsze ofiary wśród pacjentów szpitali. Grace Huckins przyznaje otwarcie, że z non-zero probability każdy z nas może paść ofiarą AI, choć nie doszło jeszcze do masowych panikowania. Z drugiej strony, pełny scenariusz zniszczenia ludzkości wydaje się mniej prawdopodobny - Huckins twierdzi, że nie zaopatruje się jeszcze w konserwy ani nie wybiega sobie bogatych przyjaciół z bunkrami.
Co jednak zmienia perspektywę, to fakt że osoby zajmujące się ryzykiem AI - określane czasem jako "doomers", ale zdecydowanie znające się na przedmiocie - przez lata wydawały prognozy, które ostatnio okazywały się zaskakująco dokładne. Nie oznacza to, że ich najgorszych scenariuszy dotyczących możliwości i alignment AI się spełnią, ale wystarczy to, by wziąć je na poważnie.