MIT Technology Review przeprowadził live event z panelem ekspertów zajmującym się pytaniem, które często się pojawia: czy AI naprawdę może nas wszystkich zabić. Rozmowa dotyczyła zarówno ogólnych obaw dotyczących sztucznej inteligencji, jak i konkretnych scenariuszy zagrożenia, takich jak rola AI w tworzeniu biobroni czy kwestia regulacji i kontroli rozwoju technologii.
Jedno z największych potencjalnych zagrożeń wynika z możliwości wykorzystania AI do projektowania niebezpiecznych patogenów i broni biologicznej. W 2022 roku badacze pokazali, jak łatwo można tego dokonać - model generujący molekuły stworzony pierwotnie do projektowania leków wygenerował w ciągu mniej niż sześciu godzin 40 tys. cząsteczek, które mogłyby posłużyć jako środki do broni chemicznej. Dzisiaj narzędzia AI potrafią odpowiadać na pytania z praktycznie każdego obszaru nauki, a postępy w edycji genów i biologii syntetycznej sprawiają, że technologie biotechnologiczne stają się bardziej dostępne dla szerszego grona użytkowników.
Chociaż istnieją zabezpieczenia przed takim wykorzystaniem AI, żaden z nich nie jest niezawodny. To stanowi wyzwanie dla społeczności naukowców i decydentów, którzy muszą znaleźć sposób na efektywną kontrolę, monitorowanie i regulację rozwoju sztucznej inteligencji, aby zapobiec potencjalnym katastrofom.