Grupa badaczy z czołowych laboratoriów AI wydała nową serię filmowych wywiadów, w których ostrzegają przed poważnym ryzykiem związanym z rozwojem superinteligencji. Geoffrey Irving, były pracownik OpenAI i Google DeepMind, przyznał, że szacuje szanse wymierania ludzkości z powodu zaawansowanej AI na około 50 procent - czyli tak samo jak w rzucie monetą. To jedno z tuzina rozmów zebranych przez Palisade Research, organizację pozarządową zajmującą się badaniem możliwości i motywacji systemów AI.
Wywiady opublikowano na platformie frominside.ai i zebrały wypowiedzi naukowców zarówno z aktualnych, jak i z poprzednich stanowisk w OpenAI, Google i Anthropic. Neel Nanda, badacz z Google DeepMind, oszacował ryzyko związane z superinteligencją na co najmniej 10 procent, dołączając tym samym do wielu kolegów, którzy przestrzegają przed możliwością wyeliminowania ludzkości przez zaawansowaną sztuczną inteligencję.
Te ostrzeżenia są znaczące, bo pochodzą od naukowców pracujących bezpośrednio nad rozwojem zaawansowanych modeli AI. Ich publiczne wyrażenie obaw sugeruje, że ostrożność wobec ryzyk superinteligencji zyskuje na znaczeniu nawet w kręgach firm zajmujących się jej tworzeniem. Inicjatywa pokazuje rosnące napięcie między optymizmem technologicznym a realistyczną oceną potencjalnych zagrożeń związanych z dalszym rozwojem zdolności systemów sztucznej inteligencji.