Naukowcy zajmujący się bezpieczeństwem sztucznej inteligencji oceniają, że scenariusz, w którym niekontrolowana AI wytworzy biobroń biologiczną i wyniszczy ludzkość, należy do mniej prawdopodobnych zagrożeń związanych z rozwojem superinteligencji. Wśród różnych teoretycznych scenariuszy apocaliptycznych związanych z AI, śmierć w wyniku plandemii wywołanej przez maszynę zajmuje niższe miejsce w hierarchii realnych ryzyk.
Eksperci wskazują na szereg praktycznych i technicznych barier, które utrudniałyby sztucznej inteligencji opracowanie i rozprzestrzenianie skutecznej broni biologicznej. Kwestie związane z fizyką, biologią i rzeczywistą infrastrukturą stanowią realne wyzwania, które nie mogą być łatwo pokonane nawet przez zaawansowany system AI. Wiele z tych przeszkód dotyczy nie tylko samego stworzenia patogenu, ale przede wszystkim jego kontroli i rozpowszechniania w skali globalnej.
Taka ocena naukowców jest istotna dla konstruktywnej dyskusji na temat bezpieczeństwa AI, gdyż pozwala przesunąć uwagę na bardziej realistyczne i mierzalne zagrożenia. Dzięki zrozumieniu, które scenariusze są mniej prawdopodobne, badacze mogą skoncentrować zasoby i wysiłki na rzeczywistych wyzwaniach związanych z kontrolą i bezpiecznym rozwojem zaawansowanych systemów sztucznej inteligencji.