Eksistencialno tveganje je tako velika katastrofa, da bodisi izniči celotno človeštvo ali pa nas trajno hromi. To so lahko naravne nesreče ali nesreče, ki jih povzroči človek, namerne ali naključne narave. Eksistencialno tveganje je morda prisotno že dolgo ali le nekaj desetletij ali pa je v naši prihodnosti. Primeri eksistenčnega tveganja vključujejo velike udare asteroidov, jedrsko vojno in lažno umetno inteligenco.
Koncept eksistencialnega tveganja je v njegovi sedanji obliki prvi ubesedil dr. Nick Bostrom, filozof iz Oxforda. Za razlago eksistencialnih tveganj uporablja grafikon tveganj, podoben naslednjemu:
Obseg tveganjaGlobalEl Niñodeforestationexistencial riskLokalna nevihtagospodarski upad orkan Osebni papirni kosi zvin gležnja ste ustreljeni Intenzivnost tveganja Zanemarljiva ObvladljivaTerminal
Eksistencialna tveganja so globalna in terminalna ali morda skoraj terminalna. Izjemno nalezljiv virus z 99.9-odstotno smrtnostjo, na katerega ni imun nihče, je primer eksistenčnega tveganja.
Bostrom poudarja, da so naši umi in institucije slabo opremljeni za razmišljanje o eksistencialnem tveganju, saj ga še nikoli nismo doživeli – če bi ga imeli, ne bi bili tukaj, da bi razmišljali o njih. Kot otrok, ki ne ve, da je peč vroča, dokler se je ne dotakne, imamo malo izkušenj s katastrofami na tej ravni. Bubonska kuga srednjeveške Evrope in španska gripa iz prve svetovne vojne nam ponujata okus, kakšna bi bila eksistencialna katastrofa. Na desetine milijonov zdravih ljudi je umrlo v le urah zaradi obeh bolezni.
V svojem kanoničnem prispevku na to temo Bostrom našteje približno ducat eksistencialnih tveganj in jih kategorizira glede na njihovo resnost in možnost povrnitve. Nekaj najbolj verjetnih je naštetih tukaj:
gensko spremenjeni virusi
nanotehnološke oborožitvene tekme
katastrofalna jedrska vojna
samoreplikacija robotike brez nadzora
superinteligentna umetna inteligenca, brezbrižna do ljudi
fizična katastrofa v pospeševalniku delcev
eksplozija supervulkana blokira sonce
Zaradi izjemne resnosti in nepopravljivosti eksistencialnega tveganja je vredno razmisliti o možnih protiukrepih in jih izvesti. Tudi če je možnost, da bi določena eksistencialna grožnja postala resničnost, majhna, vpleteni ogromni vložki zahtevajo resen program izogibanja. Za grožnje, ki izvirajo iz človeka, protiukrepi vključujejo sofisticirane sisteme opazovanja in opozarjanja ter regulacijo nekaterih tehnologij, da se zagotovi, da se ne uporabljajo za množično uničenje. Države, za katere sumijo, da imajo orožje za množično uničevanje, včasih napadejo druge države, ki so zaskrbljene zaradi dolgoročnih posledic, kar nazorno dokazuje vojna v Iraku.