Odborníci ve studii s názvem Existenciální riziko jako celosvětovou prioritu uvádějí, že politici se realitě vyhynutí celé lidské rasy musí vážně věnovat. Portál BBC v této souvislosti připomíná, že v loňském roce bylo publikováno více odborného materiálu o jízdě na snowboardu než o problematice vyhynutí lidstva.
Lidstvo podle Bostroma může být klidné, pokud jde o pandemie či přírodní katastrofy. Ty poslední tečku v jeho historii neučiní, ačkoli mohou způsobit kolosální ztráty na životech. Nick Bostrom se domnívá, že šance tyto katastrofy přežít jsou na naší straně, neboť jsme již přečkali tisíce let nemocí, hladomorů, záplav, zemětřesení, predátorů či přírodních změn.
Nebezpečím pro nás v rámci jednoho století není zřejmě ani dopad asteroidu, neboť takové riziko je "mimořádně malé". Také doposud bezprecedentní světové válečné konflikty ve 20. století nebo epidemie španělské chřipky růst populace nezastavily. Případná jaderná válka by sice přinesla děsivou destrukci, ale dostatek lidí pro pokračování lidského rodu by ji jistě přežil.
Technologie jako největší hrozba
Podle Bostroma ale lidstvo dosáhlo nového druhu technologické éry, který naši budoucnost může ohrozit jako doposud nic předtím. Tvrdí, že technologický pokrok již předčil naše schopnosti kontrolovat možné následky, což přirovnal k nebezpečné zbrani v rukou dítěte.
Experimenty v oblastech syntetické biologie, nanotechnologie či umělé inteligence rychle spějí do nechtěné a nepředvídatelné oblasti. Syntetická biologie, kde se snoubí biologie s inženýrstvím, slibuje velký přínos lékařství. Bostrom se ale obává neočekávaných následků.
Nanotechnologie, která pracuje na molekulární či atomové úrovni, by podle něj mohla přinést obdobnou destrukci, pokud by se využila pro válčení. Největší výzvou budoucích vlád podle něj bude kontrola a zabránění takového zneužití vědy.
Obavy plynou také z toho, jak umělá inteligence či inteligentní stroje zareagují na vnější svět. Počítačem řízená inteligence může být mocným nástrojem v průmyslu, medicíně, zemědělství či ekonomice, zároveň ale může být zcela lhostejná k jakýmkoli vedlejším škodám. Sean O'Heigeartaigh, který v institutu pracuje jako genetik, to přirovnává k algoritmům používaným v automatizovaném burzovním obchodování. Tyto matematické příkazy mohou mít ničivé důsledky pro skutečnou ekonomiku a skutečné lidi.
"Je velmi nepravděpodobné, že by (umělá inteligence) chtěla škodit," řekl O'Heigeartaigh. Dodal ale, že vždy existuje riziko nezamýšlené posloupnosti událostí, kdy něco začne škodit poté, co je převedeno do jiného prostředí.
Americký expert na superinteligenci strojů Daniel Dewey, který dříve pracoval pro technologickou společnost Google, hovoří o "explozi inteligence", kdy se rostoucí moc počítačů stává méně předvídatelnou a kontrolovatelnou.
"S touto technologií můžete činit věci s efektem řetězové reakce, takže s velmi málo zdroji v počátku můžete uskutečnit projekty, které mohou zasáhnout každého na tomto světě," řekl o umělé inteligenci, biotechnologii a nanotechnologii.
