не дает никаких числовых оценок, но оценивает риск исчезновения в «Катастрофе» как «существенный». А в 2002 году была опубликована статья, в которой предполагалось, что приписывание экзистенциальной катастрофе вероятности менее 25% (без ограничений по времени) было бы ошибочным. Концепция экзистенциального риска отличается от концепции риска исчезновения. Был придуман термин, экзистенциальная катастрофа – это катастрофа, которая вызывает либо уничтожение разумной жизни, зародившейся на Земле, либо постоянное и серьезное ограничение ее потенциала для будущего желаемого развития.
Вполне возможно, что тревожная картина, которую представляют эти мнения, обусловлена предвзятостью публикаций. Ученые, которые считают, что угрозы выживанию человечества серьезны, возможно, с большей вероятностью напишут книги на эту тему, в результате чего угроза вымирания будет казаться большей, чем она есть на самом деле. Однако примечательно, что среди тех исследователей, которые серьезно изучали этот вопрос, похоже, существует консенсус в отношении того, что существует серьезный риск того, что путь человечества закончится преждевременно.
Наибольшие риски вымирания (и экзистенциальные риски в целом) возникают в результате деятельности человека. Наш вид пережил извержения вулканов, падения метеоритов и другие стихийные бедствия на протяжении десятков тысяч лет. Кажется маловероятным, что какой-либо из этих старых рисков может уничтожить нас в ближайшем будущем. Напротив, человеческая цивилизация привносит в мир множество новых явлений, начиная от ядерного оружия и заканчивая дизайнерскими патогенами и коллайдерами частиц высоких энергий. Наиболее серьезные экзистенциальные риски этого столетия возникают из-за ожидаемого технологического развития. Достижения биотехнологии могут позволить создать новые вирусы, сочетающие в себе легкость заражения и изменчивость вируса гриппа с летальностью ВИЧ. Молекулярная нанотехнология может позволить создать системы вооружений, разрушительная сила которых затмит как термоядерные бомбы, так и боевые биологические агенты. Сверхразумные машины могут быть построены, и их действия могут определить будущее человечества – и будет ли оно вообще. Учитывая, что многие из экзистенциальных рисков, которые сейчас кажутся одними из наиболее значительных, были концептуализированы только в последние десятилетия, вполне вероятно, что другие еще предстоит обнаружить.
Те же технологии, которые создадут эти риски, также помогут нам смягчить некоторые из них. Биотехнология может помочь нам разработать более совершенную диагностику, вакцины и противовирусные препараты. Молекулярная нанотехнология могла бы предложить еще более мощные профилактические средства. Сверхразумные машины, возможно, станут последним изобретением, которое когда-либо понадобится людям, поскольку сверхинтеллект по определению будет гораздо более эффективным, чем человеческий