Сверхразум. — Хотя в целом трансгуманисты желают создания сверхразума, некоторые опасаются, что плохо запрограммированный сверхразум может захотеть истребить всех людей или даже уничтожить всю разумную жизнь, включая себя. Что еще усиливает такие опасения, так это идея о том, что сверхразум умственно будет столь чуждым нам и столь превосходящим человеческий разум, что для нас будет очень сложно предвидеть или регулировать его мотивацию и невозможно контролировать его против его воли. [См. "Как постлюди или сверхразумные машины будут относиться к людям, чьи возможности не были расширены?"]

Ядерное и биологическое оружие. — Ядерное и биологическое оружие продолжают оставаться угрозами. Сегодняшних запасов оружия недостаточно, чтобы полностью уничтожить наш вид. Однако вполне возможно, что в будущем с помощью генной инженерии будут созданы еще более смертельные биологические агенты, чем мы имеем сегодня. Хочется надеяться, что разработка вакцин и противоядий не будет отставать от разработки токсинов и возбудителей болезней, но мы не может быть в этом уверены.

Предотвращение распространения оружия массового уничтожения должно иметь самый высокий приоритет для любой ответственной страны. Помимо масштабной войны, способной уничтожить наш вид, слишком легко представить себе "государство-изгой" или террористическую группу, использующих, возможно, с целью шантажа, оружие массового уничтожения, чтобы вызвать большие потери среди гражданского населения и разрушить цивилизацию.

Другие сценарии конца света. — Быстро усиливающийся парниковый эффект, при котором из-за потепления выделяется все больше и больше метана, который сам является парниковым газом, (по мнению большинства трансгуманистов, едва ли это приведет к нашему вымиранию); естественные пандемии, быстро распространяющиеся через межконтинентальный транспорт (вряд ли они погубят нас, но к этому нужно относиться серьезно); столкновение с кометой или астероидом (очень маловероятно); распад метаустойчивого вакуума, вызванный физическими экспериментами в области высоких энергий (энергия, достижимая сегодня, значительно значительно ниже даже энергии космического фонового излучения, но в будущем могут быть разработаны более мощные методы ускорения частиц, которые могут оказаться потенциально опасными). Бесспорно, что существуют и другие опасности, о которых мы пока не догадываемся. В этой связи представляет интерес спорный аргумент Картера-Лесли о конце света (Carter-Leslie Doomsday argument), в котором на основании теоремы Байеса и нескольких небольших эмпирических предположений, делается вывод о том, что риск гибели человечества до сих пор систематически недооценивался [см. ссылку].

Ссылки: Drexler, E. 1986. The Engines of Creation: The Coming Era of Nanotechnology, chapters 11–15.Эрик Дрекслер. 1986. Машины созидания: Грядущая эра нанотехнологии, пер. М. Свердлова, главы 11–15.Leslie, J. 1996.The End of the World: The Ethics and Science of Human Extinction. Routledge. Bostrom, N. 1996. "Observational Selection Effects and Probability" http://www.anthropic-principle.com/preprints.html

Это будет зависеть от мотивации постлюдей, поэтому пока никто не знает точного ответа. Давайте рассмотрим три возможных сценария:

(a) Возможно, что будущее общество будет включать и людей, и постлюдей, а также множество видов транслюдей. В том случае, если постлюди разовьются постепенно, можно легко представить, что в течение определенного периода времени совершенно разные жизненные формы будут мирно сосуществовать. Возможно, что первоначально люди будут доминировать из-за своей численности, но вскоре влияние постлюдей возрастет.

Когда постлюди станут значительно сильнее, чем люди (это может случиться быстро или занять несколько десятилетий), вероятно, что отношения изменятся от равенства к чему-то еще. Здесь мы можем выделить два варианта, один оптимистичный, а другой пессимистичный.

(b) Оптимистичный вариант предполагает, что постлюди пощадят людей и продолжат мириться с их существованием. Постлюди смогут жить как добрые полубоги среди людей и помогать им, когда те оказываются в беде, например, заботясь об окружающей среде или о том, чтобы ни один человек не голодал. Любой человек, который пожелает стать постчеловеком, получит такую возможность, но те, кто предпочтет остаться человеком, смогут вести традиционную человеческую жизнь. А если обычные люди не захотят, чтобы постлюди жили среди них, постлюди смогут найти достаточный Лебенсраум ("жизненное пространство") на других планетах и в других солнечных системах. (c) Пессимистичный вариант (по крайней мере, с человеческой точки зрения) предполагает, что постлюди решат, что люди представляют собой совершенно неэффективный способ использования материи и энергии, которым можно найти лучшее применение. Если постлюди не будут изначально ограничены требованиями дружественности и не будут связаны моралью, которая говорит, что это плохо, они могут принять меры, которые повлекут за собой вымирание человеческого рода. Может быть, после этого они превратят нашу планету в гигантский компьютер или в космические зонды, которые будут разосланы к звездам для ускорения колонизации Вселенной.

Люди и транслюди могут предпринять упреждающие действия, чтобы сделать (b) более вероятным, чем (c). Ведь, хотя постлюди и станут в конечном счете намного сильнее людей, постлюди будут либо искусственными разумами, первоначально сконструированными людьми, либо людьми, которые сделали следующий шаг в своем развитии. В первом случае, мы можем позаботиться о том, чтобы ценности толерантности и уважения к человеческому благополучию были заложены в самой основе их программ, являясь частью нерушимого морального кодекса. Во втором случае, мы можем увеличить шансы, пропагандируя эти качества сегодня среди людей, так что люди, которые в конце концов разовьются в транслюдей, будут обладать высокими этическими стандартами. И в обоих случаях может оказаться полезным продолжать укреплять традиции демократии, а в идеале, перевести принципы законности из национальной в международную плоскость.

Технология не решит никаких проблем. Что технология сделает, так это даст нам необычнайно мощные инструменты, которые мы сможем использовать, чтобы решить практически все материальные проблемы (в том числе, обеспечить каждому человеку материальное изобилие) — при условии, что мы будем достаточно предусмотрительны, чтобы предпринять необходимые меры безопасности, и что мы будем достаточно расположены к сотрудничеству, чтобы не использовать новые технологии для междуусобной войны.