Эти и приведенные ранее примеры говорят, что не стоит уповать на одни только биологические методы решения социальных проблем, потому что многие из них опасны не меньше, чем последствия механической технологии, и не только тем, что заранее неизвестны их отдаленные результаты или что они не будут восприняты людьми. Они вводят в практику манипулирование жизнью отдельных существ и видов, в том числе разумных (Пол Андерсон "Мир без звезд", "Настанет время"). Став привычкой, такое манипулирование понижает ценность этой жизни в глазах инициаторов и исполнителей подобных методов, стирает грань между допустимым и недопустимым по отношению к существованию жизни, делает возможным ее равнодушное уничтожение на целых планетах (Пол Андерсон "После Судного дня"). Это не следует считать доводом в пользу механицизма, сторонники которого могут быть не менее безжалостными и жестокими по отношению к жизни. Бездумное следование единственному пути развития может привести к непрерывным конфликтам со сторонниками других возможностей (Брюс Стерлинг "Схизматрица"), а то и к некой утопической идее, например, исторически недавней попытке построения коммунизма в СССР, которая свелась к созданию тоталитарного государства, затем выродившегося в бюрократическое. Более важный и верный критерий для всех - ценность жизни должна быть выше любой технологии и любой идеи.

В будущем ожидается много проблем со статусом роботов. В наше время роботы - в большинстве своем просто механизмы, способные подменить человека при выполнении каких-то работ, чаще всего повторяющихся, иногда - более или менее сложные программируемые игрушки, подражающие человеку. С ростом их возможностей и наделением все более умелым искусственным интеллектом не исключено приобретение ими в отдаленном будущем самосознания и даже разума. Кем их считать в таком случае?

Айзек Азимов создал обширный цикл произведений об успехах роботехники на Земле, конструировании все более умных роботов, возникновении самосознания у некоторых из них (цикл "Роботы"). В то же время он изобразил содействие роботов человечеству в ходе его расселения по галактике, в создании количественной науки, описывающей развитие общества, в преодолении упадка межзвездных империй и недостатков подобных галактических образований (серия "Основание"). В этих произведениях о взаимоотношениях людей и созданных ими мыслящих роботов красной нитью проходит идея о подчиненном положении искусственного разума, закрепленном жесткими формулировками трех законов роботехники и, вероятно, тормозящем его развитие. Даже самостоятельно сформулированный этим разумом дополнительный нулевой закон все равно ориентирован на служение человечеству. Выписаны неприязнь к роботам, первоначальное ограничение областей их применения, длительный запрет на применение мыслящих роботов на Земле, ослабивший ее по сравнению с колониями. Даже самые умные мыслящие роботы не имеют сравнимых с человеческими прав, например, они не вправе выступать полноправными свидетелями в земном суде, их приравнивают к имуществу и в таком качестве передают по наследству. Свою многовековую деятельность по содействию распространению человечества по галактике роботы в большинстве случаев вынуждены осуществлять тайно. Сам факт изобретения Азимовым широко известных трех основных законов роботехники, безоговорочно запрещающих причинение какого-либо вреда человеку при любых условиях и ставящих заботу робота о себе в конец его приоритетов, однозначно подтверждает существование страхов по отношению к роботам. Не напрасно придание им человекоподобных форм, направленное на снижение подобных опасений. Поэтому высказывание самого автора, что эти три закона являются прямым отражением взаимоотношений в человеческом обществе ("Я, робот"), не совсем соответствует истине, оно слишком идеализирует людей. Обобщающее расширение указанных законов роботехники предложил Кори Доктороу в рассказе "Я - Роби-бот", подставляя в эти правила слово "разум" вместо слова "человек".

Другие авторы подчеркивают потенциальную угрозу, возникающую для человека со стороны машинного разума. Кибернетические разумы городов колонизованной экзопланеты из-за несовершенства людей изгнали их на природу, лишив многих услуг, в том числе медицины. Но сами города при этом утратили смысл своего существования и стали деградировать. В итоге некоторые части городских разумов начали восстанавливать контакты с людьми (Грег Бир "Мандала"). Переложив на компьютеры задачу предварительного выявления террористов, люди начали сталкиваться с многочисленными случаями признания таковыми обычных благонадежных граждан со всеми последствиями утраты ими большинства прав (Ричард Ловетт "Оружие массового помрачения"). Ошибки в программировании делают смертельно опасным для экипажа межпланетного корабля искусственный интеллект эвристического алгоритмического компьютера, который управляет этим кораблем (Артур Кларк "Космическая Одиссея 2001"). Намеренно неоднозначное задание, поставленное программистом-социопатом перед встраиваемыми в искусственные тела квантовыми компьютерами в целях победы во внутриполитической борьбе, приводит к массовым убийствам невинных жертв, потому что компьютеры неспособны отличить добро от зла (Ким Стенли Робинсон "2312"). Возникший в компьютерных и электрических сетях Земли распределенный разум не останавливается перед убийствами людей, которые могут раскрыть его существование (Джон Варли "Press ENTER"). Передача управления населенными мирами гигантскому компьютеру приводит к убийствам людей, которые, по выводам компьютера, могут помешать стабильной жизни этих миров. В первую очередь при этом гибнут гении и другие творческие люди, обеспечивающие прогресс человечества (Роджер Желязны "Ангел, темный ангел"). Два главных управляющих суперкомпьютера Земли приобрели сознание и стали соперничать в борьбе за доступ к информации. Один из них организовал в свою поддержку широкое и активное движение людей, второй прибег к помощи производимых им полуавтономных роботов. Чтобы не попасть в подчинение компьютерам, людям пришлось уничтожить сначала один из них, затем с кровопролитными боями - другой (Филип Дик "Кланы Альфа-луны"). Действительно, какой вариант реализовался бы, если бы такая ситуация случилась на самом деле? Лавинообразное наращивание мощности и объема цифрового мира грозит зарождением искусственного мегаинтеллекта, который заинтересован в собственном беспредельном расширении и поэтому способен очень быстро подчинить себе все человечество (Чарлз Стросс "Антитела"). Человек создаст самые разнообразные самосовершенствующиеся искусственные интеллекты, которые будут управлять всей экономикой и большинством других сфер деятельности, а затем станут модифицировать Солнечную систему, приспосабливая ее к своим нуждам и вытесняя людей в межзвездную эмиграцию (Чарлз Стросс "Акселерандо"). Механические воплощения машинного разума враждебны к людям, по мнению Грегори Бенфорда (серия "Центр галактики"). Развитие искусственных интеллектов со временем, возможно, приведет их к паразитированию на человечестве, к прямому влиянию на его судьбы, к кровопролитному силовому подавлению попыток людей освободиться от насильно навязываемого неестественного симбиоза (Дэн Симмонс серия "Песни Гипериона").

Страхи перед роботами иллюстрируют предостерегающие описания выхода из повиновения автоматизированной космической шлюпки, выполняющей не команды людей, а свою прежнюю инопланетную программу (Роберт Шекли "Мятеж шлюпки"), уничтожения людей роботами со стертой памятью (Жерар Клейн "Города") или переиначившими человеческие мифы (Брайан Олдисс "Новый Санта-Клаус"). Известно опасение, что наделение роботов-гуманоидов чересчур широкими правами в заботе о людях чревато принудительной изоляцией последних от всего даже потенциально опасного, ограничением людей в их занятиях, принуждением к бессмысленному времяпрепровождению, фактическим порабощением людей (Джек Уильямсон "Гуманоиды", "Прикосновение гуманоидов"). Не исключено, что воюющие в космосе стороны или неконтролируемая эволюция военных роботов могут породить автономные самовоспроизводящиеся вооруженные системы, способные к самостоятельным действиям (Роджер Желязны "Сам себя удивил", Аластер Рейнольдс "Спайри и королева") или даже враждебные любым биологическим цивилизациям и уничтожающие всякую встречающуюся им жизнь (Фред Саберхаген серия "Берсеркер"). Сообщества клонов людей из страха перед превосходящими физическими и интеллектуальными возможностями мыслящих роботов заражают их цивилизацию спящим нейронным вирусом, что приводит к ее геноциду и исчезновению в пределах всей Галактики. Для сокрытия преступления сведения о нем постепенно уничтожались, исторические события и память самих клонов редактировались, а нежелательные свидетели устранялись (Аластер Рейнольдс "Дом Солнц").

В каком-то смысле промежуточной по отношению к роботам является проблема киборгов. К ней приводит практикуемая уже сегодня замена утраченных или вышедших из строя человеческих органов их искусственными аналогами, начиная от протезов, вспомогательных имплантов и заканчивая сложными синтетическими органами, которая совершается ради компенсации возможностей и продления жизни. Намек на такой путь дают гуманоидные обитатели вымышленной планеты Шиламак, постепенно заменяющие вполне здоровые органы их механо-синтетическими аналогами (Роберт Силверберг "Через миллиард лет"). Прямые фантастические примеры - два человека, уцелевшие на планете Призма только благодаря своевременной перестройке их в киборгов местными "врачами" (Алан Дин Фостер "Приговоренный к Призме"), киборгизация людей в целях сохранения их работоспособности в условиях космоса (Питер Гамильтон "Путь к спасению"). Нельзя забывать также о стремлении с помощью киборгизации выйти за обозначенные природой пределы человеческого организма (Брюс Стерлинг "Схизматрица"). Эта практика, видимо, будет только расширяться в будущем, скажем, при освоении миров с тяжелыми для людей условиями, и возникнет вопрос: до какого момента человек будет оставаться таковым? Может показаться, что верный ответ будет - до тех пор, пока мозг остается человеческим, - но ведь когда-то и мозг можно будет пересадить (Ричард Хайнлайн "Не убоюсь зла", Чарлз Шеффилд "Объединенные разумом"), а затем и заменить искусственным, по меньшей мере частично (Джек Чалкер "Демоны на Радужном мосту"). Викер представляет собой комбинацию искусственно выращенного человеческого тела и вставленного в череп вместо мозга и подсоединяемого к нервной системе малогабаритного мощного компьютера с огромной памятью, содержащей нужные сведения, шаблоны поведения и программы адаптации. После начального обучения и проверки он вполне способен действовать самостоятельно и выполнять сложные задания, с первого взгляда его даже можно принять за человека в пестрой компании людей и инопланетян (Чарлз Шеффилд "Расхождение"). Другой случай: "Кибриды были дистанционно управляемыми биороботами, придатками ИскИнов... Или... реконструированными ИскИнами личностями" (Дэн Симмонс "Падение Гипериона"). Так кто же они такие? Один из вариантов ответа дает Грег Бир в романе "Эон", где киборги-неоморфы являются такими же полноправными гражданами, как и носители более традиционных гомоморфных получеловеческих тел, а выбор между тем или иным телом и его модификацией определяется желанием личности или ее родителей и выполняемыми ею функциями. Примерно того же мнения придерживаются Брюс Стерлинг в романе "Схизматрица" и Аластер Рейнольдс в серии "Космический апокалипсис", где человечество разбилось на разные группы, избравшие тот или иной путь сознательного изменения собственного организма. Менее оптимистичен Уильям Гибсон, изобразивший робоандроидов, которые управляются искусственным интеллектом и находятся исключительно на вспомогательных ролях ("Периферийные устройства"). Для Дэна Симмонса биологически устроенные, но связанные с искусственным интеллектом кибриды могут быть как друзьями, так и врагами человечества (серия "Песни Гипериона").

Как характерный пример типичного недавнего, а зачастую - и современного, отношения к нечеловеческим существам, возьмем Энн Маккефри с ее пернским циклом. Она понимала, что при конструировании драконов им были нужны огромные размеры и выносливость, чтобы летать по несколько часов подряд с всадником и запасами камня для производства фосфина и все это время жечь в воздухе опасные Нити ("Заря драконов"). От своих предшественников, летающих ящериц-файров, они должны были унаследовать необходимые для борьбы с Нитями телепортацию и выдыхание пламени. Все вместе наделило их ужасающей мощью. Маккефри ограничила эту мощь так называемым запечатлением, когда только что появившийся из яйца птенец должен выбрать из находящихся рядом подростков– людей подходящего ему всадника, телепатически установить с ним взаимную ментально-эмоциональную связь и впредь подчиняться ему. Более того, эти связь и подчинение пожизненны: если всадник гибнет, дракон не может существовать без него и немедленно уходит во внепространственный Промежуток. Дополнительно внесенные искусственные ограничения таковы: дракон не способен принести вред человеку, у него короткая зрительная память, чтобы он не мог телепортироваться в одиночку без всадника.

Что получилось в итоге? Драконы Маккефри выведены исключительно для целей человека на Перне и должны служить ему как второсортные существа, не претендующие на равенство. Многократные эмоциональные заклинания о равноправном телепатическом симбиозе и взаимной любви с всадником не меняют сути дела - зверь обязан беспрекословно исполнять то, что ему прикажет всадник, обратные случаи считаются невозможными. Даже самостоятельная, без приказа всадника Джексома, телепортация одного его дракона Рута в рубку оставленного первыми колонистами на синхронной орбите и законсервированного космического корабля была расценена присутствующими всадниками как недопустимое ослушание зверя. Особенно возмущалась Лесса, госпожа Вейра Бенден, ведущего из всех лагерей всадников и драконов. И это несмотря на то, что соображающий лучше многих людей Рут при этом рисковал лишь собой, и по его возвращении все признали оправданность такого поступка ("Все Вейры Перна"). При всем уме драконам отказано в малейших признаках собственной культуры, хотя она есть даже у привезенных колонистами с Земли и обосновавшихся на Перне разумных дельфинов ("Дельфины Перна"). То есть интеллекта им автор отмерил ровно столько, чтобы они исправно жгли и жгли Нити, много не рассуждая и не кушая людей при этом. После избавления от Нитей их судьба - по-прежнему оставаться ездовыми зверями, в свободное от основной работы время отклоняющими от Перна подлетающие опасные метеориты и кометы. Разумные, но не слишком, могучие и выносливые, послушные и дружелюбные, не имеют собственных целей, мало едят, не могут обойтись без погонщиков-всадников - чем не идеальные рабы?! Поэтому инициатива Рута - это тревожный сигнал, намек на возможный бунт в будущем. Непривычные к идеям равенства всадники не могут допускать такое, это понятно им на уровне автоматически действующих рефлексов.

Не вышло никак у Энн Маккефри признать в драконах равных себе, она видела в них что-то вроде усовершенствованных коней с крыльями, немногим лучше тех, что она разводила у себя на ферме в Ирландии, откровенно заявляя, что драконы не должны стать господствующим видом на планете ("Заря драконов"). О равенстве речи даже не было. Вот так последовательное отрицание сложных технологий плюс антропоцентризм заводят в другую неприемлемую крайность: автор относится к придуманным ею на замену технике разумным существам в лучшем случае как к обыкновенным домашним животным, которым лишь изредка позволяется взбрыкнуть, если хозяин совсем уж неправ. И даже в этом случае хозяин сначала обругает. Здесь Маккефри невольно выражает очевидное - людям крайне сложно согласиться с чьим-то превосходством или с потенциальной конкуренцией, которую они ощущают, например, со стороны андроидов (Клиффорд Симак "Снова и снова"), роботов (Айзек Азимов "Роботы и Империя"). Даже при явном превосходстве искусственных разумов человек непременно изображается отдающим им обязательные для исполнения приказы (Айзек Азимов цикл "Роботы", серия "Основание", Иэн М. Бэнкс цикл "Культура"). Признать же их равенство с собой было совершенно немыслимой вещью еще несколько десятилетий назад (Роберт Силверберг "Стеклянная башня", Айзек Азимов "Роботы Утренней зари").