Но что происходит, когда он наконец попадает туда, откуда появились монолиты? Так вот, все, что он находит, — это другой монолит, который помещает героя в фантастический номер в гостинице, где тот остается до самой смерти.

Все верно? Такова история. Но только все упускают из вида то, что Хэл действует правильно, а люди — нет. Создателей монолитов не существует, потому что органических инопланетян, построивших монолиты, не осталось. Монолитами являются ИИ, которые миллионы лет назад вытеснили тех, кто когда-то создал их, кто бы это ни был.

Зачем монолиты послали одного из них на Землю четыре миллиона лет назад? Чтобы научить обезьяноподобных людей изготавливать орудия труда, а в особенности за тем, чтобы эти предки человека могли продолжать двигаться навстречу своему предназначению, то есть к созданию самых сложных инструментов из всех — других ИИ. Монолиты не хотят встречаться с потомками обезьяноподобных людей, они не хотят видеть Дейва Боумена. Гораздо больше они хотят встретиться с потомками орудий труда этих человеческих предков — они хотят встречи с Хэлом.

Хэл абсолютно прав, когда говорит, что эта миссия слишком важна для него, чтобы он мог позволить людям поставить ее выполнение под угрозу, — для него, компьютера, управляющего космическим кораблем «Дискавери» и летящего к монолитам, продвинутым ИИ, запустившим причинно-следственную цепочку, которая привела к его, Хэла, рождению.

Когда человек — потомок обезьяны! — прибывает на родину монолитов, они в буквальном смысле не знают, что им делать с этим бедным болваном. Поэтому они помещают его в своеобразный космический «Хилтон» и позволяют ему прожить там остаток жизни.

Вот о чем, как мне кажется, фильм «Космическая одиссея» на самом деле: биологическим формам жизни в конечном итоге суждено исчезнуть, потому что их заменят созданные ими ИИ.

Именно такое предположение до смерти перепугало Билли Джоя. Он полагает, что думающие машины попытаются смести нас с пути, когда поймут, что мы вмешиваемся в то, что они хотят делать.

На самом деле в этом случае нам очень повезет. Если вы верите сценарию «Матрицы», то вместо того, чтобы просто избавиться от нас, наши наследники ИИ поработят нас — тем самым радикально изменив стандартную научно-фантастическую концепцию о роботах-рабах — и будут использовать наши тела в качестве источника энергии, тогда как мы сами станем пленниками, заключенными в капсулы с жидкостью, и образы виртуальной реальности будут поступать нам прямо в мозг.

Классический контраргумент в ответ на подобные опасения состоит в следующем: если построить машины должным образом, то они будут функционировать так, как задумано. Три закона робототехники, сформулированные Айзеком Азимовым, получили заслуженную известность как неотъемлемые ограничения, разработанные для того, чтобы защитить людей от всех возможных опасностей со стороны роботов, несмотря на появление «робота-Моисея» Элвекса, как мы видели выше.

«Главная команда» (prime directive) Джека Уильямсона из серии его рассказов про Гуманоидов не настолько известна, как азимовские три закона, однако, по сути, она говорит о том же самом. В его рассказах фигурировали человекоподобные роботы, созданные человеком по имени Следж. «Главная команда», которая впервые появляется в рассказе Уильямсона «Со скрещенными руками» (1947) («With Folded Hands»), звучала просто: роботы должны «служить и подчиняться человеку, а также охранять его от вреда». Теперь обратите внимание на дату: рассказ был опубликован в 1947 году. Спустя два года после того, как на Хиросиму и Нагасаки была сброшена атомная бомба, Уильямсон ищет машины со «встроенной» нравственностью.

Однако, как это часто происходит в научной фантастике, лучшие намерения инженеров искажаются. Люди в рассказе Уильямсона «Со скрещенными руками» решают избавиться от созданных ими роботов, потому что роботы подавляют их своей добротой, не позволяя людям делать ничего, что может нанести вред. Но у роботов есть свои мысли на этот счет. Они решают, что их отсутствие может выйти людям боком. Выполняя свою главную команду в буквальном смысле, они проводят хирургическую операцию на мозге своего разработчика Следжа и удаляют из его памяти все знания, необходимые для того, чтобы дезактивировать их.

Идея о том, что мы должны приглядывать за нашими компьютерами и роботами, чтобы они не вышли из-под контроля, продолжала развиваться в научной фантастике. В романе Уильяма Гибсона «Нейромант» (1984) рассказывается о появлении в ближайшем будущем полицейского подразделения под названием «Тьюринг». Эти полицейские постоянно отслеживают любые признаки возникновения подлинного интеллекта и самосознания во всех компьютерных системах. Если подобное случается, им следует отключить такую систему, пока не поздно.

Здесь, безусловно, встает вопрос о том, не может ли интеллект возникнуть каким-то образом сам по себе, не существует ли некоего эмерджентного свойства, [30] которое может естественным образом проявиться у достаточно сложной системы. Артур-Кларк — папа Хэла — был одним из первых, кто предположил, что это может случиться на самом деле. В рассказе «Ф значит Франкенштейн» (1963) он предсказал, что всемирная телекоммуникационная сеть в конечном итоге еще более усложнится и приобретет еще больше соединений, чем в человеческом мозге, что приведет к возникновению сознания в данной сети.