Физика при жестком дедлайне

Если мы не можем полагаться ни на интуицию, ни на накопленный опыт, чтобы провести грань между сознательным и морально ответственным искусственным интеллектом и искусственным интеллектом бессознательным и морально нейтральным, придется нам опираться на идеи, под которыми есть более надежная основа.

И хотя физика может не предложить полного решения, она должна стать частью уравнения. Какая бы интерпретация квантовой механики в итоге ни оказалась верной, ясно одно: то, что значит быть, определяется развитием событий на квантовом уровне. Квантовая механика – это сцена, на которой развертывается само бытие, а следовательно, это и подразумеваемый фон для любых наших моральных выкладок.

Если прав Госвами, тогда возможно, что любой объект в мире обладает сознанием или является частью большего сознания. Лично я не думаю, что это так, но если он окажется прав, то нам, вероятно, уже сейчас стоит беспокоиться, что чувствуют создаваемые нами системы искусственного интеллекта.

Если прав фон Нейман, тогда возможно, что у людей наряду с некоторыми другими животными есть особый доступ к сознанию благодаря пока еще не открытому механизму, который к тому же дает нам способность вызывать коллапс квантовых систем, наблюдая их. Это тоже не кажется мне правдоподобным, но, если я ошибаюсь, нам нужно бросить значительно больше сил на то, чтобы понять, что это за механизм и как он работает, дабы соответствующим образом проектировать системы искусственного интеллекта.

Но если правы Эверетт или Бом, то одной физикой сознание не объяснить. Должен быть задействован еще один слой реальности – набор правил, определяющих, как обработка информации в физическом мире порождает чувственный опыт. Этот набор правил может оказаться чем угодно – панпсихизмом, дуализмом разума и тела или чем-то таким, о чем мы еще даже не задумывались.

Кроме того, Эверетт и Бом предлагают нам картины реальности, полностью исключающие свободу воли, что ставит перед нами самые что ни на есть фундаментальные вопросы: например, как нам перестроить свои законы и философию, чтобы они были применимы не только к биологическим, но и к искусственным субъектам?

Какая из этих интерпретаций правильная, никто не знает. Может, вообще никакая. Но ставки слишком высоки, чтобы притворяться, будто они, наоборот, ничтожны. Нам так или иначе придется научиться вдумчиво рассматривать теории, которые двадцать пять процентов физиков считают самоочевидными, а пятьдесят процентов – смехотворными, ведь других вариантов у нас просто нет. Иначе мы так и будем повторять ошибки прошлого, изображать Бора и душить на корню представления, которые нам не по душе, поскольку они не соответствуют нашим произвольным эстетическим предпочтениям и научной моде. В краткосрочной перспективе такой подход может породить несколько крутых вирусных твитов, но обречет нас на крайне унылое будущее.

Все это одновременно и ужасает, и вдохновляет: нам нужно решить эту задачу по физике в условиях жесткого дедлайна, поскольку наши технологические возможности начинают опережать философские. Нам нужно проделать большую работу по укоренению таких неоднозначных, нечетких областей, как этика, в более строгих вроде физики. И мы должны будем сделать это, не погрязнув в спорах об эстетике.

Простых ответов не будет

Наше путешествие мы начали с того, что люди задумались над своим местом в тварном мире. Мы увидели, как много квантовая физика может привнести в эти размышления, как сильно она их обогащает и почему это важно.

Однако главная, возможно, причина, по которой квантовая механика самопознания человека важна, состоит в том, что она определяет, как мы понимаем свою ответственность как творцов. Если мы действительно собираемся создавать ИИ с когнитивными способностями на уровне человека, вероятно, стоит время от времени сверяться с квантовым меню, чтобы убедиться, не упускаем ли мы из виду какие-то риски, которыми чревата наша деятельность.

Мне бы, конечно, очень хотелось предложить вам что-нибудь получше. Мне бы очень хотелось иметь возможность сказать: «Вообще-то нам не обязательно разбираться со всей этой ужасной неопределенностью. Вот интерпретация квантовой механики, которая действительно работает».

Увы, единственным честным ответом на вопрос «Хорошо, но какая картина квантовой механики действительно верна?» будет «Не знаю, и никто не знает». Экспериментальные данные не дают нам никаких оснований предпочесть какую-то одну картину, и почти наверняка найдутся другие картины, которые могли бы оказаться верными, но просто никому еще не пришли в голову!

Зато я могу ответить на более кликабельный вопрос: «А какая интерпретация квантовой механики по душе вам?» Ответ на него вряд ли полностью вас удовлетворит, но зато позволит мне кратко напомнить материал всех этих глав, что мы изучили вместе. К тому же сейчас очень органично будет смотреться надпись, которую я смогу использовать для платной электронной версии:

конец ознакомительного фрагмента. на самом интересном месте. чтобы продолжить чтение, войдите на сайт или зарегистрируйтесь.

Если вы принадлежите к какой-то официальной религии и верите в загробную жизнь, души и одного или нескольких богов, вас, вероятно, привлекут картины Госвами и фон Неймана, основанные на идее сознания. Теория коллапса «просто так» тоже может оказаться притягательной, поскольку оставляет окошко для свободы воли, к тому же можно утешаться тем, что результат коллапса определяется божественным вмешательством. Зато детерминистическая картина Бома вам вряд ли покажется симпатичной, поскольку едва ли позволяет утверждать, что свобода воли существует, а в свободу воли в рамках официальных религий положено верить. Наконец, теория Эверетта почти наверняка вызовет у вас отвращение, поскольку предполагает, что ваше милосердное божество (или несколько божеств) создало параллельные вселенные, в которых невинные люди незаслуженно страдают.