В этом обмене репликами первая фраза, выданная программой, не отвечает на заданный вопрос; по-видимому, это один из готовых ответов, выбранный по ключевому слову «тест Тьюринга». В следующей реплике судья использует слово «spose», которое в этом контексте может означать только «suppose» (англ. полагать) и является либо разговорной формой, либо опечаткой. Но «Элбот», по-видимому, интерпретирует его как spouse (англ. супруг) и отвечает заготовленной шуткой о браке. Значит, только по этому разговору, видно, что «Элбот» не работал со смыслом предложений судьи.

Когда судья любезно переключился на случайным образом предложенную «Элботом» тему масел, программа ее проигнорировала и уцепилась за слово «career» (англ. карьера, профессия), преобразовала его в синоним «occupation» (англ. занятие) и вставила его в предложение из заготовок.

Итак, величина успеха в стремлении создать «машины, которые умеют мыслить» на протяжении пятидесяти восьми лет после выхода статьи Тьюринга равна нулю. Но во всех других отношениях в области вычислительной техники и технологий за этот период был достигнут поразительный прогресс. Эта неудача, конечно же, не удивляет группу противников самой возможности искусственного интеллекта, которых становится все меньше, но только причина у них не та: они не понимают, насколько важна универсальность. А большинство ярых сторонников неизбежности искусственного интеллекта не понимают важности этой неудачи. Некоторые утверждают, что такая критика несправедлива: современные исследования в области искусственного интеллекта не ставят своей целью прохождение теста Тьюринга; в том, что сейчас называют «искусственным интеллектом», был достигнут большой прогресс во многих специализированных приложениях. Однако ни одно из этих применений не похоже на «машину, способную мыслить» [42] . Другие говорят, что критиковать пока нечего, потому что на протяжении большей части истории развития этой области скорость работы компьютеров и объем памяти были по сравнению с современными просто смешными. И потому они продолжают ожидать, что прорыв случится в ближайшие несколько лет.

Но и этого не произойдет. Дело не в том, что кто-то напишет чатбот, способный пройти тест Тьюринга, но ему потребуется год, чтобы просчитать каждый ответ. Люди охотно подождут. В любом случае если бы кто-то знал, как написать такую программу, то ждать было бы не нужно, и ниже я расскажу почему.

В своей статье 1950 года Тьюринг сделал такую оценку: для прохождения его теста программе, обладающей искусственным интеллектом, и всем данным, которые она использует, потребуется около 100 мегабайт памяти, а быстродействие компьютера не должно быть больше, чем у тогдашних компьютеров (примерно десять тысяч операций в секунду), и что к 2000 году «можно будет говорить о мыслящих машинах, не боясь, что тебя поймут неправильно» [43] . Но 2000 год уже наступил и прошел; в ноутбуке, на котором я пишу эту книгу, в тысячу раз больше памяти (считая и жесткий диск), чем определил Тьюринг, он работает в миллион раз быстрее (хотя из статьи не ясно, как Тьюринг учитывал параллельную обработку данных в мозгу). Но думать мой компьютер может не лучше, чем логарифмическая линейка Тьюринга. Однако с той же уверенностью, что и в свое время Тьюринг, я могу сказать, что этот компьютер можно запрограммировать так, чтобы он думал; и для этого действительно может потребоваться так немного ресурсов, как писал Тьюринг, хотя сегодня их доступно на порядки больше. Но какой должна быть программа? И почему о ней пока ничего не слышно?

Разум в том общем смысле, который имел в виду Тьюринг, – это одно из характерных свойств человеческого мышления, над которыми тысячелетиями ломали голову философы; среди других свойств – сознание, свободная воля и смысл существования. Типичной среди таких загадок является квалиа (лат. qualia (мн. ч.), quale (ед. ч.) – свойства, качества), что означает субъективный аспект чувственного опыта. Квалиа, например, – это чувственный опыт, заключающийся в том, что мы видим синий цвет. Рассмотрим следующий мысленный эксперимент. Вы биохимик, которому не повезло родиться с генетическим отклонением, из-за которого синеощущающие рецепторы в сетчатке глаза не работают. А значит, у вас форма дальтонизма, при которой вы можете видеть только красный и зеленый цвета, а также цвета, получающиеся при их смешении, например, желтый, но любой чисто синий объект для вас имеет один из тех смешанных цветов. Но вот вы выясняете, что есть лекарство, которое может все исправить. Прежде чем испробовать его на себе, вы можете уверенно сделать определенные прогнозы по поводу того, что будет, если лекарство поможет. Один из них заключается в том, что, когда вы в качестве проверки посмотрите на синюю карточку, вы увидите цвет, которого никогда прежде не видели. Вы можете предсказать, что назовете его «синим», потому что уже знаете, как называется цвет карточки (и можете проверить, какой это цвет, с помощью спектрофотометра). Вы также можете предсказать, что, когда вы впервые после принятия лекарства увидите ясное небо в светлое время суток, вы испытаете ту же самую квалиа, что и при виде синей карточки. Но есть нечто, что ни вы, ни кто-либо другой не может предсказать касательно этого эксперимента, а именно как будет выглядеть синий цвет. На сегодня квалиа неописуемы и непредсказуемы – уникальная ситуация, которая должна была бы вызывать серьезные вопросы у любого человека с научным взглядом на мир (хотя, по-видимому, в данном случае это в основном заботит философов).

Я считаю это поразительным доказательством необходимости фундаментального открытия, благодаря которому такие вещи, как квалиа, будут интегрированы в другие наши знания. Дэниел Деннетт приходит к противоположному выводу, а именно, что квалиа не существует! Строго говоря, он не утверждает, что квалиа – это иллюзия, потому что иллюзия о квалиа была бы этой квалиа. Он говорит об ошибочном убеждении. Интроспекция, то есть анализ воспоминаний о том, что с нами было, включая воспоминания о том, что произошло всего долю секунды назад, развилась до такой степени, что теперь сообщает нам, что мы испытали квалиа, но это ложные воспоминания. Одна из книг Деннетта, в которой он приводит доводы в защиту этой теории, называется «Объяснение сознания» (Consciousness Explained). Некоторые философы с усмешкой замечают, что правильнее было бы назвать ее «Отрицание сознания» (Consciousness Denied). И я с этим согласен, потому что, хотя любому верному объяснению квалиа придется столкнуться с доводами Деннетта против общепринятой теории их существования, просто отрицать их существование – это неразумное объяснение: таким образом можно отрицать все что угодно. Если все это верно, то потребуется подтверждение в виде разумного объяснения, за счет чего и почему эти ошибочные убеждения представляются кардинально отличными от других ложных убеждений, как, например, то, что Земля у нас под ногами покоится. Но, на мой взгляд, это снова напоминает исходную проблему квалиа: вроде бы они есть, но кажется невозможным описать, чем они нам представляются.

Однажды мы справимся и с этим. Проблемы решаемы.

Кстати, некоторые возможности человека, которые часто включаются в эту группу, связанную с универсальным интеллектом, на самом деле к ней не относятся. Среди них самосознание, наличие которого подтверждается, например, тем, что мы узнаем себя в зеркале. Некоторые люди очень удивляются, когда узнают, что этой способностью обладают различные животные. Но в этом нет ничего загадочного: это под силу и простой компьютерной программе по распознаванию образов. То же верно и для использования инструментов, применения языка для передачи сигналов (хотя и не для разговора в смысле теста Тьюринга), для различных эмоциональных реакций (но не связанных с ними квалиа). В текущем положении вещей полезным эмпирическим правилом будет следующее: если что-то уже можно запрограммировать, оно не имеет никакого отношения к интеллекту в смысле Тьюринга. И наоборот, я принял для себя следующий простой тест для оценки утверждений, включая сделанные Деннеттом, которые объясняли бы природу сознания (или любой другой вычислительной задачи): если что-то не получается запрограммировать, значит, вы этого не понимаете.

Тьюринг придумал свой тест в надежде обойти все эти философские проблемы. Другими словами, он надеялся, что сначала можно добиться функциональности, а потом уже объяснить ее. К сожалению, найти практические решения фундаментальных проблем, не объясняя, почему они срабатывают, удается очень редко.

Тем не менее идея теста Тьюринга, как во многом и эмпиризм, который она напоминает, была очень ценной. Она дала отправную точку для объяснения значения универсальности и для критики древних антропоцентрических допущений, которые исключали возможность искусственного интеллекта. Сам Тьюринг в своей судьбоносной статье методично опроверг все классические возражения (и заодно и некоторые абсурдные). Но его тест основывается на эмпирической ошибке, заключающейся в поиске чисто поведенческого критерия: он требует, чтобы судья вынес заключение безо всякого объяснения того, как должен работать испытуемый искусственный интеллект. Но ведь на самом деле, чтобы определить подлинность искусственного интеллекта, опираться на объяснения того, как он работает, нужно непременно.