Может ли машина мыслить?

Но вместе c тем в том же интервью содержался ряд довольно рискованных предположений, которые тоже заслуживают того, чтобы их прокомментировать — ведь это характерная черта эпохи, и забывать о ней было бы неправильно. Виктор Михайлович принадлежал к числу ученых, отвечавших на вопрос, поставленный в подзаголовке, практически безусловным «да». В интервью он много времени посвящает рассуждениям о том, что можно передать в машину само человеческое «я». Эта часть из его интервью напоминает фрагменты из фантастических книг некоторых современных авторов, а не рассуждения серьезного ученого:

«Сейчас учеными совершенно серьезно обсуждается проблема передачи машине информации с помощью биотоков. Человеку на голову надевают специальный шлем, который улавливает импульсы тока, выделяемые мозгом в процессе его деятельности. Импульсы эти будут расшифровываться, переводиться на машинный язык и вводиться в компьютер. Такой перевод на машинный язык, по-видимому, будет необходим, так как мозг действует скорее всего совершенно иначе, чем ЭВМ, — „нецифровым“ способом. И таким образом вся информация, весь мыслительный процесс будет попадать непосредственно в электронно-вычислительную машину. Она будет воспринимать все приказы человека, лишь только он успеет о них подумать.

А теперь попытайтесь мне ответить на вопрос, что же такое человеческое самосознание…

Можете не стараться. Пока еще никто, даже из специалистов, не смог бы с полной уверенностью в своей правоте ответить на этот, казалось бы, и простой вопрос. Ученые так и не пришли к окончательному мнению, является ли самосознание генетически наследуемым или же оно плод информации, получаемой нами из внешнего мира, от общения со всеми и всем окружающим нас, то есть плод нашего мышления. И этот, второй, вариант вполне реален. Ведь возможно, что любой из нас познает, что он есть именно он, в процессе познания окружающего его мира, в процессе знакомства с подобными ему существами, в процессе изучения самого себя.

А попытайтесь ответить мне: что же такое вы сами, что такое ваше „я“ — телесная оболочка, которая, между прочим, постоянно меняется, или же ваши мысли, которые, хотя и претерпевают некоторые изменения, все же являются продуктом деятельности именно вашего мозга? Конечно, попутно вы можете возразить, сказав, что и мысли бывают заимствованными из книг или в процессе общения с кем-то. Это верно только отчасти, так как и в этом случае вы преломляете их в своем мышлении. Они как бы направляют ваше мышление, но никак не становятся им самим.

— Исходя из известной фразы: „Я мыслю, значит, я существую“, — можно сделать вывод, что любой из нас, а в данном случае и я сам, — это все же мои мысли, а не моя внешняя, физическая структура. Ведь человеческая индивидуальность складывается именно из мыслей, воспоминаний, из хода рассуждений, а не из внешних данных. Хотя, пожалуй, и они порой накладывают свой отпечаток на человека, на его образ мышления. Известно же, что многие внешне красивые люди, и в первую очередь женщины, холодны, эгоистичны, расчетливы. А человек, имеющий какой-то физический недостаток, чаще всего застенчив. Конечно, бывает и не так. Но подобные исключения только подтверждают правило.

— Что ж, в общем-то, все это правильно. Однако имейте в виду, что определенные черты характера формируются не самой внешностью, а внушаются человеку им же самим, его же мозгом, его же сознанием.

— Согласен, это действительно так.

— Приведу примеры, подтверждающие в какой-то мере, что индивидуальность человека — это в первую очередь его мысли. Человек попал в катастрофу. Стараниями врачей он выживает, но внешность его настолько изуродована, что даже родные с трудом узнают его. Но вот он заговорил, что-то вспомнил о хорошо знакомом, и между ним и его собеседниками возникла близость. И внешность уже перестала иметь какое-либо значение. Или представьте себе иную ситуацию. Человек в результате тяжелой болезни полностью теряет разум. Внешне этот несчастный остался совершенно таким же, что и до болезни. Но попробуйте с ним заговорить, и вы не узнаете его. Перед вами совсем другой человек, со своим, неизвестным вам образом мышления.

А теперь предположим, что мы уже достигли полного симбиоза человека и машины, получена полная совместимость работы нашего мозга и компьютера. Думаю, что ученые смогут достичь этого где-то в районе 2020 года, то есть меньше чем через полвека. И вот в такой ситуации электронно-вычислительная машина посредством общения с нами наделяется нашими чувствами, нашими эмоциями, отношением к окружающим предметам и людям, в общем, нашим отношением к жизни. Короче говоря, я передаю машине все богатство информации, которую копил всю жизнь. Но сам я все еще чувствую, что я есть я.

А теперь давайте возьмем за отправную точку то, что самосознание не генетически наследуемо, а все же плод информации, накопленной нами в процессе познания жизни.

Тогда где-то на последней, завершающей стадии передачи всей информации своего мозга компьютеру я вдруг неожиданно начинаю чувствовать, что я — это я и в то же время я — это и машина. Происходит как бы раздвоение сознания, так как вместе с информацией я выплеснул в „электронный мозг“ компьютера и свое чувство самосознания. Пока мы соединены проводами, это не так сильно ощущается, ведь мы составляем как бы единый организм. Но вот все соединяющее нас отключено, и мое самосознание перешло в компьютер. Я смотрю на свое тело глазами компьютера, как на что-то чужое! […]

…если к тому времени мы сами сможем передать вместе со всей информацией нашего мозга и наше самосознание, то вполне резонно считать, что ЭВМ, старея, способна будет проделать то же самое и с не меньшим успехом с другой машиной. И таким довольно простым способом ваше собственное самосознание, а значит, и до некоторой степени вы сами тоже перекочуете в новую, еще более совершенную оболочку. Кстати, это поможет сделать мое „я“, мое самосознание, практически бессмертным».

Попробуем выяснить, каковы истоки таких представлений. В 1950–1960 годы вера в «компьютерный разум» была чрезвычайно распространена. Серьезный практик и ученый Анатолий Иванович Китов (см. посвященный ему очерк в этом сборнике) в 1956 году писал в книге «Электронные цифровые машины» [5.2]: «После того как составлен машинный словарь и разработана система четких правил для работы машины, составление самой программы машинного перевода, несмотря на ее чрезвычайную громоздкость (она содержит несколько тысяч команд), не представляет принципиальных трудностей».

Да уж — несколько тысяч команд… Через два десятилетия Глушков в цитировавшемся интервью уже оценивал переводческие возможности ЭВМ куда прозаичнее: «Эксперименты по машинному переводу проводились в нашей стране еще в пятидесятые годы. За это время машины научились прилично переводить технические и научные тексты, газеты. С художественной же литературой значительно сложнее. Компьютер не всегда правильно понимает художественные образы, метафоры… А когда он начинает переводить их дословно, то получается, как вы сами понимаете, не литература, а что-то несуразное». Но это, как видим, не помешало ему искренне верить в возможность слияния машинного и человеческого разумов.

Эта вера имеет глубокие корни, уходящие в глубь веков. Еще в XIII веке Раймонд Луллий пытался основать абсолютную и универсальную философию, основанную на представлении о познаваемости вселенной — он был одним из первых рационалистов, пытавшихся применить формальную логику к познанию мира (которое в его время в значительной степени отождествлялось с теологическими изысканиями). Луллий был уверен в том, что в каждой области знаний можно выделить несколько основных понятий, из которых могут быть дедуктивно образованы все остальные, подобно тому, как все геометрические теоремы выводятся из ограниченного числа аксиом. Он даже построил машину, которая, по его мнению, давала возможность исчерпать истину обо всем во Вселенной.

У Луллия были именитые последователи: к числу его наиболее известных почитателей относится Джордано Бруно, а также великий Лейбниц, пытавшийся создать некий «универсальный язык». Основатель математической логики английский математик Джордж Буль тоже отдал дань представлению о том, что мыслительный процесс можно описать математически: одна из его фундаментальных работ называлась «Исследование законов мышления» (1854).

Основы направления, получившего название «искусственный интеллект», уже в начале компьютерной эры заложил великий математик Алан Тьюринг. В 1950 году журналом «Mind» была опубликована его работа под названием «Computing mashinery and intelligence» («Вычислительные машины и интеллект»), которая после неоднократно переиздавалась в разных странах, в том числе и в СССР (1960), под названием «Может ли машина мыслить?» [4.2]. Из этой работы, в частности, следует любопытная историческая деталь: еще гениальная Ада Лавлейс в первой половине XIX века предвидела постановку проблемы о машинном разуме и отрицала его возможность: «Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она может следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы» (выделено мной. — Ю. Р.) [55] .

В сущности, в этих словах уже содержатся все основные аргументы против компьютерного разума. Переводя слова леди Лавлейс на современный язык, можно сказать, что компьютер, в отличие от человеческого разума (и человека вообще) есть система детерминированная. В нем результат всегда однозначно связан с начальным состоянием.

В отличие от подобных систем, которые в кибернетике и были названы «простыми», «сложная» («большая») система ведет себя каждый раз по-другому, в зависимости от мельчайших деталей поведения воздействующих факторов, которые чаще всего и учесть-то невозможно. Типичные примеры больших систем — человеческое общество, природные системы (не только сложнейшие биогеоценозы, но и обычная атмосфера тоже), и, разумеется, человеческий мозг. Иногда их поведение с некоторой вероятностью можно предсказать на небольшой срок, но чем дальше в будущее, тем больше такой прогноз теряет достоверность, пока не размывается полностью в тумане неопределенности. Для больших систем характерны внезапные скачки («точки бифуркации»), вызванные незначимыми на первый взгляд изменениями влияющих факторов или возникновением новых, ранее не существовавших воздействий, что затрудняет построение долгосрочных математических моделей таких систем вплоть до полной невозможности.

Тьюринг в своих возражениях указывает, что предположение, будто «коль скоро какой-то факт стал достоянием разума, то тотчас же достоянием разума становятся все следствия из этого факта» в реальной действительности есть ложное предположение. Разумеется, дедуктивный вывод, хоть и однозначно следующий из посылок, бывает получить очень и очень непросто, и в этом деле компьютеры просто незаменимы. Но это никак не решает проблему в принципе — дедуктивные рассуждения остаются все же весьма и весьма частным случаем интеллектуальной деятельности. В сущности, спор идет о том, как определить понятие «новизны» в формулировках Лавлейс, и эта «новизна» приводит нас к понятию «новой информации» в формулировках современных.

Не углубляясь дальше в этот сложный и многоплановый спор, укажем только, что проблема «искусственного разума» была практически закрыта философом Джоном Серлем в 1980 году в работе «Разум, мозг и программы» [4.4]. Он ввел термины Strong AI («сильный ИИ [56] ») и Weak AI («слабый ИИ»), где «сильный ИИ» есть классическая задача моделирования человеческого мышления во всей его сложности. Джон Серль свел воедино все возражения против «сильного ИИ» (построив так называемую «китайскую комнату» — модель эффективно работающего переводчика с китайского, который ничего не знает о китайском языке) и окончательно сформулировал основную разницу между «искусственным» и «естественным» интеллектами — она заключается в проблеме понимания смысла прочитанного или увиденного. С тех пор работы в большинстве исследовательских центров в этом направлении были практически свернуты. Хотя и в наше время нередко возникают рецидивы: в первой половине 2000-х о попытке смоделировать человеческий мозг объявил Джефф Хокинс, который был уже известен, как основатель компании Palm. Он выпустил книгу «Об интеллекте» («On intelligence» [4.5]), которая привлекла к нему внимание специалистов, а в 2005 году основал для исследования своих представлений компанию Numenta. Однако о его успехах с тех пор так ничего и не слышно.

Вот в русле этого направления и следовал В. М. Глушков. Напомним, что он действовал еще до появления работ Серля, о которых к тому же едва ли стало немедленно известно в Москве. Глушковский проект машины МИР содержал попытку научить машину некоторым функциям человеческого мозга — в данном случае брать интегралы и преобразовывать алгебраические выражения, причем в буквенных обозначениях. Автор этих строк, много работавший на МИР-1 и МИР-2, ничего не знает о востребованности этой функции на практике, хотя, как научное достижение, оно, безусловно, заслуживает всяческого внимания. Однако МИР-2 сегодня воспринимается прежде всего, как великолепный персональный компьютер. «Интеллектуальные» возможности «МИРов» сейчас вспоминаются лишь как пример высокого уровня советской технической мысли.

Вместе с тем не нужно недооценивать направление «искусственного интеллекта». Достижения мечтавших о «компьютерном разуме» вобрало в себя направление «слабого ИИ», отказавшееся от попыток расшифровать механизмы мышления и занявшееся построением практических инструментов, которые имитировали бы отдельные стороны человеческого интеллекта. В некоторых областях это направление показывает просто блестящие результаты: классическим примером стали программы распознавания символов и шахматные компьютеры, уже давно обыгравшие чемпиона мира.

Член-корреспондент РАН Владимир Львович Арлазаров, крупнейший российский специалист по искусственному интеллекту (в 1960–1970 годы — один из авторов шахматной программы «Каисса», выигравшей чемпионат мира среди шахматных программ), в беседах с автором этих строк подчеркивал, что в принципе любая задача из области ИИ разрешима, если она будет востребована. О принципиальной возможности смоделировать функции мозга Владимир Львович замечал: «…начальная информация и законы логики — это все, чем владеет мозг? Или есть еще какие-то вещи, и к логике функционирование мозга не сводится? Это сложный вопрос. Уже потому, что есть некоторые химизмы, которые влияют на функционирование мозга, логика может тут и рядом не лежать. Поэтому, хотя меня советская власть воспитала атеистом, но уверенности в том, что ничего, кроме логического вывода и начальной информации, не существует, у меня нет никакой. Но и уверенности в том, что некоторые функции мозга нельзя смоделировать, у меня нет — может быть, мы просто не знаем, как» [4.6].

Приверженцами идеи «компьютерного разума» в середине XX века были многие ученые, можно даже утверждать, что это было неким «общим местом». Достаточно привести высказывание академика Андрея Николаевича Колмогорова, заслуги которого в науке неоспоримы: «Я принадлежу к тем кибернетикам, которые не видят никаких принципиальных ограничений в кибернетическом подходе к проблеме жизни и полагают, что можно анализировать жизнь во всей ее полноте, в том числе и человеческое сознание со всей его сложностью, методами кибернетики» [4.8]. Разумеется, эти ученые тогда многое преувеличивали, но с высоты сегодняшнего дня не следует над ними смеяться и иронизировать: на их достижениях выросла современная компьютерная отрасль, и последнее слово в ней еще далеко не сказано.