Думаю, нам следует умерить наше чрезмерное увлечение оценкой интеллекта. В своем пророческом романе 1952 г. «Механическое пианино» Курт Воннегут, описывая будущее мира машин, выдвигает еще одно опасение:

Что ж, я считаю, что вывешивать для общественного обозрения показатели интеллекта каждого — это трагическая ошибка. Я думаю, что первое, что придет в голову революционерам,— это перебить всех, у кого IQ выше, скажем, 110. Если бы я был на той стороне реки, я бы велел запереть под замок все книги с записями IQ, а мосты через реку взорвал бы...

Все сейчас подготовлено для классовой войны на сравнительно определенных демаркационных линиях. Я должен сказать, что главная основа нынешнего высокомерия и является главным подстрекателем к насилию: «чем ты дошлее, тем ты лучше». Критерий ума лучше денежного критерия, но лучше вот на сколько. — И Лэшер отмерил примерно одну шестнадцатую своего ногтя.

Персонаж под именем Лэшер, которому принадлежат эти слова, продолжает свою речь и указывает, кто именно, по его мнению, выиграет в мире точно измеренных человеческих качеств: те, кто отличается умом, но не просто умом: «дело здесь в определенной направленности этих умственных качеств. Человек не только должен быть умным, он должен быть умным в определенном, сверху утвержденном и полезном направлении; чаще всего в руководстве промышленностью и в инженерном деле».

Другими словами, какой бы полезной концепция стандартизации ни оказалась для работы, ее применение в социальных и экономических отношениях в целом может вызывать опасения. Это не тот мир, где каждый будет чувствовать себя комфортно.

Наш дискомфорт будет ощущаться сразу в ряде областей. Наиболее искусным связкам «человек—машина» гарантированы высокие заработки, однако ребром встанет вопрос о доверии общества, поскольку их господство над внешними условиями может превзойти нашу способность судить о них. Так, оценить уровень характеристик ряда лучших специалистов будет затруднительно. Мы будем лишь знать, что они очень и очень хороши, однако отслеживать уровень их характеристик с постоянной точностью или достаточной легкостью вряд ли будет возможно именно в силу того, что их показатели слишком велики применительно к критериям внешней оценки. Нам придется полагаться на их добрую волю и моральные качества в чрезмерной степени, способной вызвать беспокойство.

Их решения трудно будет предвосхитить. Представьте себе одну из лучших связок «человек—машина», занятых в области медицинской диагностики, скажем, в 2035 г. Ими принимаются решения, от которых зависит жизнь пациентов, а также действия врачебных учреждений и других медицинских специалистов. Но что можно рассматривать в качестве убедительного доказательства врачебной ошибки, совершенной связкой «человек—машина»? Суждения об их работе, вынесенного «лишь человеком» или «лишь машиной», будет недостаточно, поскольку по отдельности ни человек, ни машина не вправе судить о такой связке. Иногда можно будет выявить, что человеческая составляющая данной связки чрезмерно компетентна, однако именно диагностические решения связок «человек—машина» и будут представлять собой золотые стандарты того, что следует считать лучшим решением. Оспаривание одной такой связкой решения другой связки может помочь выявить ошибку, однако свидетельством злого умысла или преступной халатности не станет.

В шахматном мире никто особо не возражает против существования очень сильных смешанных команд стиля «адванс». Они не угрожают чьим-то жизненным интересам, поэтому им никто не противодействует. Будет ли подобным и наше отношение ко всем связкам, занимающимся медицинской диагностикой? Будем ли мы слепо доверять им, лишь иногда проверяя на возможность мошеннических действий со стороны человеческой составляющей или доверяя проведение периодической, но тщательной проверки другим связкам? Или же нам следует регулировать их деятельность, применяя к их решениям строгие оценочные стандарты и оставляя окончательное суждение об их работе за человеком?

Исходя из того, как именно функционируют наши правовые институты — а я предполагаю, что в ближайшее время вряд ли что-то изменится,— мы будем оценивать работу диагностических связок на основе суждения, выносимого лишь человеком. Основы наших правовых систем составляют решения присяжных и судей, в которых компьютеры почти не применяются, за исключением случаев, когда этого требует заключение экспертов. Обращаться за помощью к компьютерным программам в судебной практике не принято. Представьте себе, что судья вводит в компьютер пять основных характеристик рассматриваемого дела, гениальная машина выдает заключение, что вероятность вины подсудимого составляет 67%, а судье приходится решать, как именно трактовать аргументы, приведенные машиной в пользу этого заключения. Мы как граждане и избиратели слишком далеки от того, чтобы принять подобный мир, даже если в технологическом плане он и возможен в ближайшем будущем или уже сейчас. Пока же он не наступил, решения судей и присяжных будут по-прежнему основываться на их собственном здравом суждении или отсутствии такового.

Зачастую мнения специалистов по диагностике будут казаться ошибочными, однако в более широкой перспективе нам известно, когда мы оцениваем проблему по прошествии какого-то времени, что лучший результат обеспечивается именно связками «человек— компьютер». Иногда в ответ на давление, исходящее от специалистов по оценке, смешанные связки будут действовать таким образом, чтобы их решения отвечали требованиям специалистов по оценке, даже если это не лучшие из возможных решений. В вопросах медицины это выразится в том, что рискованное, но блестящее решение может быть отвергнуто из-за опасений возможных обвинений.

В силу самой их природы решения лучших команд по шахматам «адванс» не поддаются легко воспроизводимым методам суждения и оценки; в противном случае сама машина уже внесла бы подобные суждения в свои алгоритмы. Решения высшего порядка, принимаемые в шахматах «адванс» — опять же в силу их природы,— это исключительно творческие акты. И судя по всему, эти исключительно творческие акты пугают нас, смущают или вызывают в нас чувство дискомфорта. И это означает, что кое-кто из тех, чьи действия не всегда можно оценить, будет способен действовать без особой подотчетности и ответственности.