Итак, с 2027 года, или с любого другого, в котором будет наконец создан искусственный интеллект, превышающий по возможностям интеллект человеческий, вокруг нас начнут происходить события и будут появляться предметы, смысла и устройства которых нам не удастся постичь. А поскольку ИИ, в отличие от нашего мозга, будет иметь реальную возможность самосовершенствоваться, все новое будет происходить с возрастающей скоростью. Появятся машины, приборы, установки, непонятно что делающие и неизвестно как работающие.

Такую точку в истории человечества, когда мы перестанем понимать, что происходит вокруг нас, ученые назвали технологической сингулярностью. Обычно этот термин приписывают американскому математику и писателю-фантасту Вернору Винджу, в 1993 году на симпозиуме, проводимом Центром космических исследований (НАСА) и Аэрокосмическим институтом Огайо, представившему статью, которая так и называлась «Технологическая сингулярность». В действительности впервые это словосочетание употребил еще в середине прошлого века Джон фон Нейман. По воспоминаниям друзей, великий ученый часто говорил «о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела в том виде, в каком мы их знаем, не смогут продолжаться». В математике «сингулярностью» называется точка, в которой функция «уходит» в бесконечность. Единица, деленная на ноль, с точки зрения среднего человека — бессмыслица.

О том, как именно наступит эта сингулярность, писал в 1960-х годах другой известный ученый, британский статистик Ирвинг Джон Гуд: «Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умен тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить еще более совершенные машины. За этим, несомненно, последует "интеллектуальный взрыв", и разум человека намного отстанет от искусственного. <…> Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем… И вероятность того, что в XX веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится».

Еще в 1904 году, когда не было даже слова «компьютер», американский историк Генри Адамс (1838–1918) написал эссе «Закон ускорения», в котором вывел «квадратичный закон истории». В соответствии с ним, каждый новый период в истории человечества по продолжительности примерно равнялся корню квадратному из длительности периода предыдущего. Чуть позже, в 1909 году, он опубликовал другой труд на эту тему — «Закон фазового перехода применительно к истории». По Адамсу, вслед за длившимся 90 тысяч лет «религиозным периодом» следовал 300-летний «механический период». На смену ему пришел 17-летний «электрический период», который должен был перейти в «эфирный период» продолжительностью 4–5 лет. Окончание последнего периода обозначало достижение человечеством предела своих возможностей, после чего должен был произойти фазовый переход на некий новый уровень развития. Так как точно установить даты прошедших периодов было невозможно, Адамс определил «вилку» этого перехода в промежутке между 1921 и 2025 годами. А во второй половине XX века американский философ и историк техники Льюис Мамфорд составил график роста количества значимых изобретений. Получилась довольно четкая гипербола, уходящая в конце 2020-х годов в бесконечность, то есть — в сингулярность. Согласно Мамфорду, техника постепенно «перестает быть простым инструментом, но сама становится активным субъектом реальности, трансформирующим человека по своему образу и подобию».

Конечно, многие возразят, что никакой катастрофы в этом нет. Наоборот, ИИ сделает нашу жизнь максимально комфортной. Человечество всю жизнь стремилось создать мир, в котором вареники сами летели бы в рот, а проблемы решались бы еще до их возникновения. Что ж, возможно. Но это уже будет не человеческая цивилизация. Мы не будем работать в современном смысле этого понятия, поскольку нашему хозяину это просто не будет нужно. Все, что можем выполнить мы, машины будут делать значительно лучше. Наверное, у нас останется какая-то своя культура, которая будет гораздо беднее культуры компьютерной, а ее мы не сможем постигнуть. Мы будем рисовать картины, сочинять музыку, писать стихи, но компьютер будет творить лучше, чем мы. Слоны тоже, как уверяют зоопсихологи, любят рисовать.

Есть еще надежда, что искусственному разуму не удастся превзойти человеческий, поскольку «ученик не может быть умнее учителя». Некоторые футурологи надеются, что человек с помощью генной инженерии сможет поднять свой разум на новый, сопоставимый с компьютерным, уровень. Или что он объединится с машиной, в результате чего получится некий Ногтю 8ирег8ар1еш, существо с мозгами, напрямую подключенными к некой всемирной информационно-вычислительной сети. Однако это уже будет не человек.

Мнение эксперта

Олег Петрович Кузнецов — доктор технических наук, профессор, заведующий лабораторией Института проблем управления РАН, председатель научного совета Российской ассоциации искусственного интеллекта.

Может ли машинный разум превзойти человеческий? В принципе, может, но пока до этого далеко — лет тридцать-сорок, не меньше. Мне кажется, что дата, называемая многими учеными (вторая половина 2020-х годов), — это слишком оптимистично. С такой грандиозной задачей, как построение полноценного интеллекта, не уступающего человеческому, мы вряд ли сумеем справиться столь быстро. Ведь, кроме прочего, его создание должно сопровождаться разработкой систем контроля. Человек сможет контролировать интеллект, превосходящий его по уровню, есть возможность это делать. А сценарий захвата власти роботами пока представляется нереальным, хотя предоставление машине слишком большой самостоятельности может привести к тому, что она будет сама ставить перед собой задачи и сама решать их, не заботясь о том, насколько это нужно и нужно ли вообще человеку. Если вдруг искусственный интеллект выйдет из-под контроля, то потом сделать что-то будет очень трудно. Но если контролировать весь процесс постепенной эволюции, то, я думаю, есть способы обезопасить себя. Дело ведь не только в том, умнее ли нас машина. Контроль не требует превосходства интеллекта. Умные всегда были на службе у сильных, хотя и тяготились этим. Проблема контроля — это проблема допуска к возможностям: к ресурсам, принятию решений и т. д.

Еще многих беспокоит такой вопрос: насколько реально человечеству свалиться после появления искусственного сверхинтеллекта в технологическую сингулярность, когда мы перестанем понимать, что творится вокруг нас. Да мы и сейчас уже не все понимаем, что творится вокруг нас, и никогда этого не понимали. Суть — в объеме этого непонимания. Мы считаем себя очень умными, а все ли мы знаем даже о своем организме? Как он работает, что мы там можем выключить, а что нет, способны ли мы предусмотреть все последствия своих действий. Точно так будет и с искусственным интеллектом. Рядовой человек даже и не заметит этого «сваливания». Если мы будем держать искусственный интеллект под контролем, ничего страшного не произойдет. И потом, у человечества нет другого пути. Мы в любом случае будем стараться делать все более мощные и умные машины. Сценарий с луддитами, ломавшими на английских фабриках станки, на которых вязали дешевые чулки, не пройдет сейчас так же, как он не прошел в XIX веке. Уж слишком прочно наша жизнь связана с машинами. Говорят, что искусственный интеллект будет следующей за нами ступенью эволюции, займет оставленный нами трон «царя природы», опустив человечество до уровня наших домашних собачек и кошечек. Думаю, такой сценарий в далекой перспективе возможен, только если, повторю, человечество будет недооценивать проблемы контроля. Это касается не только искусственного интеллекта, но и генной инженерии, и биотехнологий, и прочего. Надо вести себя разумно и почаще перечитывать «Войну с саламандрами» Карела Чапека.