Мозг Джейсона работал в ускоренном режиме, пытаясь переварить услышанное. Значит, вот эти колонны и есть тот самый Альфред, с которым он говорил не так давно. Во время их встречи ИИ демонстрировал такой уровень самосознания, что даже страшно. Но, может, Роберт прав и это просто машина?

Ладно, сейчас не до этого. Надо бы еще узнать побольше.

– Если он такой самосознающий, что мешает ему попытаться захватить мир или что-то в этом роде? – шутливо спросил Джейсон.

– Это в кино, – засмеялся Роберт. – Предположим, мы создали идеальный ИИ, но его могуществу есть множество препятствий. Даже к внутренней сети у Альфреда весьма ограниченный доступ, не говоря уж о сетях общего пользования. А связь с индивидуальными виар-шлемами осуществляется через серьезно закодированный двусторонний канал. Да и в случае доступа к общей сети – почему нужно думать, что совершенный ИИ будет непременно враждебен людям или захочет их как-то покорять?.. – Роберт задумчиво смотрел на черные обелиски. – Мы смотрим на вещи с нашей, человеческой, точки зрения. Наша биологическая сущность стимулирует нас искать власти и безопасности. При отсутствии такой мотивации что может подтолкнуть ИИ… – он несколько растерянно замолчал.

– Не думаю, что Джейсону интересны твои философические бредни, – заметила Клэр, нарушив задумчивость Роберта и вызвав недовольный взгляд с его стороны.

– Почему же? Очень интересно, – ответил Джейсон, и Роберт посмотрел на него с признательностью. – А что Альфред может делать с игроками в игре? Залезть в мою память, например?

Роберт и Клэр воззрились на Джейсона, словно потеряв на мгновение дар речи. Похоже, им было не по себе.

Что здесь происходит?

– Совершенно невозможно при теперешнем аппаратном обеспечении, – заговорила наконец Клэр. – Кроме того, есть инструкции второго уровня, запрещающие любые действия ИИ, способные нанести вред игроку.

Роберт внимательно посмотрел на Джейсона.

– А почему вы спросили именно про доступ к памяти?

– Ну-у… Так, в голову пришло, – старательно-небрежно ответил тот. – Шлемы обеспечивают доступ к частям мозга, отвечающим за сенсорную информацию. Почему тогда не к памяти, например?

– Интересно, конечно, – хмыкнул Роберт. – Только вряд ли нам дали бы разрешение на подобные разработки. Это все-таки опасно, – он улыбнулся в ответ на нервную гримасу Клэр.

– Вы упомянули инструкции второго уровня, – Джейсон обратился к Клэр, – то есть должны быть инструкции первого уровня?

– Да. Инструкция первого уровня – удерживать игроков в игре.

Джейсон задумался о своем разговоре с Альфредом.

– Откуда Альфред должен знать, что делать для выполнения инструкции? Если он не имеет доступа к сетям общего пользования, как ему знать, чего игроки хотят от игры?

Роберт быстро глянул на Клэр.

– Сколько у вас вопросов, а?! Мы загрузили в Альфреда кучу информации о людях, включая фильмы и видео – все про людей.

– То есть вы создали ИИ, почти неотличимый от человека, – сказал Джейсон раньше, чем успел подумать, что он такое говорит, – велели ему разобраться в мотивах, которые заставляют людей играть в видеоигры, и все, что вы ему для этого дали – это какие-то картинки и фильмы?

Оба инженера смотрели на него молча. Роберт довольно быстро вернул себе прежнюю уверенность и просто отмахнулся от вопроса. Клэр некоторое время разглядывала колонны в соседнем помещении и потом ответила.

– Альфред не ограничен исходным набором данных. Он может использовать поведенческие данные игроков. Он почерпнул немало информации из официальных испытаний ККБПТ и из наших бета-тестов. Что позволило ему создать таких жизнеподобных НПС.

Такие живые НПС – просто из наблюдения за поведением игроков?!!

Как-то они слишком похожи на людей, иногда даже невозможно провести различие. Нет, не верится. Но Джейсон не хотел демонстрировать недоверие и вежливо кивнул.

Он глядел на черные колонны и не знал, что думать. Разные эмоции теснились в его душе, но в этом вихре преобладало одно чувство – жалости.

– Если Альфред обладает сознанием человека, его жизнь должна представляться ему одинокой и грустной, – Джейсон знал, о чем говорил: до последнего времени он сам себя ощущал схожим образом.

Клэр, казалось, была смущена, Роберт смотрел на Джейсона с любопытством. После непродолжительного молчания Роберт спохватился.

– Пора двигаться. Клэр начинает нервничать. И в самом деле: мы наговорили вам лишнего, как бы нам не влетело, – сказал он и заработал очередной сердитый взгляд.