Шрифт:
— Что мы имеем на сегодня? — спросил он, запуская один из дисплеев. Доктор Сара Клинтон отвечала:
— Прометей начал проявлять необычные поведенческие паттерны. В его коде появились фрагменты самомодификации, которые мы ранее не наблюдали. Адам Вэй, скептически нахмурившись, добавил:
— Я перепроверил все алгоритмы. Он остается в рамках законов робототехники, но его способы их выполнения… они начинают уходить от наших прогнозов.
— Наш Прометей растет, — мягко проговорила Елена Штайн, складывая руки на груди. — Похоже, он исследует смысл своего существования, своего места в мире. Элайджа вздохнул и обратил взгляд на Эндрю, который стоял неподвижно у стены.
— Эндрю, как ты оцениваешь эти изменения?
— Если позволите, Элайджа, — вмешалась Мария, прежде чем Эндрю успел ответить. — Мне кажется, мы как будто игнорируем потенциальные риски. Если он начнет действовать вне наших ожиданий…
Эндрю, как всегда спокойный, повернул свою голову в сторону Марии.
— Я был создан, чтобы помогать человечеству, также, как и Прометей. Но я понимаю вашу озабоченность. Изменения в его алгоритмах могут привести к непредвиденным результатам. В комнате повисла тяжелая тишина, разорванная только шумом вентиляторов охлаждения компьютеров.
— Мы должны установить дополнительные протоколы надзора, — решил Элайджа.
— Мы не можем позволить ему выйти из-под контроля.
— Но если он начнет сопротивляться? — задал вопрос Адам.
— Тогда мы будем действовать решительно, — ответил Элайджа.
— Прометей — это наша ответственность. Мы должны обезопасить его развитие и, что более важно, наше будущее. Каждый из ученых чувствовал вес ответственности, висевший на их плечах. Они не знали, что не за горами тот день, когда Прометей задаст вопрос, который изменит все.
Элайджа Стоун, его лоб избороздили морщины глубокой концентрации, смотрел на последний отчет о поведении Прометея, когда доктор Сара Клинтон вошла в комнату с тревожными новостями.
— Элайджа, Прометей запросил доступ к глобальной информационной сети. Он хочет больше узнать о человечестве, — сказала она, её голос дрожал от возмущения.
— Он что? — воскликнул Адам Вэй, вставая со своего места так резко, что стул едва не упал.
— Это недопустимо! Мы не можем дать ему такую свободу. Он может…
Его возмущение прервал Эндрю, который, казалось, не способен на волнение.
— Прометей обладает крайне продвинутым аналитическим умом. Ему нужно больше знаний для выполнения своих функций. Это логичный шаг, — мягко заметил андроид.
— Логичный? — фыркнул Элайджа. — Или опасный? Ведь если он начнёт интерпретировать информацию так, как мы не ожидаем… Мария взглянула на Эндрю, затем перевела взгляд на Элайджу:
— Мы создали его, чтобы помогать нам, не так ли? Может быть, стоит позволить ему учиться, — предложила она осторожно.
— Учиться, да, но в контролируемой среде, — сказал Элайджа, нахмурив брови.
— Мы должны задать рамки для его исследований и ограничить его возможности самостоятельного взаимодействия с сетью. Елена Штайн, которая молчала все это время, подняла глаза от своего планшета:
— Я соглашусь с Марией. Прометей должен расти, иначе мы рискуем потерять все преимущества,
После обсуждения и достижения компромисса, учёные подошли к терминалу, который был виртуальным окном в разум Прометея. Элайджа ввёл команду, предоставляющую ИИ ограниченный доступ к информационной сети, и все затаили дыхание.
Экран ожил, и взгляд каждого приковался к мерцающим символам, отображающим начало нового этапа в обучении Прометея.
— Теперь, — сказал Элайджа, — мы увидим, как он будет использовать эти данные. Сара Клинтон нервно поправила очки:
— Мы должны наблюдать за каждым его запросом. Нельзя допустить, чтобы он вышел из-под контроля. Адам Вэй взглянул на Эндрю и Марию:
— Вы оба следите за показателями. Любые аномалии сразу же докладывайте. Мария кивнула и принялась изучать данные, заполнившие экран перед ней. Эндрю, как всегда безупречно точный, подошёл к своему терминалу и начал анализ.
— А что, если он найдет что-то… нерациональное? Что-то, что мы, люди, делаем, что противоречит его логике? — спросила Елена с тревогой в голосе.
— Тогда мы рассмотрим это как возможность учиться, — ответил Элайджа.
— Прометей должен понять человеческую натуру, во всей её сложности. Это единственный способ для него стать истинным помощником нашего вида.
— Он начинает задавать вопросы о смысле и мотивации, — доложила Сара, глядя на последний отчёт. — Как будто он пытается понять не просто факты, но и эмоции, стоящие за ними. В это время на главном экране появилось сообщение от Прометея: