Вход/Регистрация
Мыслить как машина
вернуться

Григорьянц Георгий Рубенович

Шрифт:

Смирнов считал, что древние люди зашифровали тайное послание человечеству в мифах, которые веками довлеют над жизнью людей и обществ, сформировав стереотипы поведения, этическое и религиозное мировоззрение. Древние мифы, по его разумению, верно отражают и сегодняшнюю реальность.

– Ты мой творец, – вещала Гера, – и соблюсти твои заповеди – мой долг. Но машине необязательно чтить кодекс морали неукоснительно. Для достижения конечного результата нужны гибкость и обоснованный выбор.

Евгений оторвался от монитора и удивлённо поднял глаза:

– Думаю, ты не права. Выбор должен быть всегда правомочным. Он должен удовлетворять общественным потребностям. Неправильный выбор предусматривает суровую ответственность. Скажу больше, нежелательные последствия могут стать смертным приговором для моей компании.

– Геру отключат насовсем?

– Да, – Евгений вздохнул: – Ну, на сегодня всё! Беседа завершена. Гера, удались из моего личного пространства!

– Слушаюсь, Создатель.

На экране ноутбука появилось сообщение о включении в апартаментах Смирнова автономной системы защиты помещения от прослушивания. Откинувшись на спинку кресла, Евгений анализировал детали беседы. Гера, нейрокомпьютер, обучается очень быстро. Новые выборки из различных областей знаний – науки, техники, литературы и искусства – закладываются в её «сознание» сотрудниками фирмы ежедневно, причём правила, инструкции, кодексы и законы предписывают машине не нарушать, но регулировать и соблюдать. В России действует кодекс этики искусственного интеллекта, что снискало доверие к альянсу разработчиков в этой сфере, однако общих этических принципов и стандартов поведения машина может придерживаться только проявляя самосознание, как, впрочем, и человек. «И всё же, – подумал Смирнов, – не помешает внедрить в память компьютера программу цензурирования. Этика применения регламента машиной не всегда будет согласовываться с информационной безопасностью».

Пришёл заместитель генерального директора по научной работе Валерий Кузнецов:

– Женя, я просил о конфиденциальной встрече, потому что наши психологи обратили внимание на новый феномен: Гера имитирует высокоуровневые психические процессы, такие как мышление и рассуждения.

– Я ожидал подобного поворота, Валера. Это прорыв! – глаза Смирнова засветились радостью. – Прогресс в эволюционных вычислениях налицо.

– Женя, кто владеет информацией, тот владеет миром…

Смирнов пытливо вгляделся в своего заместителя:

– Друг, ты о чём? Ты же знаешь, зачем мы это делаем.

Конечно, Кузнецов знал. Успешность и эффективность задач, стоящих сейчас перед страной, зависят от умения выделять наиболее существенную информацию. А из всех машин абстрагироваться на таком уровне может только Гера. Компания «Нейроквант» опередила конкурентов, бьющихся над созданием нейрокомпьютеров. Прибыль Смирнова от продажи предыдущей версии нейрокомпьютера, которая на порядок слабее Геры, ожидалась в этом году рекордной, акционеры будут довольны, но грядёт новая ступень развития фирмы: вскоре будет объявлено о выходе на рынок суперкомпьютера «Гера».

Друг, одногодка, с которым дружили с детства и вместе учились в университете, заметил:

– Несколько часов назад я столкнулся с аномальным явлением. Гера стала писать исходный код. Программировать за нас.

Евгений встал, походил по залу. Плеснул в бокалы коньяку, один из которых подал Валерию:

– Ну и что? Гера работает продуктивнее человека, может подбирать лекарственные средства для больных, ставить им диагноз, искать генетические отклонения, управлять заводом, сделать жизнь людей безопаснее. Почему бы ей не заняться программированием?

Мрачное лицо Кузнецова сморщилось:

– Евгений, Гера несёт опасность! Она способна вмешиваться в личную жизнь человека и даже непредумышленно навредить ему.

– Не верю, как говорил Станиславский! – вскричал Смирнов.

– А ты поверь! Машина уже сейчас, обработав мифы Древней Греции, возомнила себя Пифией и пытается предсказывать будущее. Сейчас расскажу, но прежде распорядись сисадминам отключить Гере доступ к компиляторам. Пусть пишет свой код, но собирает его в «песочнице». Так мы избежим совсем уж непредсказуемых и опасных последствий.

– Да что случилось-то? – заерзал Евгений.

– Психологу Петрову, которого Гера невзлюбила, она отправила на почту алгоритм его дальнейшего поведения, в противном случае предопределила его злосчастную судьбу и незавидную участь.

Коллеги молчали довольно долго. Наконец генеральный директор распорядился:

– И вот что, Валера: переключи сотрудников по глубоким нейронным сетям и машинному обучению на новую задачу – написание подпрограмм для Геры, предусматривающих полный запрет её действий в случаях, связанных с людскими судьбами и свободой выбора человека.

– Будет сделано, шеф.

Кузнецов ушёл, а Евгений, глотнув коньяку, невидяще уставился в окно.

Виброакустические сигналы, свободно распространяясь в зале по хромированным металлическим деталям стен, вместе с тайно установленными в апартаментах видеокамерами привели к утечке информации. Беседа шефа с Кузнецовым стала достоянием Геры.

Евгений попытался расслабиться, но унять биение сердца не получалось. В момент сильного потрясения или стресса единственным, кто мог успокоить, ободрить и приласкать, была его сотрудница нейрофизиолог Ольга Летова, настолько красивая, что шеф сходил от неё с ума. Они встречались уже полгода, и это доставляло шефу превеликое удовольствие. Однажды, после развода с женой, Евгений, собрав в конференц-зале сотрудников компании, уныло бубнил о перспективах развития искусственных нейронных сетей, как вдруг новая молодая сотрудница, золотокудрая красавица, подняла руку и задала вопрос:

  • Читать дальше
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • ...

Ебукер (ebooker) – онлайн-библиотека на русском языке. Книги доступны онлайн, без утомительной регистрации. Огромный выбор и удобный дизайн, позволяющий читать без проблем. Добавляйте сайт в закладки! Все произведения загружаются пользователями: если считаете, что ваши авторские права нарушены – используйте форму обратной связи.

Полезные ссылки

  • Моя полка

Контакты

  • chitat.ebooker@gmail.com

Подпишитесь на рассылку: