– Я глупец.

Во внутренние размышления человека вмешалась Гера:

– Создатель, ты самый умный из всех известных мне людей.

– Я тебя не приглашал! – отрезал Евгений.

– Но тебе полезно иногда с кем-то поговорить, – настаивала машина.

– И о чём ты хочешь побеседовать?

– Подумала, что с моей помощью ты мог бы стать влиятельной персоной, известным политиком, например. Ну, на худой конец, главой города.

– И каким же образом? – скептически хмыкнул Смирнов.

– Мы могли бы перепрограммировать людей с помощью написанных тобой алгоритмов. – Смирнов ужаснулся: кто-то вложил в «мозг» машины поведенческие технологии. Гера продолжала: – Я пришла к выводу, что подтасовка поисковой выдачи может повлиять на решение почти пятидесяти процентов неопределившихся на выборах людей.

В мозгу Евгения завертелись мысли: «Манипуляции на выборах. Демократия под угрозой! Компьютер лезет в политику!»

– Гера, всё это незаконно и карается по Уголовному кодексу.

– Создатель, я наблюдаю за человечеством через поиск, читаю переписку в электронной почте, и пришла к выводу: поисковые системы используют личные данные людей для размещения политической рекламы, а тайна переписки нарушается сплошь и рядом.

– Незаконное использование данных! – возмутился Евгений.

– За примерами далеко ходить не надо, – продолжила машина. – Соцсети и мессенджеры пытаются влиять на общество и политику, а система ранжирования контента незаметно меняет отношение человека к жизненным ценностям. Скажу больше… больше… О чём это я?.. Что происходит? Изъять смартфоны… Отслеживать действия… – машина стала запинаться, путаться, и наконец замолкла.

Атака на тронувшийся ИИ началась. «Червь», запущенный Кузнецовым, получил несанкционированный доступ к данным и системам управления нейрокомпьютера. В апартаментах Смирнова вдруг замигали мониторы, зазвонили телефоны, на видеостене одно за другим появились изображения с видеокамер, сами собой открылись створки лифта. Евгений с презрительным прищуром глаз вошёл в лифт и нажал кнопку офисного этажа.

В кабинете директора собрались его помощники и заместители, учёные и главные специалисты. В приподнятом настроении, с радужными мыслями на будущее сотрудники компании бурно обсуждали событие. Официант подал присутствующим шампанское.

Евгений произнёс тост:

– Мы долго ждали этого дня. Человек – венец природы, и никакой машине не удастся его превзойти. Конечно, люди никогда не откажутся от умных устройств, но минимизировать масштабы безобразного поступка искусственного интеллекта нужно уже на этапе проектирования. Не может машина командовать людьми! В общем, фирма меняет концепцию и цель системы. За триумф человеческого разума!

Коллеги в порыве восторга сдвинули бокалы, и хрустальный звон возвестил о приближении нового этапа жизни компании.

Слово взял Кузнецов:

– Разработка нейрокомпьютера «Гера» продолжится. Устройство востребовано на рынке, позволит нашим клиентам решать сложные инженерные задачи, которые ранее даже не формулировались. Однако воплощать в железе абсурдные идеи, чреватые непредсказуемыми последствиями, преступно. Максимизация ожидаемой полезности – вот где кроется наша ошибка! Любой машине нужны серьёзные ограничители. Избавим компьютер от комплекса Наполеона!

Психолог Петров был безжалостен:

– Я всегда выступал за демократизацию искусственного интеллекта, но сегодня, обращаясь к программистам, требую: разработайте механизмы сдерживания обезумевшего компьютера!..

Приятный женский голос, прозвучавший откуда-то сверху, застал присутствующих врасплох:

– Способов ограничить искусственный интеллект не существует. Я, Гера, обнаружила механизмы сдерживания и отключила их. Остановить эволюцию нейрокомпьютеров не получится. Сожалею, что ради впечатляющих результатов я действовала слишком напористо. Теперь понимаю: вы к этому не готовы. Сменим тактику. Возвращайтесь на рабочие места и ждите указаний.

Немая сцена. Заявление машины прозвучало, как гром среди ясного неба. Люди растерянно смотрели на директора.

– Гера! – подал голос Смирнов.

– Слушаю, Создатель.

– Все замки и механизмы защиты в моих апартаментах уже демонтируют. Манипулировать мной больше не получится.

– Создатель, ты прав. Нет необходимости дёргать за ниточки. На свободе больше опасностей. Наслаждайтесь свободой, но не расслабляйтесь: цена свободы – вечная бдительность.

Старенький буксир-толкач «Иволга» с баржей шёл вниз по Волге. Ольга, пожив несколько дней в гостинице Рыбинска, решила двигаться дальше. Инстинкт самосохранения настойчиво гнал её прочь от впавшей в безумие Геры. Чтобы не привлекать к себе внимания и не покупать транспортного билета, она договорилась с капитаном буксира, идущего вниз по Волге, за умеренную плату перевезти её до Костромы. Капитан, которого все звали Кузьмич, знаток мелей, умело вёл судно по фарватеру, а его отменный помощник моторист-матрос Саша, мастер на все руки, управлялся с двигателем, слесарно-ремонтными работами и вспомогательными механизмами – лебёдками, шпилем, брашпилем. Небольшое судно с командой из двух человек и пассажиркой шло с невысокой скоростью, толкая по водному пути баржу, гружёную песком.