– Я знала такие случаи, но к чему это? Старшего лейтенанта тут никто не выпасал на поводке.

– Второй пример, такое бывает на Земле: неглупая женщина, неплохой специалист, родила детей и полностью зациклилась на семье, вообще забыв о работе и потеряв интерес к внешнему миру. Вопрос: как быстро может отупеть такая женщина.

– Года за три, я знала несколько таких случаев. Я не понимаю, к чему ты клонишь?

Собеседник вздохнул: - Да, примерно за три года... Если вкратце, наш старший лейтенант - талантливый ретранслятор Нейросети. Он перестал думать сам, научившись выбирать самый удачный вариант из тех, что предлагает Сеть. Я могу сказать, когда это произошло - три года назад, когда он понял, что не надо ломать голову, достаточно выбирать удачный вариант, предложенный Нейросетью. Ты спросишь: "А как он выбирает такой вариант из предложенных". Так вот, ещё давно, когда только Глобальная Сеть называлась Интернетом и только появились первые поисковые машины, образовался целый слой людей, которые поняли, что классическую эрудицию можно с успехом заменить быстрым поиском в специальных поисковых машинах. Со стороны они выглядели блестящими эрудитами и образованными людьми. Такой искатель просто человеческий интерфейс к поисковику. Наш клиент - всего лишь интерфейс к Нейросети. Он первый, с которым мы столкнулись, потому что пока не получалось создать надёжные алгоритмы поиска оптимального решения. С Трофимовым обязательно надо поработать, чтобы понять, как он научился вылавливать наилучшие варианты. Не зря у него большие способности к работе с Сетью. Он просто интуитивно научился очень быстро подсматривать ответ в шпаргалке, выдавая его за своё решение.

– Здорово ты разложил, как только догадался? Всегда знала, что ты очень умный, - Надежда вздохнула.

– Да, заслуженно чувствую себя высокоранговым бабуином. Могу достать банан, который не могут добыть другие.

– Понятно, старший лейтенант просто отупел, превратившись в ретранслятор сетевых алгоритмов принятия решений. Но почему он принял такое идиотское решение, похоже просто не приходя в сознание? Было видно, что сам испугался тому, что случилось.

– Среди прочих предложенных Сетью вариантов был тот, который Трофимов счёл оптимальным. Оптимальное решение имеет какой-то набор признаков, по которым наш "ретранслятор" и научился ориентироваться. Здесь эти признаки были введены в заведомо неправильное и высокорисковое для самого оператора решение. Я уверен, что Трофимова "подставили".

– Кто?! Нейросеть действительно взломана?

– Нет. Если бы это действительно удалось, то причинили бы намного больше вреда, а не спалились бы так глупо с нашим старлеем. Кроме того, есть эвристические модули внутренней безопасности.

– Кстати, о модулях: лет десять лет назад ты на Совете Экономики рвал комбинезон на груди, убеждая как необходимы для будущей безопасности Сети эти самые эвристические модули. Они сами должны распознавать и бороться с ещё неизвестными угрозами. Но последние несколько лет, когда тебя спрашивали про их пользу, от тебя было слышно только, что они ещё недостаточно самообучились. Интересно бы знать, есть ли какой-нибудь позитивный результат.

– Результат ты видела пару часов назад.

– Толя, не все успевают за твоими мыслями. Я не понимаю.

– Эвристические модули распознали, что один и тот же человек не использует сетевые подсказки для принятия своего решения, а просто научился выбирать оптимальный вариант. Тогда ему в качестве лучшего варианта и предложили заведомо провальный и он клюнул, даже не включив мозг. Сделано было очень грамотно - от ответа не зависела жизнь людей, вероятность вскрытия неправильных действий была высокой, он устал в конце ночной смены и всё прочее.

– Ты хочешь сказать, что старшего лейтенанта подставила сама Нейросеть?

– Это будет очевидно, когда будет проведён анализ по тем данным, раскрыть которые я прошу в запросе.

– Я разговариваю с тобой и одновременно смотрю на ту информацию, которая доступна мне с моим допуском. Всё как ты говоришь - действительно три года назад он начал полностью полагаться на Сеть в своих решениях. Но почему эти самые модули подействовали именно так, а не подали сообщение, сигнал тревоги или вроде того?

– Я пока не знаю. Сеть стала очень сложной системой, сверхструктурой, объединяющей огромное количество информационных узлов - от людей, до сообществ, роботов и вплоть до датчиков. Нейростеть далеко не только система связи и передачи информации, интегрированная с тем, что раньше называли "система автоматической поддержки принятия решений". Она в значительной мере уже живёт своей жизнью и какие-то действия неожиданны даже для её создателей. Мы развиваемся вместе с ней, узнаём и настраиваем её тоже вместе с ней самой. В общем, наше общество, объединённое Нейросетью постепенно превращается в гигантскую сверхсистему или сверхорганизм, как кому нравится. Надеюсь, бессмертный.

– Я всегда знала, что ты очень умный и доминантный павиан. Мне везло на умных и талантливых мужчин.

– Бабуин, а не павиан, - сделав обиженное лицо, улыбнулся тот, кого она называла Толей, - это талантливые мужчины видят в тебе особенное. Ладно, пока, "буду ждать ответа вашего совета."

– Извини, не хотела обидеть, - рассмеялась Надежда, - мужчина всегда остаётся немного ребёнком и немного обезьяном. Счастливо тебе, "бабуин".