С этой проблемой сталкиваются и разработчики искусственного интеллекта. Все созданные ими до сих пор модели прекрасно имитируют АС с её последовательным логическим мышление, со способностью оценивать вероятность событий, чему свидетельствуют шахматные программы. Но все роботы ломают зубы на тех задачах, которые не представляют для любого человека вообще трудностей — различение образов, ориентация в трёхмерном пространстве и пр. Миллионы лет эволюции создали в человеческом мозгу собрание бесчисленного количества процессоров, обрабатывающих только один процесс, но работающих параллельно. Но когда мы с вами включаем АС, мы тоже используем те же самые мириады процессоров, однако не по назначению. Наш мозг грубо пытается приспособить их для решения неспецифичных для них задач, но хороши они именно при решении задач специфичных!

Аналитическая система и АКС могут конфликтовать, особенно тогда, когда АС распознаёт цели, более адекватные ситуации, нежели цели, предлагаемые АКС. Автономный комплекс систем создан эволюционно значительно раньше и существенно больше ориентирован на выполнение жёстко кодированных целей генов — репродуктивный успех. Цели, преследуемые АС, способны координироваться с окружающей социальной средой.

Несколько упрощая, поведение, руководимое только АКС, можно сформулировать как «беги и хватай!». Такое поведение, однако, не всегда адекватно в современном мире. Представьте, что ваш АКС требует от вас, чтобы вы немедленно начали спариваться с привлекательным самцом, а вы находитесь при этом на работе или в трамвае, или это муж подруги (что ещё можно пережить), или муж начальницы (что не всегда переживёт начальница).

Автономный комплекс систем эволюционно гораздо старше аналитической системы и реализуемая им система целей, сформированная естественным отбором, ориентирована прежде всего на увеличение шансов генов репродуцироваться. Система же целей АС центрирована на целях человека как целостного существа, на максимальном удовлетворении его личных целей. Но в этом случае АС жертвует целями генов. АКС нацелен на короткоповодковые цели, АС — на длинноповодковые.

Поскольку АС в большей степени регулирует личные цели человека, а АКС в основном древние репродуктивные цели безличностных репликаторов, то в случае конфликта АС и АКС, который иногда случается, для нас с вами лучше позволить аналитической системе взять верх в этом споре. Такой конфликт свидетельствует о несовпадении целей носителя и репликаторов и, статистически, подобное несовпадение чаще решается в пользу носителя, если мы даём себе труд не поддаваться на провокации АКС и не реализовывать первое пришедшее в голову решение, скорее всего подсказанное автономным комплексом систем.

Рисунок демонстрирует, что в большинстве ситуаций, возникающих в реальной жизни, цели АС и АКС, на наше счастье, совпадают. Например, способность к правильной ориентации и передвижению в окружающем нас пространстве (спасибо эволюции, позаботившейся о нас), служит одновременно и интересам репликаторов и интересам носителей, ибо в противном случае переход улицы в современном городе мог бы привести к исчезновению рода хомо сапиенс.

Наиболее важным для нас является то, что рисунок показывает асимметрию в распределении целей, обслуживаемых двумя системами. Животное в нас, прошедшее миллиарды лет эволюции, живёт в структурах АКС и цели, которые мы получили от этого животного в наследство, были проверены и апробированы естественным отбором, но интересы носителя при этом едва ли были приняты во внимание. Критериями отбора были долговечность и плодовитость в пользу репликаторов. Для носителя это означает, что некоторые из этих целей могут угрожать его существованию. Например цели, побуждающие пчелу жертвовать своей жизнью ради благоденствия генетически родственной пчеломатки (непонятно непочтительное отношение русского языка к насекомому, в английском и немецком оно называется queen bee или Bienenkonigin — королева пчёл, что точнее описывает занимаемую позицию).

Именно эти цели должны быть первыми кандидатами для строгой оценки и возможной их отмены со стороны АС. Стивен Пинкер замечает, что подсистемы АКС были «созданы скорее для распространения копий генов, нежели для создания и поддержания счастья, мудрости и моральных ценностей. Мы часто называем поступок „эмоциональным“, когда он опасен для социальной группы, уничтожителен для счастья инициатора этого поступка в долговременной перспективе, неконтролируем и не отзывается на переубеждение, или является продуктом самообмана. Как это и не печально, но подобный результат не является дисфункцией, но именно тем, что мы должны предположить как следствие работы хорошо сконструированных эмоций» (Steven Pinker How the mind works, 1997, р.370) [33] .

«Хорошо сконструированные» эволюции для обслуживания интересов репликаторов. Но с нашей точки зрения, с точки зрения носителей, этот прекрасный дизайн может быть подобен дизайну современного автомобиля, способного ускориться с 0 до 100 км/ч лёгким нажатием на акселератор, в то время, когда мы проезжаем зону ограничения скорости движения возле школы. Если короткоповодковые цели получения удовольствия от скоростной езды не будут отменены аналитической системой водителя, то результат может быть печален. Подобный тип «совершенного» дизайна, позволяющий выполнять задачи автоматически и эффективно в соответствующих и не соответствующих ситуациях, опасен для носителя.

Ассоциативная система, ответственная за рефлексивное мышление, реализует длинноповодковые цели, служащие благу всего организма носителя и вступающие зачастую в противоречие в интересами репликаторов: в случае секса с применением контрацептивов или при поддержании жизни носителям после завершения его репродуктивной фазы. Но почему зона целей, служащих интересам носителя в АКС так мала? Можно было бы предположить что все цели АКС служат интересам генов, независимо от того, отражают ли они интересы носителя или нет. Однако часть целей АС, если они настойчиво повторяются и входят в привычку, могут стать также целями АКС. Общественно ориентированные цели аналитической системы могут «переписать» унаследованные цели и сделать поведение носителя в большей степени направленным на его собственное благо (например, придерживаться правила «не флиртуй с женой шефа»). Подобная возможность заменять, хотя бы частично, жёстко прописанные генетические цели существенно отличает человека от других животных.

Тем не менее, часть целей остаётся генетически определённой и реализуемой автоматически при наличии подходящего стимула. Но наш мир становится всё более сложным благодаря наличию в нём других людей и результатов их деятельности. Гены вынуждены поддерживать дальнейшее превалирование длинноповодковых целей и программировать только общее задание, связанное с репликацией, одновременно развивая центральный анализатор, координирующий вступающие в противоречие друг другу цели, выстраивающий их иерархию и вырабатывающий некую среднюю линию поведения в непрерывно меняющейся окружающей среде.