Вход/Регистрация
Инфодинамика, Обобщённая энтропия и негэнтропия
вернуться

Лийв Э Х

Шрифт:

Для определения энтропии системы относительно конк-ретно поставленной цели необходимо измерить вероятность достижения этой цели. Если имеется достаточно статисти-ческих данных по поведению этой системы, то расчёты не представляют трудностей:

n

Н(a) = - S р(Ai) ln р(Ai)

i

В непрерывном варианте, если случайная величина x и плотность её распределения ?(x): + ?

H(x) = - ?(x) ln ?(x) dx - ?

При допущении равновероятностных исходов: Н(a) = - ln р(Ai), или Н(a) = - log2 р(Ai) в битах

Однако, для сложных систем, структура, функции и су-щественные факторы которых изменяются быстро, как прави-ло, статистических данных недостаточно. Проведение статис-тических экспериментов в уникальных системах вообще не-возможно. Для таких случаев придётся провести расчёты по приближенным условным энтропиям и вероятностям, най-денным по теоретическим или косвенным методам.

7. Определение условных вероятностей и энтропий системы относительно выполнения целевых критериев по вли-яющим на систему факторам. В качестве влияющих факторов необходимо учесть все вещественные, энергетические и информационные воздействия, от которых зависит цель сис-темы. В первом этапе моделирования допускается независи-мость действия отдельных факторов. В случае сильного взаим-ного влияния друг на друга, вводят ещё дополнительный фак-тор по влиянию интеракции двух факторов. Теоретически на-до было бы определить зависимость статистической кривой распределения условной вероятности целевого критерия от статистической кривой распределения каждого фактора. Од-нако практически достигается достаточная достоверность и при оценке зависимостей средних вероятностей Р (А / В). Часто при решении управленческих задач или при разработке прогнозов не хватает опытных и статистических данных. Кро-ме того, редко известны характер кривых распределения, осо-бенно для внешних факторов, которые могут быть эле-ментами других систем. Все это затрудняет точное опре-деление Р (А / В). Тем не менее, часто имеются отрывочные опытные данные или данные наблюдения, теоретические ги-потезы или априорные литературные сведения, что позволяет предположить вероятность достижения цели. Часто можно сделать полезные выводы по априорным данным, если под влиянием конкретного фактора цель вообще не может дос-тигнута или вероятность её недопустимо мала. Иногда полез-но также провести дополнительные опыты или наблюдения по методу Байеса или другими методами увеличивать точность оценки вероятностей.

8. Расчёт обобщённой энтропии (ОЭ) системы на основе данных условных энтропий, влияющих на систему факторов. Расчёты производят по формулам, для равновероятных исходов: n

ОЭ(В/х) = - е ki log2 P(B/xi)

i = 1

В обще случае неравного распределения вероятности n

ОЭ(В/хi) = - е ki . P(B/xi) . log2P(B/xi)

i = 1

здесь: P - вероятность достижения цели, B - критерий достижения цели, xi - средние значения отдельных факторов

(индексы 1 - n), k - коэффициент рассеяния информации, 1- n - перечень отдельных факторов, влияющих на

систему.

Коэффициент рассеяния информации k всегда больше 1. Он применяется, если имеются дополнительные технологичес-кие, организационные или конфликтные условия, которые обуславливают дальнейшее повышение энтропии (в проме-жуточных этапах). При допущении их отсутствия прини-мается k = 1.

В формуле предполагается аддитивность всех условных энтропий по факторам, которая соблюдалась бы в случае не-зависимости влияния всех факторов на систему. В боль-шинстве случаев влияние одного фактора зависит от влияния других факторов и это (в необходимых случаях) следует учесть путём введения дополнительного фактора (условной энтропии). Во многих случаях условие аддитивности даёт достаточную точность. Во всяком случае она для энтропии (lg2P) соблюдается значительно полнее, чем для условных вероятностей.

9. Системный анализ модели (формулы) обобщённой энтропии. Удельный вес влияния отдельных факторов ус-ловных энтропий в общей энтропии разный. Необходимо выяснить несущественные факторы (у которых ОЭ (В/xi) небольшая) и опасные факторы (большой удельный вес ОЭ (В/xi)). Несущественные факторы можно исключить из формулы. Влияние опасных факторов подвергается более подробному анализу и уточнению. Уточняются возможные пределы изменения фактора, дисперсия и её влияние на ОЭ (В/xi). Необходимо также выяснить, на каком этапе возни-кает неопределённость, можно ли дополнительными действия-ми или опытами её уменьшать. Особенно обращают внимание на возможность существования и обнаружения непредвиден-ных обстоятельств и факторов, которые могут увеличивать ОЭ (В/xi).

10. Выяснение возможностей уменьшения ОЭ путём улучшения структуры модели. Анализируется постановка проблемы и целей для системы в целостности, взаимовлияние различных факторов. Иногда возникает необходимость рас-ширения пределов системы. Выясняются причины неопреде-лённостей. Являются ли они неизбежными, зависящими от стохастического характера явлений или зависят от недоста-точности наших знаний. Устранение неопределённостей свя-зано с расходами. Надо найти компромиссное решение: что менее желательно-неопределённость или денежные затраты. Предварительная модель не является окончательным реше-нием. Необходимо найти по возможности больше альтерна-тивных вариантов решений и улучшить старые. Для оценки модели следует проверить повторно её достоверность, обосно-ванность и гомоморфность.

11. Расчёт обобщённой негэнтропии (ОНГ) модели системы. Негэнтропию реально существующей системы не-возможно точно рассчитать. Для этого надо было бы опре-делить участок от бесконечно большой энтропии до факти-ческой энтропии. Практически имеется возможность опреде-лить ОНГ упрощённых моделей, для которых имеется мак-симально возможная ОЭ (ОЭм, без учёта ОНГ).

Для определения ОНГ в модели реальных систем рас-считывают разность между максимальной ОЭм модели и фак-тической ОЭф после получения информации (ОНГ1). ОНГ2 ????????????? ? ? ОНГ1 ? ??????? ? ?

OЭф ОЭм ОЭми Энтропия R ?

????????????? ??????? ?????????R ? ? ?

где: ОЭф - фактическая ОЭ модели системы, ОЭм - максимально возможная ОЭ модели системы, ОЭми - максимально возможная ОЭ модели системы

после получения информации.

Определение ОЭм модели зависит от сложности проб-лемы (реальной системы), требуемой точности (адекватности, гомоморфности) модели и имеющихся ресурсов времени и мощности вычислительной аппаратуры. Выбор степени слож-ности модели зависит от количества независимых факторов (координат) и от масштаба каждого координата, т.е. от объё-ма пространства состояния модели. Для решения практи-ческих задач часто достаточное разнообразие имеет модель с максимально 1000 факторами, каждый из них имеет до 1000 значимых единиц. Ориентировочная ОЭм модели около 104 бит. Для научных целей соответствующие параметры модели: 10000 факторов, 10000 единиц и ОЭм около 105 бит. Для сверхточных исследований сложных систем: 100000 факто-ров, 100000 единиц и ОЭм около 106 бит. При использовании ОЭм существенно, чтобы была принято её постоянное значе-ние для определения ОНГ всех систем одной серии, обла-дающих одинаковыми целевыми критериями.

  • Читать дальше
  • 1
  • ...
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • ...

Ебукер (ebooker) – онлайн-библиотека на русском языке. Книги доступны онлайн, без утомительной регистрации. Огромный выбор и удобный дизайн, позволяющий читать без проблем. Добавляйте сайт в закладки! Все произведения загружаются пользователями: если считаете, что ваши авторские права нарушены – используйте форму обратной связи.

Полезные ссылки

  • Моя полка

Контакты

  • chitat.ebooker@gmail.com

Подпишитесь на рассылку: