Вероятностный подход при измерении информации

Пусть в результате испытания наступило некоторое событие. Вероятность его наступления можно вычислить по формуле

P = ,

где N – количество всех возможных исходов испытания; K – количество исходов испытания, удовлетворяющих данному событию.

Количество информации в сообщении о том, что наступило одно из возможных событий, можно вычислить по формуле

x = log₂ ,

где P – вероятность наступления события; х – количество информации в сообщении о том, что наступило данное событие.

Задача 1. В корзине лежат 16 шаров: 4 синих и 12 красных. Найти количество информации в сообщении о том, что из корзины наугад вынули синий шар.

N = 16, K = 4. P = K /N = 4/16 = 1/4. x = log₂(1/P) = log₂4 = 2 (бита).

Дата добавления: 2015-10-05; просмотров: 830;