Источник информации (математика) - Information source (mathematics)

В математика, Информационный ресурс это последовательность случайные переменные в пределах конечный алфавит Γ, имеющий стационарное распределение.

В неуверенность, или скорость энтропииисточника информации определяется как

${ Displaystyle H { mathbf {X} } = lim _ {n to infty} H (X_ {n} | X_ {0}, X_ {1}, dots, X_ {n-1} )}$

где

${ displaystyle X_ {0}, X_ {1}, dots, X_ {n}}$

- последовательность случайных величин, определяющих источник информации, и

${ Displaystyle H (X_ {n} | X_ {0}, X_ {1}, dots, X_ {n-1})}$

условный информационная энтропия последовательности случайных величин. Эквивалентно, есть

${ Displaystyle H { mathbf {X} } = lim _ {n to infty} { frac {H (X_ {0}, X_ {1}, dots, X_ {n-1}, X_ {n})} {n + 1}}.}$

Смотрите также

• Марковский источник информации
• Асимптотическое свойство равнораспределения

использованная литература

• Роберт Б. Эш, Теория информации, (1965) Dover Publications. ISBN  0-486-66521-6

Эта статистика -связанная статья является заглушка. Вы можете помочь Википедии расширяя это.