Экспоненциальное распределение - Exponential distribution

Экспоненциальный

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${ displaystyle lambda> 0,}$ ставка, или обратная масштаб
Поддержка	${ Displaystyle х в [0, infty)}$
PDF	${ displaystyle lambda e ^ {- lambda x}}$
CDF	${ displaystyle 1-e ^ {- lambda x}}$
Квантиль	${ displaystyle - { frac { ln (1-p)} { lambda}}}$
Значить	${ displaystyle { frac {1} { lambda}}}$
Медиана	${ displaystyle { frac { ln 2} { lambda}}}$
Режим	${ displaystyle 0}$
Дисперсия	${ displaystyle { frac {1} { lambda ^ {2}}}}$
Асимметрия	${ displaystyle 2}$
Ex. эксцесс	${ displaystyle 6}$
Энтропия	${ displaystyle 1- ln lambda}$
MGF	${ displaystyle { frac { lambda} { lambda -t}}, { text {for}} t < lambda}$
CF	${ displaystyle { frac { lambda} { lambda -it}}}$
Информация Fisher	${ displaystyle { frac {1} { lambda ^ {2}}}}$
Расхождение Кульбака-Лейблера	${ displaystyle ln { frac { lambda _ {0}} { lambda}} + { frac { lambda} { lambda _ {0}}} - 1}$

В теория вероятности и статистика, то экспоненциальное распределение это распределение вероятностей времени между событиями в Точечный процесс Пуассона, то есть процесс, в котором события происходят непрерывно и независимо с постоянной средней скоростью. Это частный случай гамма-распределение. Это непрерывный аналог геометрическое распределение, и его ключевое свойство - быть без памяти. Помимо того, что он используется для анализа точечных процессов Пуассона, он встречается в различных других контекстах.

Экспоненциальное распределение - это не то же самое, что класс экспоненциальные семейства распределений, который представляет собой большой класс вероятностных распределений, который включает экспоненциальное распределение в качестве одного из своих членов, но также включает нормальное распределение, биномиальное распределение, гамма-распределение, Пуассон, и многие другие.

Определения

Функция плотности вероятности

В функция плотности вероятности (pdf) экспоненциального распределения есть

${ displaystyle f (x; lambda) = { begin {cases} lambda e ^ {- lambda x} & x geq 0, 0 & x <0. end {ases}}}$

Вот λ > 0 - параметр распределения, часто называемый параметр скорости. Распределение поддерживается на интервале [0, ∞). Если случайная переменная Икс имеет это распределение, мы пишемИкс ~ Опыт (λ).

Экспоненциальное распределение показывает бесконечная делимость.

Кумулятивная функция распределения

В кумулятивная функция распределения дан кем-то

${ displaystyle F (x; lambda) = { begin {cases} 1-e ^ {- lambda x} & x geq 0, 0 & x <0. end {ases}}}$

Альтернативная параметризация

Иногда экспоненциальное распределение параметризуется с помощью параметр масштаба β = 1/λ:

${ displaystyle f (x; beta) = { begin {cases} { frac {1} { beta}} e ^ {- x / beta} & x geq 0, 0 & x <0. end {case}}}$

Свойства

Среднее, дисперсия, моменты и медиана

Среднее значение - это центр масс вероятности, то есть первый момент.

Медиана - это прообраз F⁻¹(1/2).

Среднее или ожидаемое значение экспоненциально распределенной случайной величины Икс с параметром скорости λ определяется выражением

${ displaystyle operatorname {E} [X] = { frac {1} { lambda}}.}$

В свете приведенных примеров ниже, это имеет смысл: если вы получаете телефонные звонки со средней скоростью 2 в час, то вы можете ожидать, что каждый звонок будет ждать полчаса.

В отклонение из Икс дан кем-то

${ displaystyle operatorname {Var} [X] = { frac {1} { lambda ^ {2}}},}$

так что среднеквадратичное отклонение равно среднему значению.

В моменты из Икс, для ${ Displaystyle п в mathbb {N}}$ даны

${ displaystyle operatorname {E} left [X ^ {n} right] = { frac {n!} { lambda ^ {n}}}.}$

В центральные моменты из Икс, для ${ Displaystyle п в mathbb {N}}$ даны

${ displaystyle mu _ {n} = { frac {! n} { lambda ^ {n}}} = { frac {n!} { lambda ^ {n}}} sum _ {k = 0 } ^ {n} { frac {(-1) ^ {k}} {k!}}.}$

где !п это субфакторный из п

В медиана из Икс дан кем-то

${ displaystyle operatorname {m} [X] = { frac { ln (2)} { lambda}} < operatorname {E} [X],}$

где ln относится к натуральный логарифм. Таким образом абсолютная разница между средним и медианным значением

${ Displaystyle left | OperatorName {E} left [X right] - OperatorName {m} left [X right] right | = { frac {1- ln (2)} { lambda }} <{ frac {1} { lambda}} = operatorname { sigma} [X],}$

в соответствии с среднее неравенство.

Без памяти

Экспоненциально распределенная случайная величина Т подчиняется отношению

${ displaystyle Pr left (T> s + t mid T> s right) = Pr (T> t), qquad forall s, t geq 0.}$

В этом можно убедиться, рассмотрев дополнительная кумулятивная функция распределения:

${ Displaystyle { begin {align} Pr left (T> s + t mid T> s right) & = { frac { Pr left (T> s + t cap T> s right )} { Pr left (T> s right)}} [4pt] & = { frac { Pr left (T> s + t right)} { Pr left (T> s right)}} [4pt] & = { frac {e ^ {- lambda (s + t)}} {e ^ {- lambda s}}} [4pt] & = e ^ { - lambda t} [4pt] & = Pr (T> t). end {выравнивается}}}$

Когда Т интерпретируется как время ожидания события относительно некоторого начального времени, это отношение означает, что если Т обусловлено отсутствием наблюдения за событием в течение некоторого начального периода времени s, распределение оставшегося времени ожидания такое же, как и в исходном безусловном распределении. Например, если событие не произошло через 30 секунд, условная возможность это событие займет еще не менее 10 секунд, что равняется безусловной вероятности наблюдения события более чем через 10 секунд после начального времени.

Экспоненциальное распределение и геометрическое распределение находятся единственные распределения вероятностей без памяти.

Следовательно, экспоненциальное распределение также обязательно является единственным непрерывным распределением вероятностей, которое имеет постоянную интенсивность отказов.

Квантили

Критерии Тьюки для аномалий.^{[нужна цитата ]}

В квантильная функция (обратная кумулятивная функция распределения) для Exp (λ) является

${ displaystyle F ^ {- 1} (p; lambda) = { frac {- ln (1-p)} { lambda}}, qquad 0 leq p <1}$

В квартили поэтому:

• первый квартиль: ln (4/3) /λ
• медиана: ln (2) /λ
• третий квартиль: ln (4) /λ

И как следствие межквартильный размах ln (3) /λ.

Дивергенция Кульбака – Лейблера

Направленный Дивергенция Кульбака – Лейблера в нац из ${ displaystyle e ^ { lambda}}$ («аппроксимирующее» распределение) от ${ displaystyle e ^ { lambda _ {0}}}$ («истинное» распределение) определяется как

${ displaystyle { begin {align} Delta ( lambda _ {0} parallel lambda) & = mathbb {E} _ { lambda _ {0}} left ( log { frac {p_ { lambda _ {0}} (x)} {p _ { lambda} (x)}} right) & = mathbb {E} _ { lambda _ {0}} left ( log { frac { lambda _ {0} e ^ {- lambda _ {0} x}} { lambda e ^ {- lambda x}}} right) & = log ( lambda _ {0} ) - log ( lambda) - ( lambda _ {0} - lambda) E _ { lambda _ {0}} (x) & = log ( lambda _ {0}) - log ( lambda) + { frac { lambda} { lambda _ {0}}} - 1. end {align}}}$

Максимальное распределение энтропии

Среди всех непрерывных распределений вероятностей с поддержка [0, ∞) и среднее значение μ, экспоненциальное распределение с λ = 1 / μ имеет наибольшее дифференциальная энтропия. Другими словами, это распределение вероятностей максимальной энтропии для случайное изменение Икс который больше или равен нулю и для которого E [Икс] фиксированный.^[1]

Распределение минимума экспоненциальных случайных величин

Позволять Икс₁, ..., Икс_п быть независимый экспоненциально распределенные случайные величины со скоростными параметрами λ₁, ..., λ_п. потом

${ displaystyle min left {X_ {1}, dotsc, X_ {n} right }}$

также имеет экспоненциальное распределение с параметром

${ displaystyle lambda = lambda _ {1} + dotsb + lambda _ {n}.}$

В этом можно убедиться, рассмотрев дополнительная кумулятивная функция распределения:

${ displaystyle { begin {align} & Pr left ( min {X_ {1}, dotsc, X_ {n} }> x right) = {} & Pr left (X_ {1}> x, dotsc, X_ {n}> x right) = {} & prod _ {i = 1} ^ {n} Pr left (X_ {i}> x right) = {} & prod _ {i = 1} ^ {n} exp left (-x lambda _ {i} right) = exp left (-x sum _ {i = 1} ^ {n} lambda _ {i} right). end {выравнивается}}}$

Индекс переменной, достигающей минимума, распределяется согласно категориальному распределению

${ displaystyle Pr left (к mid X_ {k} = min {X_ {1}, dotsc, X_ {n} } right) = { frac { lambda _ {k}} { lambda _ {1} + dotsb + lambda _ {n}}}.}.$

Доказательство выглядит следующим образом:

${ displaystyle { text {Let}} I = operatorname {argmin} _ {i in {1, dotsb, n }} {X_ {1}, dotsc, X_ {n} }}$

${ displaystyle { begin {align} { text {then}} Pr (I = k) & = int _ {0} ^ { infty} Pr (X_ {k} = x) Pr (X_ {i neq k}> x) dx & = int _ {0} ^ { infty} lambda _ {k} e ^ {- lambda _ {k} x} left ( prod _ { i = 1, i neq k} ^ {n} e ^ {- lambda _ {i} x} right) dx & = lambda _ {k} int _ {0} ^ { infty} e ^ {- left ( lambda _ {1} + dotsb + lambda _ {n} right) x} dx & = { frac { lambda _ {k}} { lambda _ {1 } + dotsb + lambda _ {n}}}. end {align}}}$

Обратите внимание, что

${ Displaystyle макс {X_ {1}, dotsc, X_ {n} }}$

не распространяется экспоненциально.^[2]

Совместные моменты i.i.d. экспоненциальная статистика заказов

Позволять ${ Displaystyle X_ {1}, dotsc, X_ {n}}$ быть ${ displaystyle n}$ независимые и одинаково распределенные экспоненциальные случайные величины с параметром скорости λ. Позволять ${ Displaystyle X _ {(1)}, dotsc, X _ {(n)}}$ обозначим соответствующие статистика заказов. Для ${ displaystyle i$ , совместный момент ${ displaystyle operatorname {E} left [X _ {(i)} X _ {(j)} right]}$ статистики заказов ${ Displaystyle X _ {(я)}}$ и ${ displaystyle X _ {(j)}}$ дан кем-то

${ displaystyle { begin {align} operatorname {E} left [X _ {(i)} X _ {(j)} right] & = sum _ {k = 0} ^ {j-1} { frac {1} {(nk) lambda}} operatorname {E} left [X _ {(i)} right] + operatorname {E} left [X _ {(i)} ^ {2} right ] & = sum _ {k = 0} ^ {j-1} { frac {1} {(nk) lambda}} sum _ {k = 0} ^ {i-1} { frac {1} {(nk) lambda}} + sum _ {k = 0} ^ {i-1} { frac {1} {((nk) lambda) ^ {2}}} + left ( sum _ {k = 0} ^ {i-1} { frac {1} {(nk) lambda}} right) ^ {2}. end {align}}}$

Это можно увидеть, вызвав закон полного ожидания и свойство без памяти:

${ displaystyle { begin {align} operatorname {E} left [X _ {(i)} X _ {(j)} right] & = int _ {0} ^ { infty} operatorname {E} left [X _ {(i)} X _ {(j)} mid X _ {(i)} = x right] f_ {X _ {(i)}} (x) , dx & = int _ {x = 0} ^ { infty} x operatorname {E} left [X _ {(j)} mid X _ {(j)} geq x right] f_ {X _ {(i)}} (x ) , dx && left ({ textrm {Since}} ~ X _ {(i)} = x подразумевает X _ {(j)} geq x right) & = int _ {x = 0} ^ { infty} x left [ operatorname {E} left [X _ {(j)} right] + x right] f_ {X _ {(i)}} (x) , dx && left ({ текст {по свойству без памяти}} right) & = sum _ {k = 0} ^ {j-1} { frac {1} {(nk) lambda}} operatorname {E} left [X _ {(i)} right] + operatorname {E} left [X _ {(i)} ^ {2} right]. End {выравнивается}}}$

Первое уравнение следует из закон полного ожидания Второе уравнение использует тот факт, что если мы ${ Displaystyle X _ {(я)} = х}$, должно следовать, что ${ displaystyle X _ {(j)} geq x}$Третье уравнение полагается на свойство без памяти для замены ${ Displaystyle OperatorName {E} left [X _ {(j)} mid X _ {(j)} geq x right]}$ с участием ${ displaystyle operatorname {E} left [X _ {(j)} right] + x}$.

Сумма двух независимых экспоненциальных случайных величин

Функция распределения вероятностей (PDF) суммы двух независимых случайных величин - это свертка их отдельных PDF-файлов. Если ${ displaystyle X_ {1}}$ и ${ displaystyle X_ {2}}$ независимые экспоненциальные случайные величины с соответствующими параметрами скорости ${ displaystyle lambda _ {1}}$ и ${ displaystyle lambda _ {2},}$ то плотность вероятности ${ Displaystyle Z = X_ {1} + X_ {2}}$ дан кем-то

${ displaystyle { begin {align} f_ {Z} (z) & = int _ {- infty} ^ { infty} f_ {X_ {1}} (x_ {1}) f_ {X_ {2} } (z-x_ {1}) , dx_ {1} & = int _ {0} ^ {z} lambda _ {1} e ^ {- lambda _ {1} x_ {1}} lambda _ {2} e ^ {- lambda _ {2} (z-x_ {1})} , dx_ {1} & = lambda _ {1} lambda _ {2} e ^ { - lambda _ {2} z} int _ {0} ^ {z} e ^ {( lambda _ {2} - lambda _ {1}) x_ {1}} , dx_ {1} & = { begin {cases} { dfrac { lambda _ {1} lambda _ {2}} { lambda _ {2} - lambda _ {1}}} left (e ^ {- lambda _ {1} z} -e ^ {- lambda _ {2} z} right) & { text {if}} lambda _ {1} neq lambda _ {2} [4pt] лямбда ^ {2} ze ^ {- lambda z} & { text {if}} lambda _ {1} = lambda _ {2} = lambda. end {cases}} end {выровнены}} }$

Энтропия этого распределения доступна в закрытой форме: при условии, что ${ displaystyle lambda _ {1}> lambda _ {2}}$ (без ограничения общности), то

${ displaystyle { begin {align} H (Z) & = 1+ gamma + ln left ({ frac { lambda _ {1} - lambda _ {2}} { lambda _ {1}) lambda _ {2}}} right) + psi left ({ frac { lambda _ {1}} { lambda _ {1} - lambda _ {2}}} right), end {выровнено}}}$

где ${ displaystyle gamma}$ это Постоянная Эйлера-Маскерони, и ${ Displaystyle psi ( cdot)}$ это функция дигаммы.^[3]

В случае равных параметров скорости результатом будет Распределение Erlang с формой 2 и параметром ${ displaystyle lambda,}$ что, в свою очередь, является частным случаем гамма-распределение.

Связанные дистрибутивы

Этот раздел включает в себя список общих использованная литература, но он остается в основном непроверенным, потому что ему не хватает соответствующих встроенные цитаты. Пожалуйста, помогите улучшить этот раздел введение более точные цитаты. (Март 2011 г.) (Узнайте, как и когда удалить этот шаблон сообщения)

• Если ${ displaystyle X sim operatorname {Laplace} left ( mu, beta ^ {- 1} right)}$ тогда |Икс - μ | ~ Exp (β).
• Если Икс ~ Парето (1, λ), то log (Икс) ~ Exp (λ).
• Если Икс ~ SkewLogistic (θ), то ${ displaystyle log left (1 + e ^ {- X} right) sim operatorname {Exp} ( theta)}$.
• Если Икс_я ~ U(0, 1) тогда

  ${ displaystyle lim _ {n to infty} n min left (X_ {1}, ldots, X_ {n} right) sim operatorname {Exp} (1)}$

• Экспоненциальное распределение - это предел масштабированного бета-распространение:

  ${ displaystyle lim _ {n to infty} n operatorname {Beta} (1, n) = operatorname {Exp} (1).}$

• Экспоненциальное распределение - частный случай типа 3. Распределение Пирсона.
• Если Икс ~ Exp (λ) и Икс_я ~ Exp (λ_я) тогда:
  • ${ displaystyle kX sim operatorname {Exp} left ({ frac { lambda} {k}} right)}$, закрытие при масштабировании на положительный коэффициент.
  • 1 + Икс ~ БенктандерВейбулл (λ, 1), которое сводится к усеченному экспоненциальному распределению.
  • ke^Икс ~ Парето (k, λ).
  • е^−X ~ Бета (λ, 1).
  • 1/kе^Икс ~ Сила закона (k, λ)
  • ${ displaystyle { sqrt {X}} sim operatorname {Rayleigh} left ({ frac {1} { sqrt {2 lambda}}} right)}$, то Распределение Рэлея
  • ${ displaystyle X sim operatorname {Weibull} left ({ frac {1} { lambda}}, 1 right)}$, то Распределение Вейбулла
  • ${ displaystyle X ^ {2} sim operatorname {Weibull} left ({ frac {1} { lambda ^ {2}}}, { frac {1} {2}} right)}$
  • μ - β log (λИкс) ∼ Гамбель (μ, β).
  • Если также Y ~ Эрланг (п, λ) или${ displaystyle Y sim Gamma left (n, { frac {1} { lambda}} right)}$ тогда ${ displaystyle { frac {X} {Y}} + 1 sim operatorname {Pareto} (1, n)}$
  • Если также λ ~ Гамма (k, θ) (форма, масштабная параметризация), то граничное распределение Икс является Lomax (k, 1 / θ) гамма смесь
  • λ₁Икс₁ - λ₂Y₂ ~ Лаплас (0, 1).
  • min {Икс₁, ..., Икс_п} ~ Exp (λ₁ + ... + λ_п).
  • Если также λ_я = λ, тогда:
    • ${ Displaystyle X_ {1} + cdots + X_ {k} = sum _ {i} X_ {i} sim}$ Erlang (k, λ) = Гамма (k, λ⁻¹) = Гамма (k, λ) (в (k, θ) и (α, β) параметризация соответственно) с целочисленным параметром формы k.
    • Икс_я − Икс_j ~ Лаплас (0, λ⁻¹).
  • Если также Икс_я независимы, то:
    • ${ displaystyle { frac {X_ {i}} {X_ {i} + X_ {j}}}}$ ~ U (0, 1)
    • ${ displaystyle Z = { frac { lambda _ {i} X_ {i}} { lambda _ {j} X_ {j}}}}$ имеет функцию плотности вероятности ${ displaystyle f_ {Z} (z) = { frac {1} {(z + 1) ^ {2}}}}$. Это можно использовать для получения доверительный интервал для ${ displaystyle { frac { lambda _ {i}} { lambda _ {j}}}}$.
  • Если также λ = 1:
    • ${ displaystyle mu - beta log left ({ frac {e ^ {- X}} {1-e ^ {- X}}} right) sim operatorname {Logistic} ( mu, бета)}$, то логистическая дистрибуция
    • ${ displaystyle mu - beta log left ({ frac {X_ {i}} {X_ {j}}} right) sim operatorname {Logistic} ( mu, beta)}$
    • μ - σ журнал (Икс) ~ GEV (μ, σ, 0).
    • Далее, если ${ Displaystyle Y sim Gamma left ( alpha, { frac { beta} { alpha}} right)}$ тогда ${ displaystyle { sqrt {XY}} sim operatorname {K} ( alpha, beta)}$ (K-распределение )
  • Если также λ = 1/2, то Икс ∼ χ²
    ₂; т.е. Икс имеет распределение хи-квадрат с 2 степени свободы. Отсюда:

    ${ displaystyle operatorname {Exp} ( lambda) = { frac {1} {2 lambda}} operatorname {Exp} left ({ frac {1} {2}} right) sim { frac {1} {2 lambda}} chi _ {2} ^ {2} Rightarrow sum _ {i = 1} ^ {n} operatorname {Exp} ( lambda) sim { frac {1 } {2 lambda}} chi _ {2n} ^ {2}}$

• Если ${ displaystyle X sim Operatorname {Exp} left ({ frac {1} { lambda}} right)}$ и ${ displaystyle Y mid X}$ ~ Пуассон (Икс) тогда ${ displaystyle Y sim operatorname {Geometric} left ({ frac {1} {1+ lambda}} right)}$ (геометрическое распределение )
• В Распределение Хойта можно получить из экспоненциального распределения и распределение арксинусов

Другие связанные дистрибутивы:

• Гиперэкспоненциальное распределение - распределение, плотность которого представляет собой взвешенную сумму экспоненциальных плотностей.
• Гипоэкспоненциальное распределение - распределение общей суммы экспоненциальных случайных величин.
• exGaussian распределение - сумма экспоненциального распределения и нормальное распределение.

Статистические выводы

Ниже предположим, что случайная величина Икс экспоненциально распределена с параметром скорости λ, и ${ displaystyle x_ {1}, dotsc, x_ {n}}$ находятся п независимые образцы из Икс, с выборочным средним ${ displaystyle { bar {x}}}$.

Оценка параметров

В максимальная вероятность оценка для λ строится следующим образом:

В функция правдоподобия для λ, учитывая независимые и одинаково распределенные образец Икс = (Икс₁, ..., Икс_п) взятый из переменной:

${ displaystyle L ( lambda) = prod _ {i = 1} ^ {n} lambda exp (- lambda x_ {i}) = lambda ^ {n} exp left (- lambda sum _ {i = 1} ^ {n} x_ {i} right) = lambda ^ {n} exp left (- lambda n { overline {x}} right),}$

где:

${ displaystyle { overline {x}} = { frac {1} {n}} sum _ {i = 1} ^ {n} x_ {i}}$

- выборочное среднее.

Производная логарифма функции правдоподобия:

${ displaystyle { frac {d} {d lambda}} ln L ( lambda) = { frac {d} {d lambda}} left (n ln lambda - lambda n { overline {x}} right) = { frac {n} { lambda}} - n { overline {x}} { begin {cases}> 0, & 0 < lambda <{ frac {1} { overline {x}}}, [8pt] = 0, & lambda = { frac {1} { overline {x}}}, [8pt] <0, & lambda> { frac {1} { overline {x}}}. End {case}}}$

Следовательно, максимальная вероятность оценка для параметра скорости:

${ displaystyle { widehat { lambda}} = { frac {1} { overline {x}}} = { frac {n} { sum _ {i} x_ {i}}}}$

Это не ан объективный оценщик из ${ displaystyle lambda,}$ несмотря на то что ${ displaystyle { overline {x}}}$ является непредвзятый^[4] MLE^[5] оценщик ${ displaystyle 1 / lambda}$ и среднее значение распределения.

Предвзятость ${ displaystyle { widehat { lambda}} _ { text {mle}}}$ равно

${ displaystyle b Equiv OperatorName {E} left [ left ({ widehat { lambda}} _ { text {mle}} - lambda right) right] = { frac { lambda} {n-1}}}$

что дает оценщик максимального правдоподобия с поправкой на смещение

${ displaystyle { widehat { lambda}} _ { text {mle}} ^ {*} = { widehat { lambda}} _ { text {mle}} - { widehat {b}}.}$

Приближенный минимизатор ожидаемой квадратичной ошибки

Предположим, у вас есть как минимум три образца. Если мы ищем минимизатор ожидаемого среднеквадратичная ошибка (смотрите также: Компромисс смещения и дисперсии ), аналогичную оценке максимального правдоподобия (т.е. мультипликативной поправке к оценке правдоподобия), мы имеем:

${ displaystyle { widehat { lambda}} = left ({ frac {n-2} {n}} right) left ({ frac {1} { bar {x}}} right) = { frac {n-2} { sum _ {i} x_ {i}}}}$

Это выводится из среднего значения и дисперсии обратное гамма-распределение: ${ textstyle { mbox {Inv-Gamma}} (п, лямбда)}$.^[6]

Информация Fisher

В Информация Fisher, обозначенный ${ Displaystyle { mathcal {I}} ( lambda)}$, для оценки параметра скорости ${ displaystyle lambda}$ дается как:

${ displaystyle { mathcal {I}} ( lambda) = operatorname {E} left [ left. left ({ frac { partial} { partial lambda}} log f (x; lambda) right) ^ {2} right | lambda right] = int left ({ frac { partial} { partial lambda}} log f (x; lambda) right) ^ {2} f (x; lambda) , dx}$

Подключение раздачи и решения дает:

${ displaystyle { mathcal {I}} ( lambda) = int _ {0} ^ { infty} left ({ frac { partial} { partial lambda}} log lambda e ^ { - lambda x} right) ^ {2} lambda e ^ {- lambda x} , dx = int _ {0} ^ { infty} left ({ frac {1} { lambda} } -x right) ^ {2} lambda e ^ {- lambda x} , dx = lambda ^ {- 2}.}.}$

Это определяет количество информации, которую несет каждая независимая выборка экспоненциального распределения о неизвестном параметре скорости. ${ displaystyle lambda}$.

Доверительные интервалы

Доверительный интервал 100 (1 - α)% для параметра скорости экспоненциального распределения определяется как:^[7]

${ displaystyle { frac {2n} {{ widehat { lambda}} chi _ {1 - { frac { alpha} {2}}, 2n} ^ {2}}} <{ frac {1 } { lambda}} <{ frac {2n} {{ widehat { lambda}} chi _ {{ frac { alpha} {2}}, 2n} ^ {2}}}}$

что также равно:

${ displaystyle { frac {2n { overline {x}}} { chi _ {1 - { frac { alpha} {2}}, 2n} ^ {2}}} <{ frac {1} { lambda}} <{ frac {2n { overline {x}}} { chi _ {{ frac { alpha} {2}}, 2n} ^ {2}}}}$

где χ²
_п,v это 100(п) процентиль из распределение хи-квадрат с участием v степени свободы, n - количество наблюдений времени между приходами в выборке, а x-bar - это среднее значение выборки. Простое приближение к точным конечным точкам интервала может быть получено с использованием нормального приближения к точным конечным точкам интервала. χ²
_п,v распространение. Это приближение дает следующие значения для 95% доверительного интервала:

${ displaystyle { begin {align} lambda _ { text {lower}} & = { widehat { lambda}} left (1 - { frac {1.96} { sqrt {n}}} right ) lambda _ { text {upper}} & = { widehat { lambda}} left (1 + { frac {1.96} { sqrt {n}}} right) end {выровнено} }}$

Это приближение может быть приемлемым для образцов, содержащих не менее 15-20 элементов.^[8]

Байесовский вывод

В сопряженный предшествующий для экспоненциального распределения - это гамма-распределение (из которых экспоненциальное распределение является частным случаем). Полезна следующая параметризация функции плотности гамма-вероятности:

${ displaystyle operatorname {Gamma} ( lambda; alpha, beta) = { frac { beta ^ { alpha}} { Gamma ( alpha)}} lambda ^ { alpha -1} exp (- lambda beta).}$

В апостериорное распределение п затем можно выразить через функцию правдоподобия, определенную выше, и априорную гамму:

${ displaystyle { begin {align} p ( lambda) & propto L ( lambda) Gamma ( lambda; alpha, beta) & = lambda ^ {n} exp left (- lambda n { overline {x}} right) { frac { beta ^ { alpha}} { Gamma ( alpha)}} lambda ^ { alpha -1} exp (- lambda бета) & propto lambda ^ {( alpha + n) -1} exp (- lambda left ( beta + n { overline {x}} right)). end {выравнивается} }}$

Теперь апостериорная плотность п был указан с точностью до отсутствующей нормирующей константы. Поскольку он имеет форму гамма-PDF, его можно легко заполнить, и вы получите:

${ displaystyle p ( lambda) = Gamma ( lambda; alpha + n, beta + n { overline {x}}).}$

Здесь гиперпараметр α можно интерпретировать как количество предшествующих наблюдений, а β как сумму предыдущих наблюдений. Апостериорное среднее значение здесь:

${ displaystyle { frac { alpha + n} { beta + n { overline {x}}}}.}$

Возникновение и приложения

Возникновение событий

Экспоненциальное распределение возникает естественным образом при описании длительностей времен между приходами в однородной Пуассоновский процесс.

Экспоненциальное распределение можно рассматривать как непрерывный аналог геометрическое распределение, который описывает количество Бернулли испытания необходимо для дискретный процесс изменения состояния. Напротив, экспоненциальное распределение описывает время, в течение которого непрерывный процесс меняет состояние.

В реальных сценариях предположение о постоянной скорости (или вероятности в единицу времени) редко выполняется. Например, скорость входящих телефонных звонков зависит от времени суток. Но если мы сосредоточимся на временном интервале, в течение которого скорость примерно постоянна, например, с 14 до 16 часов. в рабочие дни экспоненциальное распределение можно использовать в качестве хорошей приближенной модели для времени до следующего телефонного звонка. Подобные предостережения применимы к следующим примерам, которые дают примерно экспоненциально распределенные переменные:

• Время до радиоактивного частицы распадаются, или время между щелчками счетчик Гейгера
• Время до следующего телефонного звонка
• Время до дефолта (по выплате держателям долга компании) в сокращенной форме Моделирование кредитного риска

Экспоненциальные переменные также можно использовать для моделирования ситуаций, когда определенные события происходят с постоянной вероятностью на единицу длины, например, расстояние между мутации на ДНК прядь, или между дорожные убийства по заданной дороге.

В теория массового обслуживания время обслуживания агентов в системе (например, сколько времени требуется кассиру банка и т. д., чтобы обслужить клиента) часто моделируется как экспоненциально распределенные переменные. (Например, прибытие клиентов также моделируется распределение Пуассона если поступления независимы и распределяются одинаково.) Продолжительность процесса, который можно представить как последовательность нескольких независимых задач, определяется Распределение Erlang (которое представляет собой распределение суммы нескольких независимых переменных с экспоненциальным распределением).Теория надежности и инженерия надежности также широко используют экспоненциальное распределение. Из-за без памяти свойство этого распределения, оно хорошо подходит для моделирования постоянной степень опасности часть изгиб ванны используется в теории надежности. Это также очень удобно, потому что так легко добавить частота отказов в модели надежности. Однако экспоненциальное распределение не подходит для моделирования общего срока службы организмов или технических устройств, поскольку «интенсивность отказов» здесь непостоянна: больше отказов происходит как для очень молодых, так и для очень старых систем.

Подгонянное кумулятивное экспоненциальное распределение для годового максимума однодневных осадков с использованием CumFreq^[9]

В физика, если вы наблюдаете газ на фиксированном температура и давление в униформе гравитационное поле, высоты различных молекул также подчиняются приблизительному экспоненциальному распределению, известному как Барометрическая формула. Это следствие упомянутого ниже свойства энтропии.

В гидрология экспоненциальное распределение используется для анализа экстремальных значений таких переменных, как месячные и годовые максимальные значения суточных осадков и объемов речного стока.^[10]

На синем рисунке показан пример подгонки экспоненциального распределения к ранжированным годовым максимальным однодневным осадкам, показывающим также 90%. пояс уверенности на основе биномиальное распределение. Данные об осадках представлены построение позиций как часть совокупный частотный анализ.

Предсказание

Наблюдая за образцом п точки данных из неизвестного экспоненциального распределения. Общая задача состоит в том, чтобы использовать эти образцы для прогнозирования будущих данных из того же источника. Распространенным прогнозным распределением по будущим выборкам является так называемое распределение плагинов, формируемое путем вставки подходящей оценки для параметра скорости. λ в экспоненциальную функцию плотности. Обычный выбор оценки - это оценка, обеспечиваемая принципом максимального правдоподобия, и с ее использованием получается прогнозная плотность для будущей выборки. Икс_п+1, обусловленные наблюдаемыми образцами Икс = (Икс₁, ..., Икс_п) предоставлено

${ displaystyle p _ { rm {ML}} (x_ {n + 1} mid x_ {1}, ldots, x_ {n}) = left ({ frac {1} { overline {x}}) } right) exp left (- { frac {x_ {n + 1}} { overline {x}}} right)}$

Байесовский подход обеспечивает прогнозирующее распределение, которое учитывает неопределенность оцениваемого параметра, хотя это может в решающей степени зависеть от выбора априорного значения.

Прогнозирующее распределение, свободное от проблем выбора априорных значений, возникающих при субъективном байесовском подходе, является

${ displaystyle p _ { rm {CNML}} (x_ {n + 1} mid x_ {1}, ldots, x_ {n}) = { frac {n ^ {n + 1} left ({ overline {x}} right) ^ {n}} { left (n { overline {x}} + x_ {n + 1} right) ^ {n + 1}}},}$

который можно рассматривать как

1. частотник распределение уверенности, полученная из распределения ключевой величины ${ displaystyle {x_ {n + 1}} / { overline {x}}}$;^[11]
2. прогнозируемая вероятность профиля, полученная путем исключения параметра λ от совместной вероятности Икс_п+1 и λ путем максимизации;^[12]
3. объективное байесовское прогнозирующее апостериорное распределение, полученное с использованием неинформативного Джеффрис приор 1/λ;
4. прогнозирующее распределение условного нормализованного максимального правдоподобия (CNML), исходя из теоретических соображений.^[13]

Точность прогнозируемого распределения может быть измерена с использованием расстояния или расхождения между истинным экспоненциальным распределением с параметром скорости, λ₀, а прогнозное распределение на основе выборки Икс. В Дивергенция Кульбака – Лейблера - это обычно используемая, не требующая параметризации мера разницы между двумя распределениями. Положив Δ (λ₀||п) обозначают расхождение Кульбака – Лейблера между экспонентой с параметром скорости λ₀ и прогнозирующее распределение п можно показать, что

${ displaystyle { begin {align} operatorname {E} _ { lambda _ {0}} left [ Delta ( lambda _ {0} parallel p _ { rm {ML}}) right] & = psi (n) + { frac {1} {n-1}} - log (n) operatorname {E} _ { lambda _ {0}} left [ Delta ( lambda _ {0} parallel p _ { rm {CNML}}) right] & = psi (n) + { frac {1} {n}} - log (n) end {align}}}$

где математическое ожидание берется относительно экспоненциального распределения с параметром скорости λ₀ ∈ (0, ∞), и ψ (·) это функция дигаммы. Ясно, что прогнозирующее распределение CNML строго превосходит распределение плагинов максимального правдоподобия с точки зрения среднего расхождения Кульбака – Лейблера для всех размеров выборки. п > 0.

Вычислительные методы

Генерация экспоненциальных переменных

Концептуально очень простой метод генерации экспоненциальной варьируется основывается на выборка с обратным преобразованием: Учитывая случайную вариацию U взяты из равномерное распределение на единичном интервале (0, 1) переменная

${ Displaystyle Т = F ^ {- 1} (U)}$

имеет экспоненциальное распределение, где F ⁻¹ это квантильная функция, определяется

${ displaystyle F ^ {- 1} (p) = { frac {- ln (1-p)} { lambda}}.}$

Более того, если U равномерно на (0, 1), то 1 - U. Это означает, что можно генерировать экспоненциальные переменные следующим образом:

${ displaystyle T = { frac {- ln (U)} { lambda}}.}$

Другие методы генерации экспоненциальных переменных обсуждаются Кнутом.^[14] и Деврой.^[15]

Также доступен быстрый метод создания набора готовых экспоненциальных переменных без использования процедуры сортировки.^[15]

Смотрите также

• Мертвое время - применение экспоненциального распределения к анализу детектора частиц.
• Распределение Лапласа, или «двойное экспоненциальное распределение».
• Связи между распределениями вероятностей
• Экспоненциальное распределение Маршалла – Олкина.

использованная литература

внешние ссылки

• «Экспоненциальное распределение», Энциклопедия математики, EMS Press, 2001 [1994]
• Онлайн-калькулятор экспоненциального распределения