Распределение Лапласа - Laplace distribution

Лаплас

Функция плотности вероятности
Кумулятивная функция распределения
Параметры	${ displaystyle mu}$ место расположения (настоящий ) ${ displaystyle b> 0}$ шкала (настоящий)
Поддерживать	${ Displaystyle mathbb {R}}$
PDF	${ displaystyle { frac {1} {2b}} exp left (- { frac {| x- mu |} {b}} right)}$
CDF	${ displaystyle { begin {case} { frac {1} {2}} exp left ({ frac {x- mu} {b}} right) & { text {if}} x leq mu [8pt] 1 - { frac {1} {2}} exp left (- { frac {x- mu} {b}} right) & { text {if}} x geq mu end {case}}}$
Квантиль	${ displaystyle { begin {case} mu + b ln left (2F right) & { text {if}} F leq { frac {1} {2}} [8pt] mu -b ln left (2-2F right) & { text {if}} F geq { frac {1} {2}} end {case}}}$
Иметь в виду	${ displaystyle mu}$
Медиана	${ displaystyle mu}$
Режим	${ displaystyle mu}$
Дисперсия	${ displaystyle 2b ^ {2}}$
СУМАСШЕДШИЙ	${ displaystyle b}$
Асимметрия	${ displaystyle 0}$
Бывший. эксцесс	${ displaystyle 3}$
Энтропия	${ displaystyle log (2be)}$
MGF	${ displaystyle { frac { exp ( mu t)} {1-b ^ {2} t ^ {2}}} { text {for}} | t | <1 / b}$
CF	${ displaystyle { frac { exp ( mu it)} {1 + b ^ {2} t ^ {2}}}}$

В теория вероятности и статистика, то Распределение Лапласа является непрерывным распределение вероятностей названный в честь Пьер-Симон Лаплас. Его также иногда называют двойное экспоненциальное распределение, потому что его можно представить как два экспоненциальные распределения (с дополнительным параметром местоположения), соединенные спиной к спине, хотя этот термин также иногда используется для обозначения Гамбель раздача. Разница между двумя независимые одинаково распределенные экспоненциальные случайные величины управляются распределением Лапласа, как и Броуновское движение оценивается в экспоненциально распределенное случайное время. Приращения Движение Лапласа или дисперсия гамма-процесса оцененные по шкале времени, также имеют распределение Лапласа.

Определения

Функция плотности вероятности

А случайная переменная имеет ${ displaystyle { textrm {Laplace}} ( mu, b)}$ распределение, если его функция плотности вероятности является

${ Displaystyle е (х мид му, Ь) = { гидроразрыва {1} {2b}} ехр влево (- { гидроразрыва {| х- му |} {b}} справа) , !}$

${ displaystyle = { frac {1} {2b}} left {{ begin {matrix} exp left (- { frac { mu -x} {b}} right) & { text {if}} x < mu [8pt] exp left (- { frac {x- mu} {b}} right) & { text {if}} x geq mu end {matrix}} right.}$

Здесь, ${ displaystyle mu}$ это параметр местоположения и ${ displaystyle b> 0}$, которое иногда называют разнообразием, является параметр масштаба. Если ${ displaystyle mu = 0}$ и ${ displaystyle b = 1}$, положительная полупрямая - это в точности экспоненциальное распределение в масштабе 1/2.

Функция плотности вероятности распределения Лапласа также напоминает нормальное распределение; однако, в то время как нормальное распределение выражается в квадрате разницы от среднего ${ displaystyle mu}$, плотность Лапласа выражается через абсолютная разница от среднего. Следовательно, распределение Лапласа имеет более толстые хвосты, чем нормальное распределение.

Кумулятивная функция распределения

Распределение Лапласа легко интегрировать (если различить два симметричных случая) за счет использования абсолютная величина функция. Его кумулятивная функция распределения как следует:

${ Displaystyle { begin {align} F (x) & = int _ {- infty} ^ {x} ! ! f (u) , mathrm {d} u = { begin {cases} { frac {1} {2}} exp left ({ frac {x- mu} {b}} right) & { mbox {if}} x < mu 1 - { frac {1} {2}} exp left (- { frac {x- mu} {b}} right) & { mbox {if}} x geq mu end {cases}} & = { tfrac {1} {2}} + { tfrac {1} {2}} operatorname {sgn} (x- mu) left (1- exp left (- { frac {| x- mu |} {b}} right) right). end {align}}}$

Обратная кумулятивная функция распределения определяется выражением

${ displaystyle F ^ {- 1} (p) = mu -b , operatorname {sgn} (p-0.5) , ln (1-2 | p-0.5 |).}$

Характеристики

Моменты

${ displaystyle mu _ {r} '= { bigg (} { frac {1} {2}} { bigg)} sum _ {k = 0} ^ {r} { bigg [} { frac {r!} {(rk)!}} b ^ {k} mu ^ {(rk)} {1 + (- 1) ^ {k} } { bigg]} = { frac {m ^ {n + 1}} {2b}} left (e ^ {m / b} E _ {- n} (m / b) -e ^ {- m / b} E _ {- n} (- m / b )верно)}$

куда ${ displaystyle E_ {n} ()}$ является обобщенным экспоненциальный интеграл функция ${ Displaystyle E_ {п} (х) = х ^ {п-1} гамма (1-п, х)}$.

Связанные дистрибутивы

• Если ${ displaystyle X sim { textrm {Laplace}} ( mu, b)}$ тогда ${ Displaystyle кХ + с сим { textrm {Лаплас}} (к му + с, кб)}$.
• Если ${ displaystyle X sim { textrm {Laplace}} (0, b)}$ тогда ${ displaystyle left | X right | sim { textrm {Exponential}} left (b ^ {- 1} right)}$. (Экспоненциальное распределение )
• Если ${ displaystyle X, Y sim { textrm {Exponential}} ( lambda)}$ тогда ${ displaystyle X-Y sim { textrm {Laplace}} left (0, lambda ^ {- 1} right)}$．
• Если ${ displaystyle X sim { textrm {Laplace}} ( mu, b)}$ тогда ${ displaystyle left | X- mu right | sim { textrm {Exponential}} (b ^ {- 1})}$.
• Если ${ displaystyle X sim { textrm {Laplace}} ( mu, b)}$ тогда ${ Displaystyle X sim { textrm {EPD}} ( mu, b, 1)}$. (Экспоненциальное распределение мощности )
• Если ${ Displaystyle X_ {1}, ..., X_ {4} sim { textrm {N}} (0,1)}$ (Нормальное распределение ) тогда ${ Displaystyle X_ {1} X_ {2} -X_ {3} X_ {4} sim { textrm {Laplace}} (0,1)}$.
• Если ${ Displaystyle X_ {я} sim { textrm {Laplace}} ( mu, b)}$ тогда ${ displaystyle { frac { displaystyle 2} {b}} sum _ {i = 1} ^ {n} | X_ {i} - mu | sim chi ^ {2} (2n)}$. (Распределение хи-квадрат )
• Если ${ displaystyle X, Y sim { textrm {Laplace}} ( mu, b)}$ тогда ${ Displaystyle { tfrac {| X- mu |} {| Y- mu |}} sim operatorname {F} (2,2)}$. (F-распределение )
• Если ${ Displaystyle X, Y sim { textrm {U}} (0,1)}$ (Равномерное распределение ) тогда ${ Displaystyle журнал (X / Y) sim { textrm {Laplace}} (0,1)}$.
• Если ${ displaystyle X sim { textrm {Exponential}} ( lambda)}$ и ${ Displaystyle Y sim { textrm {Бернулли}} (0,5)}$ (Распределение Бернулли ) независим от ${ displaystyle X}$, тогда ${ Displaystyle X (2Y-1) sim { textrm {Laplace}} left (0, lambda ^ {- 1} right)}$.
• Если ${ displaystyle X sim { textrm {Exponential}} ( lambda)}$ и ${ displaystyle Y sim { textrm {Exponential}} ( nu)}$ независим от ${ displaystyle X}$, тогда ${ displaystyle lambda X- nu Y sim { textrm {Laplace}} (0,1)}$．
• Если ${ displaystyle X}$ имеет Распределение Радемахера и ${ displaystyle Y sim { textrm {Exponential}} ( lambda)}$ тогда ${ Displaystyle XY sim { textrm {Laplace}} (0,1 / lambda)}$.
• Если ${ displaystyle V sim { textrm {Exponential}} (1)}$ и ${ Displaystyle Z sim N (0,1)}$ независим от ${ displaystyle V}$, тогда ${ displaystyle X = mu + b { sqrt {2V}} Z sim mathrm {Laplace} ( mu, b)}$.
• Если ${ displaystyle X sim { textrm {GeometricStable}} (2,0, lambda, 0)}$ (геометрическое устойчивое распределение ) тогда ${ displaystyle X sim { textrm {Laplace}} (0, lambda)}$.
• Распределение Лапласа является предельным случаем гиперболическое распределение.
• Если ${ Displaystyle X | Y sim { textrm {N}} ( mu, Y ^ {2})}$ с ${ displaystyle Y sim { textrm {Rayleigh}} (б)}$ (Распределение Рэлея ) тогда ${ displaystyle X sim { textrm {Laplace}} ( mu, b)}$.
• Учитывая целое число ${ Displaystyle п geq 1}$, если ${ Displaystyle X_ {1}, X_ {2} sim Gamma left ({ frac {1} {n}}, b right)}$ (гамма-распределение, с помощью ${ displaystyle k, theta}$ характеристика), то ${ displaystyle sum _ {я = 1} ^ {n} left ({ frac { mu} {n}} + X_ {1} -X_ {2} right) sim { textrm {Laplace} } ( mu, b)}$ (бесконечная делимость )^[1]

Связь с экспоненциальным распределением

Случайную величину Лапласа можно представить как разность двух iid экспоненциальные случайные величины.^[1] Один из способов показать это - использовать характеристическая функция подход. Для любого набора независимых непрерывных случайных величин, для любой линейной комбинации этих переменных его характеристическая функция (которая однозначно определяет распределение) может быть получена путем умножения соответствующих характеристических функций.

Рассмотрим две i.i.d случайные величины ${ displaystyle X, Y sim { textrm {Exponential}} ( lambda)}$. Характеристические функции для ${ displaystyle X, -Y}$ находятся

${ displaystyle { frac { lambda} {- it + lambda}}, quad { frac { lambda} {it + lambda}}}$

соответственно. При умножении этих характеристических функций (эквивалентных характеристической функции суммы случайных величин ${ Displaystyle X + (- Y)}$) результат

${ displaystyle { frac { lambda ^ {2}} {(- it + lambda) (it + lambda)}} = { frac { lambda ^ {2}} {t ^ {2} + lambda ^ {2}}}.}$

Это то же самое, что и характеристическая функция для ${ Displaystyle Z sim { textrm {Laplace}} (0,1 / lambda)}$, который

${ displaystyle { frac {1} {1 + { frac {t ^ {2}} { lambda ^ {2}}}}}.}.$

Распределения Саргана

Распределения Саргана - это система распределений, ядром которой является распределение Лапласа. А ${ displaystyle p}$распределение Саргана порядка имеет плотность^[2][3]

${ displaystyle f_ {p} (x) = { tfrac {1} {2}} exp (- alpha | x |) { frac { displaystyle 1+ sum _ {j = 1} ^ {p } beta _ {j} alpha ^ {j} | x | ^ {j}} { displaystyle 1+ sum _ {j = 1} ^ {p} j! beta _ {j}}},}$

для параметров ${ Displaystyle альфа geq 0, beta _ {j} geq 0}$. Результаты распределения Лапласа для ${ displaystyle p = 0}$.

Статистические выводы

Оценка параметров

Данный ${ displaystyle N}$ независимые и одинаково распределенные образцы ${ displaystyle x_ {1}, x_ {2}, ..., x_ {N}}$, то максимальная вероятность оценщик ${ displaystyle { hat { mu}}}$ из ${ displaystyle mu}$ это образец медиана,^[4]и максимальная вероятность оценщик ${ displaystyle { hat {b}}}$ из ${ displaystyle b}$ среднее абсолютное отклонение от медианы

${ displaystyle { hat {b}} = { frac {1} {N}} sum _ {i = 1} ^ {N} | x_ {i} - { hat { mu}} |}$

(обнаруживая связь между распределением Лапласа и наименьшие абсолютные отклонения ).

Возникновение и приложения

Распределение Лапласа использовалось в распознавании речи для моделирования априорных значений на DFT коэффициенты ^[5] и в сжатии изображений JPEG для моделирования коэффициентов AC ^[6] созданный DCT.

• Добавление шума, полученного из распределения Лапласа с параметром масштабирования, соответствующим чувствительности функции, к выходным данным запроса статистической базы данных является наиболее распространенным средством обеспечения дифференциальная конфиденциальность в статистических базах данных.

Распределение Лапласа, адаптированное к максимальному количеству осадков за один день ^[7]

• В регрессивный анализ, то наименьшие абсолютные отклонения оценка возникает как оценка максимального правдоподобия, если ошибки имеют распределение Лапласа.
• В Лассо можно рассматривать как байесовскую регрессию с лапласианской априорностью.^[8]
• В гидрология распределение Лапласа применяется к экстремальным явлениям, таким как годовые максимальные однодневные осадки и сток рек. Голубая картинка, сделанная с CumFreq, иллюстрирует пример подгонки распределения Лапласа к ранжированным годовым максимальным однодневным осадкам, показывающим также 90% пояс уверенности на основе биномиальное распределение. Данные об осадках представлены построение позиций как часть совокупный частотный анализ.

Распределение Лапласа, будучи составной или же двойной Распределение применимо в ситуациях, когда более низкие значения возникают при других внешних условиях, чем более высокие, так что они следуют другому образцу.^[9]

Вычислительные методы

Генерация значений из распределения Лапласа

Учитывая случайную величину ${ displaystyle U}$ взяты из равномерное распределение в интервале ${ Displaystyle влево (-1 / 2,1 / 2 вправо)}$, случайная величина

${ Displaystyle Х = мю -b , OperatorName {sgn} (U) , ln (1-2 | U |)}$

имеет распределение Лапласа с параметрами ${ displaystyle mu}$ и ${ displaystyle b}$. Это следует из приведенной выше обратной кумулятивной функции распределения.

А ${ displaystyle { textrm {Laplace}} (0, b)}$ варьировать также может быть сгенерирована как разница двух i.i.d. ${ displaystyle { textrm {Exponential}} (1 / b)}$ случайные переменные. Эквивалентно, ${ Displaystyle { textrm {Лаплас}} (0,1)}$ также может быть сгенерирован как логарифм соотношения двух i.i.d. однородные случайные величины.

История

Это распределение часто называют первым законом ошибок Лапласа. Он опубликовал его в 1774 году, когда заметил, что частота ошибки может быть выражена как экспоненциальная функция от ее величины, если ее знак не принимается во внимание.^[10][11]

Кейнс опубликовал статью в 1911 году, основанную на его более ранней диссертации, в которой показал, что распределение Лапласа минимизирует абсолютное отклонение от медианы.^[12]

Смотрите также

• Многомерное распределение Лапласа
• Мера Бесова, обобщение распределения Лапласа на функциональные пространства
• Распределение Коши, также называемое «распределением Лоренца» (преобразование Фурье Лапласа)
• Характеристическая функция (теория вероятностей)
• Распределение лог-Лапласа

Рекомендации

внешняя ссылка

• «Распределение Лапласа», Энциклопедия математики, EMS Press, 2001 [1994]