Сложенное нормальное распределение - Folded normal distribution

Функция плотности вероятности μ=1, σ=1
Кумулятивная функция распределения μ=1, σ=1
Параметры	μ ∈ р   (место расположения ) σ2 > 0   (шкала )
Поддерживать	Икс ∈ [0,∞)
PDF	${displaystyle {frac {1} {sigma {sqrt {2pi}}}}, e ^ {- {frac {(x-mu) ^ {2}} {2sigma ^ {2}}}} + {frac {1}) {сигма {sqrt {2pi}}}}, e ^ {- {frac {(x + mu) ^ {2}} {2sigma ^ {2}}}}}$
CDF	${displaystyle {frac {1} {2}} left [{mbox {erf}} left ({frac {x + mu} {sigma {sqrt {2}}}} ight) + {mbox {erf}} left ({ frac {x-mu} {sigma {sqrt {2}}}} ight) ight]}$
Иметь в виду	${displaystyle mu _ {Y} = sigma {sqrt {frac {2} {pi}}}, e ^ {(- mu ^ {2} / 2sigma ^ {2})} + mu left (1-2, Phi ( - {frac {mu} {sigma}}) ight)}$
Дисперсия	${displaystyle sigma _ {Y} ^ {2} = mu ^ {2} + sigma ^ {2} -mu _ {Y} ^ {2}}$

В сложенное нормальное распределение это распределение вероятностей связанный с нормальное распределение. Учитывая нормально распределенную случайную величину Икс с иметь в виду μ и отклонение σ², то случайная переменная Y = |Икс| имеет сложенное нормальное распределение. Такой случай может возникнуть, если записывается только величина некоторой переменной, но не ее знак. Распределение называется «свернутым», потому что масса вероятности слева от Икс = 0 сворачивается взятием абсолютная величина. В физике теплопроводность, свернутое нормальное распределение является фундаментальным решением уравнение теплопроводности на полупространстве; это соответствует наличию идеального изолятора на гиперплоскость через происхождение.

Определения

Плотность

В функция плотности вероятности (PDF) определяется выражением

${displaystyle f_ {Y} (x; mu, sigma ^ {2}) = {frac {1} {sqrt {2pi sigma ^ {2}}}}, e ^ {- {frac {(x-mu) ^ { 2}} {2sigma ^ {2}}}} + {frac {1} {sqrt {2pi sigma ^ {2}}}}, e ^ {- {frac {(x + mu) ^ {2}} {2sigma ^ {2}}}}}$

за Икс ≥ 0 и 0 везде. Альтернативная формулировка дается

${displaystyle fleft (xight) = {sqrt {frac {2} {pi sigma ^ {2}}}} e ^ {- {frac {left (x ^ {2} + mu ^ {2} ight)} {2sigma ^ {2}}}} cosh {left ({frac {mu x} {sigma ^ {2}}} ight)}}$,

где cosh - косинус Гиперболическая функция. Отсюда следует, что кумулятивная функция распределения (CDF) определяется по формуле:

${displaystyle F_ {Y} (x; mu, sigma ^ {2}) = {frac {1} {2}} left [{mbox {erf}} left ({frac {x + mu} {sqrt {2sigma ^ { 2}}}} ight) + {mbox {erf}} left ({frac {x-mu} {sqrt {2sigma ^ {2}}}} ight) ight]}$

за Икс ≥ 0, где erf () - функция ошибки. Это выражение сводится к CDF полунормальное распределение когда μ = 0.

Среднее значение сложенного распределения тогда

${displaystyle mu _ {Y} = sigma {sqrt {frac {2} {pi}}} ,, exp left ({frac {-mu ^ {2}} {2sigma ^ {2}}} ight) + mu, { mbox {erf}} влево ({frac {mu} {sqrt {2sigma ^ {2}}}} ight)}$

или же

${displaystyle mu _ {Y} = {sqrt {frac {2} {pi}}} sigma e ^ {- {frac {mu ^ {2}} {2sigma ^ {2}}}} + mu left [1-2Phi left (- {frac {mu} {sigma}} ight) ight]}$

куда ${displaystyle Phi}$ это нормальная кумулятивная функция распределения:

${displaystyle Phi (x); =; {frac {1} {2}} left [1 + operatorname {erf} left ({frac {x} {sqrt {2}}} ight) ight].}$

Тогда дисперсия легко выражается через среднее значение:

${displaystyle sigma _ {Y} ^ {2} = mu ^ {2} + sigma ^ {2} -mu _ {Y} ^ {2}.}$

Оба среднего (μ) и дисперсия (σ²) из Икс в исходном нормальном распределении можно интерпретировать как параметры расположения и масштаба Y в разложенном виде.

Характеристики

Режим

Режим распределения - это значение ${displaystyle x}$ для которых плотность максимальна. Чтобы найти это значение, берем первую производную плотности по ${displaystyle x}$ и установите его равным нулю. К сожалению, закрытой формы нет. Однако мы можем записать производную лучше и получить нелинейное уравнение

${displaystyle {frac {df (x)} {dx}} = 0Rightarrow - {frac {left (x-mu ight)} {sigma ^ {2}}} e ^ {- {frac {1} {2}} { frac {left (x-mu ight) ^ {2}} {sigma ^ {2}}}} - {frac {left (x + mu ight)} {sigma ^ {2}}} e ^ {- {frac { 1} {2}} {frac {left (x + mu ight) ^ {2}} {sigma ^ {2}}}} = 0}$

${displaystyle xleft [e ^ {- {frac {1} {2}} {frac {left (x-mu ight) ^ {2}} {sigma ^ {2}}}} + e ^ {- {frac {1) } {2}} {frac {left (x + mu ight) ^ {2}} {sigma ^ {2}}}} ight] -mu left [e ^ {- {frac {1} {2}} {frac {left (x-mu ight) ^ {2}} {sigma ^ {2}}}} - e ^ {- {frac {1} {2}} {frac {left (x + mu ight) ^ {2}) } {сигма ^ {2}}}} ight] = 0}$

${displaystyle xleft (1 + e ^ {- {frac {2mu x} {sigma ^ {2}}}} ight) -mu left (1-e ^ {- {frac {2mu x} {sigma ^ {2}}) }} ight) = 0}$

${displaystyle left (mu + xight) e ^ {- {frac {2mu x} {sigma ^ {2}}}} = mu -x}$

${displaystyle x = - {frac {sigma ^ {2}} {2mu}} log {frac {mu -x} {mu + x}}}$.

Цагрис и др. (2014) показали из численного исследования, что когда ${displaystyle mu <сигма}$, максимум достигается, когда ${displaystyle x = 0}$, и когда ${displaystyle mu}$ становится больше, чем ${displaystyle 3sigma}$, максимум приближается ${displaystyle mu}$. Конечно, этого следовало ожидать, поскольку в этом случае свернутая нормаль сходится к нормальному распределению. Чтобы избежать проблем с отрицательными отклонениями, предлагается возведение параметра в степень. В качестве альтернативы вы можете добавить ограничение, например, если оптимизатор выберет отрицательную дисперсию, значение логарифмической вероятности будет NA или что-то очень маленькое.

Характеристическая функция и другие связанные функции

• Характеристическая функция определяется выражением

${displaystyle varphi _ {x} left (tight) = e ^ {{frac {-sigma ^ {2} t ^ {2}} {2}} + imu t} Phi left ({frac {mu} {sigma}}) + isigma tight) + e ^ {- {frac {sigma ^ {2} t ^ {2}} {2}} - imu t} Phi left (- {frac {mu} {sigma}} + isigma tight)}$.

• Производящая функция момента определяется выражением

${displaystyle M_ {x} left (плотно) = varphi _ {x} left (-itight) = e ^ {{frac {sigma ^ {2} t ^ {2}} {2}} + mu t} Phi left ( {frac {mu} {sigma}} + sigma tight) + e ^ {{frac {sigma ^ {2} t ^ {2}} {2}} - mu t} Phi left (- {frac {mu} {sigma }} + сигма плотная)}$.

• Кумулянтная производящая функция определяется выражением

${displaystyle K_ {x} left (плотно) = log {M_ {x} left (плотно)} = left ({frac {sigma ^ {2} t ^ {2}} {2}} + mu tight) + log { leftlbrace 1-Phi left (- {frac {mu} {sigma}} - sigma tight) + e ^ {{frac {sigma ^ {2} t ^ {2}} {2}} - mu t} left [1- Фи влево ({frac {mu} {sigma}} - sigma tight) ight] ightbrace}}$.

• Преобразование Лапласа дается формулой

${displaystyle Eleft (e ^ {- tx} ight) = e ^ {{frac {sigma ^ {2} t ^ {2}} {2}} - mu t} left [1-Phi left (- {frac {mu } {sigma}} + sigma tight) ight] + e ^ {{frac {sigma ^ {2} t ^ {2}} {2}} + mu t} left [1-Phi left ({frac {mu} { сигма}} + сигма плотно) ight]}$.

• Преобразование Фурье дается формулой

${displaystyle {hat {f}} left (плотно) = phi _ {x} left (-2pi, плотно) = e ^ {{frac {-4pi ^ {2} sigma ^ {2} t ^ {2}} {2 }} - i2pi mu t} left [1-Phi left (- {frac {mu} {sigma}} - i2pi sigma tight) ight] + e ^ {- {frac {4pi ^ {2} sigma ^ {2} t ^ {2}} {2}} + i2pi mu t} left [1-Phi left ({frac {mu} {sigma}} - i2pi sigma tight) ight]}$.

Связанные дистрибутивы

• Когда μ = 0, распределение Y это полунормальное распределение.
• Случайная величина (Y/σ)² имеет нецентральное распределение хи-квадрат с 1 степенью свободы и нецентральностью, равной (μ/σ)².
• Сложенное нормальное распределение также можно рассматривать как предел сложенное нестандартное t-распределение поскольку степени свободы уходят в бесконечность.
• Существует двумерная версия, разработанная Псаракисом и Панаретосом (2001), а также многомерная версия, разработанная Чакраборти и Мутуши (2013).
• В Раздача риса является многомерным обобщением свернутого нормального распределения.

Статистические выводы

Оценка параметров

Есть несколько способов оценить параметры свернутой нормали. Все они по сути являются процедурой оценки максимального правдоподобия, но в некоторых случаях выполняется численная максимизация, тогда как в других случаях выполняется поиск корня уравнения. Логарифмическая вероятность сложенной нормали, когда образец ${displaystyle x_ {i}}$ размера ${displaystyle n}$ доступен можно записать следующим образом

${displaystyle l = - {frac {n} {2}} log {2pi sigma ^ {2}} + sum _ {i = 1} ^ {n} log {left [e ^ {- {frac {left (x_ { i} -mu ight) ^ {2}} {2sigma ^ {2}}}} + e ^ {- {frac {left (x_ {i} + mu ight) ^ {2}} {2sigma ^ {2}} }} ight]}}$

${displaystyle l = - {frac {n} {2}} log {2pi sigma ^ {2}} + sum _ {i = 1} ^ {n} log {left [e ^ {- {frac {left (x_ { i} -mu ight) ^ {2}} {2sigma ^ {2}}}} left (1 + e ^ {- {frac {left (x_ {i} + mu ight) ^ {2}} {2sigma ^ { 2}}}} e ^ {frac {left (x_ {i} -mu ight) ^ {2}} {2sigma ^ {2}}} ight) ight]}}$

${displaystyle l = - {frac {n} {2}} log {2pi sigma ^ {2}} - sum _ {i = 1} ^ {n} {frac {left (x_ {i} -mu ight) ^ { 2}} {2sigma ^ {2}}} + sum _ {i = 1} ^ {n} log {left (1 + e ^ {- {frac {2mu x_ {i}} {sigma ^ {2}}}) } ight)}}$

В R (язык программирования), используя пакет Rfast можно получить MLE очень быстро (команда foldnorm.mle). В качестве альтернативы команда оптим или же НЛМ подойдет этому распределению. Максимизировать легко, поскольку два параметра (${displaystyle mu}$ и ${displaystyle sigma ^ {2}}$) вовлечены. Обратите внимание, что как положительные, так и отрицательные значения для ${displaystyle mu}$ приемлемы, так как ${displaystyle mu}$ принадлежит действительной строке чисел, следовательно, знак не важен, так как распределение симметрично относительно него. Следующий код написан на R

сложенный <- функция(у) {  ## y - вектор с положительными данными  п <- длина(у)  ## размер образца  sy2 <- сумма(у ^ 2)    Сэм <- функция(параграф, п, sy2) {      мне <- пункт [1]   ;   se <- exp( пункт [2] )      ж <-  - п/2 * бревно(2/число Пи/se) + п * мне ^ 2 / 2 / se +            sy2 / 2 / se - сумма( бревно( шиш( мне * у/se ) ) )      ж    }  мод <- оптим( c( иметь в виду(у), SD(у) ), п = п, sy2 = sy2, Сэм, контроль = список(максит = 2000) )  мод <- оптим( мод$номинал, Сэм, п = п, sy2 = sy2, контроль = список(максит = 20000) )  результат <- c( -мод$ценить, мод$номинал [1], exp(мод$номинал [2]) )  имена(результат) <- c("логарифм вероятности", "му", "сигма в квадрате")  результат}

Частные производные логарифма правдоподобия записываются как

${displaystyle {frac {partial l} {partial mu}} = {frac {sum _ {i = 1} ^ {n} left (x_ {i} -mu ight)} {sigma ^ {2}}} - {frac {2} {sigma ^ {2}}} sum _ {i = 1} ^ {n} {frac {x_ {i} e ^ {frac {-2mu x_ {i}} {sigma ^ {2}}}} {1 + e ^ {frac {-2mu x_ {i}} {sigma ^ {2}}}}}}$

${displaystyle {frac {partial l} {partial mu}} = {frac {sum _ {i = 1} ^ {n} left (x_ {i} -mu ight)} {sigma ^ {2}}} - {frac {2} {sigma ^ {2}}} sum _ {i = 1} ^ {n} {frac {x_ {i}} {1 + e ^ {frac {2mu x_ {i}} {sigma ^ {2}) }}}} {доб {и}}}$

${displaystyle {frac {partial l} {partial sigma ^ {2}}} = - {frac {n} {2sigma ^ {2}}} + {frac {sum _ {i = 1} ^ {n} left (x_ {i} -mu ight) ^ {2}} {2sigma ^ {4}}} + {frac {2mu} {sigma ^ {4}}} sum _ {i = 1} ^ {n} {frac {x_ { i} e ^ {- {frac {2mu x_ {i}} {sigma ^ {2}}}}} {1 + e ^ {- {frac {2mu x_ {i}} {sigma ^ {2}}}} }}}$

${displaystyle {frac {partial l} {partial sigma ^ {2}}} = - {frac {n} {2sigma ^ {2}}} + {frac {sum _ {i = 1} ^ {n} left (x_ {i} -mu ight) ^ {2}} {2sigma ^ {4}}} + {frac {2mu} {sigma ^ {4}}} sum _ {i = 1} ^ {n} {frac {x_ { i}} {1 + e ^ {frac {2mu x_ {i}} {sigma ^ {2}}}}}}$.

Приравнивая первую частную производную логарифмической вероятности нулю, мы получаем хорошее соотношение

${displaystyle sum _ {i = 1} ^ {n} {frac {x_ {i}} {1 + e ^ {frac {2mu x_ {i}} {sigma ^ {2}}}}} = {frac {sum _ {i = 1} ^ {n} left (x_ {i} -mu ight)} {2}}}$.

Обратите внимание, что у приведенного выше уравнения есть три решения: одно нулевое и еще два с противоположным знаком. Подставляя приведенное выше уравнение, в частную производную логарифмической вероятности w.r.t ${displaystyle sigma ^ {2}}$ и приравняв его нулю, получим следующее выражение для дисперсии

${displaystyle sigma ^ {2} = {frac {sum _ {i = 1} ^ {n} left (x_ {i} -mu ight) ^ {2}} {n}} + {frac {2mu sum _ {i = 1} ^ {n} left (x_ {i} -mu ight)} {n}} = {frac {sum _ {i = 1} ^ {n} left (x_ {i} ^ {2} -mu ^ {2} ight)} {n}} = {frac {sum _ {i = 1} ^ {n} x_ {i} ^ {2}} {n}} - mu ^ {2}}$,

это та же формула, что и в нормальное распределение. Главное отличие здесь в том, что ${displaystyle mu}$ и ${displaystyle sigma ^ {2}}$ статистически не независимы. Вышеупомянутые отношения могут использоваться для получения оценок максимального правдоподобия эффективным рекурсивным способом. Начнем с начального значения для ${displaystyle sigma ^ {2}}$ и находим положительный корень (${displaystyle mu}$) последнего уравнения. Затем мы получаем обновленное значение ${displaystyle sigma ^ {2}}$. Процедура повторяется до тех пор, пока изменение значения логарифмической вероятности не станет незначительным. Еще один более простой и эффективный способ - выполнить алгоритм поиска. Запишем последнее уравнение более элегантно

${displaystyle 2sum _ {i = 1} ^ {n} {frac {x_ {i}} {1 + e ^ {frac {2mu x_ {i}} {sigma ^ {2}}}}} - sum _ {i = 1} ^ {n} {frac {x_ {i} left (1 + e ^ {frac {2mu x_ {i}} {sigma ^ {2}}} ight)} {1 + e ^ {frac {2mu x_ {i}} {сигма ^ {2}}}}} + nmu = 0}$

${displaystyle sum _ {i = 1} ^ {n} {frac {x_ {i} left (1-e ^ {frac {2mu x_ {i}} {sigma ^ {2}}} ight)} {1 + e ^ {гидроразрыв {2mu x_ {i}} {sigma ^ {2}}}}} + nmu = 0}$.

Становится ясно, что оптимизация логарифмической вероятности по двум параметрам превратилась в корневой поиск функции. Это, конечно, идентично предыдущему корневому поиску. Цагрис и др. (2014) обнаружили, что у этого уравнения есть три корня для ${displaystyle mu}$, т.е. есть три возможных значения ${displaystyle mu}$ которые удовлетворяют этому уравнению. В ${displaystyle -mu}$ и ${displaystyle + mu}$, которые являются оценками максимального правдоподобия, и 0, что соответствует минимальному логарифмическому правдоподобию.

Смотрите также

• Сложенное совокупное распределение
• Усеченное нормальное распределение

Рекомендации

• Цагрис, М .; Beneki, C .; Хассани, Х. (2014). «О сложенном нормальном распределении». Математика. 2 (1): 12–28. arXiv:1402.3559.
• Леоне, Ноттингем, РБ, Нельсон Л.С. (1961). «Свернутое нормальное распределение». Технометрика. 3 (4): 543–550. Дои:10.2307/1266560. HDL:2027 / mdp.39015095248541. JSTOR  1266560.
• Джонсон Н.Л. (1962). «Сложенное нормальное распределение: точность оценки по максимальному правдоподобию». Технометрика. 4 (2): 249–256. Дои:10.2307/1266622. JSTOR  1266622.
• Нельсон LS (1980). «Свернутое нормальное распределение». J Qual Technol. 12 (4): 236–238.
• Эландт RC (1961). «Сложенное нормальное распределение: два метода оценки параметров по моментам». Технометрика. 3 (4): 551–562. Дои:10.2307/1266561. JSTOR  1266561.
• Лин PC (2005). «Применение обобщенного складчато-нормального распределения к мерам возможностей процесса». Int J Adv Manuf Technol. 26 (7–8): 825–830. Дои:10.1007 / s00170-003-2043-х.
• Psarakis, S .; Панаретос, Дж. (1990). «Свернутое t-распределение». Коммуникации в статистике - теория и методы. 19 (7): 2717–2734.
• Psarakis, S .; Панаретос, Дж. (2001). «О некоторых двумерных расширениях свернутого нормального и свернутого t-распределений». Журнал прикладной статистической науки. 10 (2): 119–136.
• Чакраборти, А.К .; Мутуши, К. (2013). «О многомерном сложенном нормальном распределении». Санкхья Б. 75 (1): 1–15.

внешняя ссылка

• Случайное (ранее - Виртуальные лаборатории): сложенное нормальное распределение