Распространение продукции - Product distribution

А распространение продукции это распределение вероятностей построенный как распределение товар из случайные переменные имея два других известных дистрибутива. Учитывая два статистически независимый случайные переменные Икс и Y, распределение случайной величины Z который образуется как продукт

это распространение продукции.

Алгебра случайных величин

Продукт - это один из типов алгебры случайных величин: с распределением продукта связаны соотношение распределения, распределение суммы (см. Список сверток вероятностных распределений ) и разностного распределения. В более общем плане можно говорить о комбинациях сумм, разностей, произведений и соотношений.

Многие из этих распределений описаны в книге Мелвина Д. Спрингера 1979 г. Алгебра случайных величин.[1]

Вывод независимых случайных величин

Если и - две независимые непрерывные случайные величины, описываемые функциями плотности вероятности и то функция плотности вероятности является[2]

Доказательство [3]

Сначала напишем кумулятивная функция распределения из начиная с его определения

Мы находим искомую функцию плотности вероятности, взяв производную от обеих частей по . Поскольку в правой части появляется только в пределах интегрирования, производная легко выполняется с помощью основная теорема исчисления и Правило цепи. (Обратите внимание на отрицательный знак, который необходим, когда переменная находится в нижнем пределе интегрирования.)

где абсолютное значение используется для удобного объединения двух терминов.

Альтернативное доказательство

Более быстрое и компактное доказательство начинается с того же шага написания кумулятивного распределения начиная с его определения:

где это Ступенчатая функция Хевисайда и служит для ограничения области интеграции значениями и удовлетворение .

Мы находим искомую функцию плотности вероятности, взяв производную от обеих частей по .

где мы используем свойства перемещения и масштабирования Дельта-функция Дирака .

Более интуитивно понятное описание процедуры показано на рисунке ниже. Совместный pdf существует в - плоскость и дуга постоянного значение показано заштрихованной линией. Чтобы найти предельную вероятность на этой дуге интегрировать по приращениям площади по этому контуру.

Диаграмма, иллюстрирующая распределение продукта двух переменных.

Начиная с , у нас есть . Таким образом, приращение вероятности равно . поскольку подразумевает , мы можем связать приращение вероятности с -инкремент, а именно . Тогда интеграция закончилась , дает .

Байесовская интерпретация

Позволять быть случайной выборкой, взятой из распределения вероятностей . Масштабирование от генерирует выборку из масштабированного распределения которое можно записать как условное распределение .

Сдача быть случайной величиной с pdf , распределение масштабированной выборки становится и интеграция мы получаем так взят из этого распределения . Однако, подставляя определение у нас также есть который имеет ту же форму, что и распределение продукта выше. Таким образом, байесовское апостериорное распределение это распределение продукта двух независимых случайных выборок и .

В случае дискретной одной переменной пусть иметь вероятность на уровнях с участием . Условная плотность . Следовательно .

Ожидание произведения случайных величин

Когда две случайные величины статистически независимы, ожидания от их продукта - это продукт их ожиданий. Это можно доказать из Закон полного ожидания:

Во внутреннем выражении Y является константой. Отсюда:

Это верно, даже если Икс и Y статистически зависимы. Однако в целом является функцией Y. В частном случае, когда Икс и Y статистически независимы, это постоянная, не зависящая от Y. Отсюда:

Дисперсия произведения независимых случайных величин

Позволять быть некоррелированными случайными величинами со средними и отклонения .Разница продукта XY является

В случае произведения более двух переменных, если статистически независимы, то[4] дисперсия их продукта

Характеристическая функция произведения случайных величин

Предполагать Икс, Y являются независимыми случайными величинами. Характеристическая функция Икс является , а распределение Y известен. Затем из закон полного ожидания, у нас есть[5]

Если характеристические функции и распределения обоих Икс и Y известны, то в качестве альтернативы также имеет место.

Преобразование Меллина

В Преобразование Меллина распределения при поддержке только на и имея случайную выборку является

Обратное преобразование:

если являются двумя независимыми случайными выборками из разных распределений, то преобразование Меллина их продукта равно произведению их преобразований Меллина:

Если s ограничивается целыми значениями, более простой результат

Таким образом, моменты случайного продукта являются произведением соответствующих моментов и это распространяется на нецелые моменты, например

.

PDF функции может быть восстановлен по ее моментам, используя метод приближения седловой точки.

Дальнейший результат состоит в том, что для независимых Икс, Y

Пример гамма-распределения Чтобы проиллюстрировать, как произведение моментов дает гораздо более простой результат, чем нахождение моментов распределения произведения, пусть быть выбранным из двух гамма-распределений, с параметрами чьи моменты

Умножение соответствующих моментов дает результат преобразования Меллина

Независимо, известно, что произведение двух независимых выборок гаммы имеет распределение

.

Чтобы найти моменты этого, произведите замену переменной , упрощая аналогичные интегралы до:

таким образом

Определенный интеграл

хорошо задокументирован, и мы наконец

который, после некоторых трудностей, согласился с приведенным выше результатом продукта.

Если Икс, Y строятся независимо от гамма-распределения с параметрами формы тогда

Этот тип результата является универсальным, поскольку для двумерных независимых переменных таким образом

или, что то же самое, ясно, что независимые переменные.

Особые случаи

Логнормальные распределения

Распределение произведения двух случайных величин, которые имеют логнормальные распределения снова логнормален. Это сам по себе частный случай более общего набора результатов, в котором логарифм произведения может быть записан как сумма логарифмов. Таким образом, в случаях, когда простой результат можно найти в список сверток вероятностных распределений, если сворачиваемые распределения представляют собой логарифмы компонентов продукта, результат может быть преобразован, чтобы обеспечить распределение продукта. Однако этот подход полезен только тогда, когда логарифмы компонентов продукта входят в некоторые стандартные семейства распределений.

Равномерно распределенные независимые случайные величины

Позволять произведение двух независимых переменных каждый из них равномерно распределен на интервале [0,1], возможно, результат связка трансформация. Как отмечено выше в разделе «Логнормальные распределения», операции свертки PDF в домене журнала соответствуют произведению значений выборки в исходном домене. Таким образом, преобразование , так что , каждая вариация распределяется независимо на ты так как

.

а свертка двух распределений - автосвертка

Затем повторно преобразуйте переменную в давая распределение

на интервале [0,1]

Для произведения нескольких (> 2) независимых выборок характеристическая функция Маршрут благоприятный. Если мы определим тогда выше это Гамма-распределение формы 1 и масштабного коэффициента 1, , а его известная КФ равна . Обратите внимание, что так что якобиан преобразования равен единице.

Свертка независимые образцы из поэтому имеет CF который, как известно, является CF гамма-распределения формы :

.

Выполнение обратного преобразования мы получаем PDF продукта n образцов:

Следующий, более традиционный, вывод из Stackexchange[6] согласуется с этим результатом. его CDF

Плотность

Умножение на третью независимую выборку дает функцию распределения

Взяв производную доходность

Автор заметки предполагает, что в целом

Геометрия произведения распределения двух случайных величин в единичном квадрате.

Рисунок иллюстрирует характер приведенных выше интегралов. Заштрихованная область внутри единичного квадрата и ниже линии z = xy представляет CDF z. Это делится на две части. Первый - для 0 dx. Вторая часть находится ниже ху линия, имеет у-рост z / x, и дополнительная площадь dx z / x.

Независимые центрально-нормальные распределения

Произведение двух независимых нормальных выборок следует модифицированной функции Бесселя. Позволять быть выборками из нормального (0,1) распределения и .Потом


Дисперсия этого распределения в принципе может быть определена с помощью определенного интеграла Градшейна и Рыжика:[7]

таким образом

Гораздо более простой результат, изложенный в разделе выше, состоит в том, что дисперсия продукта независимых выборок с нулевым средним равна произведению их дисперсий. Поскольку дисперсия каждой нормальной выборки равна единице, дисперсия продукта также равна единице.

Коррелированные центрально-нормальные распределения

Случай коррелированных нормальных выборок недавно был рассмотрен Надараджахой и Погани.[8] Позволять быть нулевым средним, единичной дисперсией, нормально распределенными вариациями с коэффициентом корреляции

потом

Среднее и дисперсия: Для среднего у нас есть из определения коэффициента корреляции. Дисперсию можно найти путем преобразования двух некоррелированных переменных с нулевым средним единичным отклонением U, V. Позволять

потом X, Y переменные единичной дисперсии с коэффициентом корреляции и

Удаляя члены с нечетной степенью, ожидания которых, очевидно, равны нулю, получаем

поскольку у нас есть

Асимптота с высокой корреляциейВ сильно коррелированном случае произведение сходится на квадрате одного образца. В этом случае асимптота и

который является Распределение хи-квадрат с одной степенью свободы.

Множественные коррелированные образцы. Nadarajaha et. al. далее показать, что если iid случайные величины, взятые из и их средний тогда

где W это функция Уиттекера, а .

Используя личность см. например компиляцию DLMF. уравнение (13.13.9),[9] это выражение можно несколько упростить до

PDF дает распределение выборочной ковариации.

Множественные нецентральные коррелированные выборки. Распределение продукта коррелированных нецентральных нормальных выборок было получено Cui et.al.[10] и принимает вид бесконечной серии модифицированных функций Бесселя первого рода.

Моменты произведения коррелированных центральных нормальных выборок

Для центрального нормальное распределение N (0,1) моменты равны

где обозначает двойной факториал.

Если являются центральными коррелированными переменными, простейшим двумерным случаем многомерной нормальной проблемы моментов, описанной Каном,[11] тогда

где

- коэффициент корреляции, а

[требует проверки]

Коррелированные нецентральные нормальные распределения

Распределение продукта нецентральных коррелированных нормальных выборок было получено Cui et al.[10] и принимает форму бесконечного ряда.

Эти распределения продуктов в некоторой степени сопоставимы с Распределение Уишарта. Последний является совместный распределение четырех элементов (фактически только трех независимых элементов) выборочной ковариационной матрицы. Если являются выборками из двумерного временного ряда, тогда матрица Уишарта с K степени свободы. Приведенные выше распределения продуктов являются безусловным распределением совокупности K > 1 образец .

Независимые комплекснозначные центрально-нормальные распределения

Позволять быть независимыми выборками из нормального (0,1) распределения.
Настройка являются независимыми комплексными нормальными образцами с нулевым средним и круговой симметрией. Их сложные отклонения

Плотностные функции

находятся Распределения Рэлея определяется как:

Переменная явно хи-квадрат с двумя степенями свободы и PDF

Wells et. al.[12] показывают, что функция плотности является

и кумулятивная функция распределения является

Таким образом, полярное представление продукта двух некоррелированных комплексных гауссовых выборок имеет вид

.

Первый и второй моменты этого распределения находятся из интеграла в Нормальные распределения над

Таким образом, его дисперсия .

Далее, плотность соответствует произведению двух независимых выборок хи-квадрат каждая с двумя степенями свободы. Записывая их как масштабированные гамма-распределения тогда, исходя из продуктов гамма ниже, плотность продукта равна

Независимые комплексные нецентральные нормальные распределения

Произведение нецентральных независимых комплексных гауссианов описано О’Доногью и Моурой.[13] и образует двойную бесконечную серию модифицированные функции Бесселя первого и второго типов.

Гамма-распределения

Произведение двух независимых выборок гаммы, , определяя , следует[14]

Бета-распределения

Nagar et. al.[15] определить коррелированное двумерное бета-распределение

где

Тогда pdf Z = XY дан кем-то

где - гипергеометрическая функция Гаусса, определяемая интегралом Эйлера

Обратите внимание, что многомерные распределения, как правило, не уникальны, за исключением случая Гаусса, и могут быть альтернативы.

Равномерное и гамма-распределения

Распределение произведения случайной величины, имеющей равномерное распределение на (0,1) со случайной величиной, имеющей гамма-распределение с параметром формы равным 2, является экспоненциальное распределение.[16] Более общий случай этого касается распределения произведения случайной величины, имеющей бета-распространение со случайной величиной, имеющей гамма-распределение: в некоторых случаях, когда параметры двух компонентных распределений связаны определенным образом, результатом снова будет гамма-распределение, но с измененным параметром формы.[16]

В K-распределение является примером нестандартного распределения, которое можно определить как распределение продукта (где оба компонента имеют гамма-распределение).

Гамма и Парето распределения

Продукт п Гамма и м Независимые по Парето выборки были получены Надараджей.[17]

В теоретической информатике

В теория вычислительного обучения, а распространение продукции над задается параметрами. Каждый параметр дает предельную вероятность того, что яth немного выбран как равно 1; т.е.. В этом случае равномерное распределение - это просто распределение продукта с каждым .

Распределение продуктов - это ключевой инструмент, используемый для доказательства результатов обучаемости, когда нельзя предполагать, что примеры являются однородными.[18] Они порождают внутренний продукт на пространстве действительных функций на следующим образом:

Этот внутренний продукт приводит к соответствующему норма следующим образом:

Смотрите также

Заметки

  1. ^ Спрингер, Мелвин Дейл (1979). Алгебра случайных величин. Wiley. ISBN  978-0-471-01406-5. Получено 24 сентября 2012.
  2. ^ Рохатги, В. К. (1976). Введение в теорию вероятностей и математическую статистику. Серия Уайли по вероятности и статистике. Нью-Йорк: Вили. Дои:10.1002/9781118165676. ISBN  978-0-19-853185-2.
  3. ^ Grimmett, G.R .; Стирзакер, Д. (2001). Вероятность и случайные процессы. Оксфорд: Издательство Оксфордского университета. ISBN  978-0-19-857222-0. Получено 4 октября 2015.
  4. ^ Сарвате, Дилип (9 марта 2013 г.). «Дисперсия произведения нескольких случайных величин». Обмен стеком.
  5. ^ «Как найти характеристическую функцию произведения случайных величин». Обмен стеком. 3 января 2013 г.
  6. ^ heropup (1 февраля 2014 г.). "продукт распределения двух равномерных распределений, как насчет 3 или более". Обмен стеком.
  7. ^ Градшейн, И С; Рыжик И М (1980). Таблицы интегралов, серий и продуктов. Академическая пресса. pp. раздел 6.561.
  8. ^ Надараджа, Сарали; Погани, Тибор (2015). «О распределении произведения коррелированных нормальных случайных величин». Comptes Rendus de l'Académie des Sciences, Série I. 354 (2): 201–204. Дои:10.1016 / j.crma.2015.10.019.
  9. ^ Equ (13.18.9). «Электронная библиотека математических функций». NIST: Национальный институт стандартов и технологий.
  10. ^ а б Цуй, Гуолун (2016). «Точное распределение для произведения двух коррелированных гауссовских случайных величин». Письма об обработке сигналов IEEE. 23 (11): 1662–1666. Bibcode:2016ISPL ... 23.1662C. Дои:10.1109 / LSP.2016.2614539.
  11. ^ Кан, Раймонд (2008). «От моментов суммы к моментам продукта». Журнал многомерного анализа. 99 (3): 542–554. Дои:10.1016 / j.jmva.2007.01.013.
  12. ^ Wells, R T; Андерсон, Р. Л.; Cell, JW (1962). «Распределение продукта двух центральных или нецентральных переменных хи-квадрат». Анналы математической статистики. 33 (3): 1016–1020. Дои:10.1214 / aoms / 1177704469.
  13. ^ O’Donoughue, N; Моура, Дж. М. Ф. (март 2012 г.). «О произведении независимых комплексных гауссианов». Транзакции IEEE при обработке сигналов. 60 (3): 1050–1063. Bibcode:2012ITSP ... 60.1050O. Дои:10.1109 / TSP.2011.2177264.
  14. ^ Wolfies (август 2017 г.). «PDF произведения двух независимых гамма-случайных величин». stackexchange.
  15. ^ Нагар, Д. К.; Orozco-Castañeda, JM; Гупта, А. К. (2009). «Произведение и коэффициент коррелированных бета-переменных». Письма по прикладной математике. 22: 105–109. Дои:10.1016 / j.aml.2008.02.014.
  16. ^ а б Джонсон, Норман Л .; Коц, Самуэль; Балакришнан, Н. (1995). Непрерывные одномерные распределения Том 2, второе издание. Вайли. п. 306. ISBN  978-0-471-58494-0. Получено 24 сентября 2012.
  17. ^ Надараджа, Сарали (июнь 2011 г.). «Точное распределение произведения n гамма и m случайных величин Парето». Журнал вычислительной и прикладной математики. 235 (15): 4496–4512. Дои:10.1016 / j.cam.2011.04.018.
  18. ^ Серведио, Рокко А. (2004), "Об обучении монотонной DNF при распределении продуктов", Информация и вычисления, 193 (1): 57–74, Дои:10.1016 / j.ic.2004.04.003

использованная литература

  • Спрингер, Мелвин Дейл; Томпсон, У. Э. (1970). «Распределение произведений бета, гамма и гауссовских случайных величин». Журнал SIAM по прикладной математике. 18 (4): 721–737. Дои:10.1137/0118065. JSTOR  2099424.
  • Спрингер, Мелвин Дейл; Томпсон, У. Э. (1966). «Распределение произведений независимых случайных величин». Журнал SIAM по прикладной математике. 14 (3): 511–526. Дои:10.1137/0114046. JSTOR  2946226.