Кумулянт - Cumulant
В теория вероятности и статистика, то кумулянты κп из распределение вероятностей представляют собой набор величин, которые обеспечивают альтернативу моменты распределения. Моменты определяют кумулянты в том смысле, что любые два распределения вероятностей с одинаковыми моментами также будут иметь одинаковые кумулянты, и аналогично кумулянты определяют моменты.
Первый кумулянт - это иметь в виду, второй кумулянт - это отклонение, а третий кумулянт такой же, как и третий центральный момент. Но кумулянты четвертого и более высокого порядка не равны центральным моментам. В некоторых случаях теоретическое рассмотрение проблем в терминах кумулянтов проще, чем в случае использования моментов. В частности, когда две или более случайные величины статистически независимый, то пth-порядок кумулянт их суммы равен сумме их пth- кумулянты порядка. Также кумулянты третьего и более высоких порядков нормальное распределение равны нулю, и это единственное распределение с таким свойством.
Как и в моменты, когда совместные моменты используются для коллекций случайных величин, можно определить совместные кумулянты.
Определение
Кумулянты случайной величины Икс определены с помощью кумулянт-производящая функция K(т), какой натуральный логарифм из момент-производящая функция:
Кумулянты κп получаются из разложения в ряд производящей функции кумулянта:
Это расширение является Серия Маклорена, Итак п-й кумулянт можно получить, дифференцируя указанное выше разложение п раз и оценивая результат в ноль:[1]
Если функция, генерирующая момент, не существует, кумулянты могут быть определены в терминах взаимосвязи между кумулянтами и моментами, обсуждаемыми позже.
Альтернативное определение кумулянтной производящей функции
Некоторые писатели[2][3] предпочитают определять кумулянт-производящую функцию как натуральный логарифм характеристическая функция, который иногда также называют второй характеристическая функция,[4][5]
Преимущество ЧАС(т)- в некотором смысле функция K(т) оценивается по чисто мнимым аргументам - это то, что E [еitX] хорошо определена для всех реальных значений т даже когда E [еtX] не определено для всех реальных значений т, например, когда существует "слишком большая" вероятность того, что Икс имеет большую величину. Хотя функция ЧАС(т) будет четко определен, тем не менее, он будет имитировать K(т) с точки зрения длины его Серия Маклорена, который не может выходить за пределы (или, в редких случаях, даже) линейного порядка в аргументет, и, в частности, количество четко определенных кумулянтов не изменится. Тем не менее, даже когда ЧАС(т) не имеет длинного ряда Маклорена, его можно использовать непосредственно при анализе и, в частности, добавлении случайных величин. Оба Распределение Коши (также называемый лоренцевым) и в более общем смысле, стабильные дистрибутивы (связанные с распределением Леви) являются примерами распределений, для которых разложения производящих функций в степенной ряд имеют только конечное число четко определенных членов.
Использование в статистике
Работа с кумулянтами может иметь преимущество перед использованием моментов, поскольку для статистически независимых случайных величин Икс и Y,
так что каждый кумулянт суммы независимых случайных величин является суммой соответствующих кумулянтов добавляет. То есть, когда слагаемые статистически независимы, среднее значение суммы - это сумма средних, дисперсия суммы - это сумма дисперсий, третий кумулянт (который оказывается третьим центральным моментом) суммы является суммой третьих кумулянтов и так далее для каждого порядка кумулянтов.
Распределение с заданными кумулянтами κп можно аппроксимировать через Серия Эджворта.
Кумулянты некоторых дискретных распределений вероятностей
- Постоянные случайные величины Икс = μ. Кумулянтная производящая функция: K(т) =μt. Первый кумулянт κ1 = K '(0) = μ а остальные кумулянты равны нулю, κ2 = κ3 = κ4 = ... = 0.
- В Распределения Бернулли, (количество успехов в одном испытании с вероятностью п успеха). Кумулянтная производящая функция: K(т) = журнал (1 -п + пет). Первые кумулянты κ1 = K '(0) = п и κ2 = K ′ ′(0) = п·(1 − п). Кумулянты удовлетворяют формуле рекурсии
- В геометрические распределения, (количество неудач до одного успеха с вероятностью п успеха в каждом испытании). Кумулянтная производящая функция: K(т) = журнал (п / (1 + (п - 1) ет)). Первые кумулянты κ1 = K ′(0) = п−1 − 1, и κ2 = K ′ ′(0) = κ1п−1. Подстановка п = (μ + 1)−1 дает K(т) = −log (1 + μ(1 − eт)) и κ1 = μ.
- В Распределения Пуассона. Кумулянтная производящая функция: K(т) = μ(ет − 1). Все кумулянты равны параметру: κ1 = κ2 = κ3 = ... = μ.
- В биномиальные распределения, (количество успехов в п независимый судебные процессы с вероятностью п успеха в каждом испытании). Особый случай п = 1 является распределением Бернулли. Каждый кумулянт просто п умноженный на соответствующий кумулянт соответствующего распределения Бернулли. Кумулянтная производящая функция: K(т) = п журнал (1 -п + пет). Первые кумулянты κ1 = K ′(0) = нп и κ2 = K ′ ′(0) = κ1(1 − п). Подстановка п = μ ·п−1 дает K '(т) = ((μ−1 − п−1) · E−т + п−1)−1 и κ1 = μ. Предельный случай п−1 = 0 является распределением Пуассона.
- В отрицательные биномиальные распределения, (количество отказов до р успехи с вероятностью п успеха в каждом испытании). Особый случай р = 1 - геометрическое распределение. Каждый кумулянт просто р умножить на соответствующий кумулянт соответствующего геометрического распределения. Производная кумулянтной производящей функции равна K '(т) = р·((1 − п)−1· E−т−1)−1. Первые кумулянты κ1 = K '(0) = р·(п−1−1), и κ2 = K '' (0) = κ1·п−1. Подстановка п = (μ ·р−1+1)−1 дает K ′(т) = ((μ−1 + р−1)е−т − р−1)−1 и κ1 = μ. Сравнение этих формул с формулами биномиального распределения объясняет название «отрицательное биномиальное распределение». В предельный случай р−1 = 0 является распределением Пуассона.
Представляем отношение дисперсии к среднему
приведенные выше распределения вероятностей получают единую формулу для производной кумулянтной производящей функции:[нужна цитата ]
Вторая производная равна
подтверждая, что первый кумулянт κ1 = K ′(0) = μ а второй кумулянт κ2 = K ′ ′(0) = με. Постоянные случайные величины Икс = μ имеют ε = 0. Биномиальные распределения имеют ε = 1 − п так что 0 < ε < 1. Распределения Пуассона имеют ε = 1. Отрицательные биномиальные распределения имеют ε = п−1 так что ε > 1. Обратите внимание на аналогию с классификацией конические секции к эксцентриситет: круги ε = 0, эллипсы 0 < ε < 1, параболы ε = 1, гиперболы ε > 1.
Кумулянты некоторых непрерывных распределений вероятностей
- Для нормальное распределение с ожидаемое значение μ и отклонение σ2, кумулянтная производящая функция имеет вид K(т) = μт + σ2т2/ 2. Первая и вторая производные кумулянтной производящей функции равны K '(т) = μ + σ2·т и K"(т) = σ2. Кумулянты κ1 = μ, κ2 = σ2, и κ3 = κ4 = ... = 0. Частный случай σ2 = 0 - постоянная случайная величина Икс = μ.
- Кумулянты равномерное распределение на интервале [−1, 0] являются κп = Bп/п, куда Bп это п-го Число Бернулли.
- Кумулянты экспоненциальное распределение с параметром λ находятся κп = λ−п (п − 1)!.
Некоторые свойства кумулянтной производящей функции
Кумулянтная производящая функция K(т), если он существует, является бесконечно дифференцируемый и выпуклый, и проходит через начало координат. Его первая производная монотонно пробегает в открытом интервале от инфимум к супремум носителя вероятностного распределения, а его вторая производная строго положительна везде, где она определена, кроме вырожденное распределение из одной точечной массы. Кумулянт-производящая функция существует тогда и только тогда, когда хвосты распределения мажорируются экспоненциальный спад, то есть, (видеть Обозначение Big O )
куда это кумулятивная функция распределения. Кумулянт-производящая функция будет иметь вертикальная асимптота (s) на инфимум таких c, если такая нижняя грань существует, и на супремум таких d, если такой супремум существует, иначе он будет определен для всех действительных чисел.
Если поддерживать случайной величины Икс имеет конечные верхние или нижние границы, то его кумулянт-производящая функция у = K(т), если он существует, приближается асимптота (s) наклон которого равен верхней и / или нижней грани опоры,
соответственно, лежащие над обеими этими линиями всюду. (The интегралы
дать у-перехватывает этих асимптот, посколькуK(0) = 0.)
Для сдвига распределения на c, Для вырожденной точечной массы при c, cgf - прямая линия , и в более общем плане если и только если Икс и Y независимы и их cgfs существуют; (субзависимость и наличие вторых моментов, достаточных для обозначения независимости.[6])
В естественная экспоненциальная семья распределения может быть реализовано путем сдвига или перевода K(т) и регулируя его по вертикали, чтобы он всегда проходил через начало координат: если ж это PDF-файл с cgf и является его естественным экспоненциальным семейством, то и
Если K(т) конечна для диапазона т1
Некоторые свойства кумулянтов
Инвариантность и эквивариантность
Первый кумулянт - сдвиговый.эквивариантный; все остальные сдвиги-инвариантный. Это означает, что если обозначить через κп(Икс) п-й кумулянт распределения вероятностей случайной величины Икс, то для любой постоянной c:
Другими словами, сдвиг случайной величины (добавление c) сдвигает первый кумулянт (среднее значение) и не влияет ни на один из остальных.
Однородность
В п-й кумулянт однороден степени п, т.е. если c - любая константа, то
Аддитивность
Если Икс и Y находятся независимый случайные величины тогда κп(Икс + Y) = κп(Икс) + κп(Y).
Отрицательный результат
Учитывая результаты для кумулянтов нормальное распределение, можно надеяться найти семейства дистрибутивов, для которыхκм = κм+1 = ⋯ = 0 для некоторых м > 3, с кумулянтами низшего порядка (порядки с 3 по м − 1) отличное от нуля. Таких раздач нет.[7] Основной результат здесь состоит в том, что кумулянтная производящая функция не может быть многочленом конечного порядка степени выше 2.
Кумулянты и моменты
В функция, производящая момент дан кем-то:
Таким образом, кумулянтная производящая функция - это логарифм производящей функции момента
Первый кумулянт - это ожидаемое значение; второй и третий кумулянты являются соответственно вторым и третьим центральные моменты (второй центральный момент - это отклонение ); но старшие кумулянты не являются ни моментами, ни центральными моментами, а скорее более сложными полиномиальными функциями моментов.
Моменты могут быть восстановлены в терминах кумулянтов путем оценки п-я производная от в ,
Точно так же кумулянты могут быть восстановлены с точки зрения моментов, оценивая n-ю производную от в ,
Явное выражение для п-й момент с точки зрения первого п кумулянты и наоборот могут быть получены с помощью Формула Фаа ди Бруно для высших производных сложных функций. В общем, у нас есть
куда неполные (или частичные) Полиномы Белла.
Таким же образом, если среднее значение равно , производящая функция центрального момента определяется выражением
и п-й центральный момент получается в кумулянтах как
Также для п > 1, п-й кумулянт по центральным моментам равен
В п-го момент μ′п является пмногочлен -й степени от первого п кумулянты. Первые несколько выражений:
«Премьер» отличает моменты μ′п от центральные моменты μп. Чтобы выразить центральный моментов как функций кумулянтов, просто исключите из этих многочленов все члены, в которых κ1 выступает как фактор:
Точно так же п-й кумулянт κп является пмногочлен -й степени от первого п нецентральные моменты. Первые несколько выражений:
Чтобы выразить кумулянты κп за п > 1 как функции центральных моментов, отбросьте из этих многочленов все члены, в которых μ '1 выступает как фактор:
Чтобы выразить кумулянты κп за п > 2 как функции стандартизированные центральные моменты, также установите μ '2=1 в полиномах:
Кумулянты также связаны с моменты следующими рекурсия формула:[8]
Кумулянты и множества-перегородки
Эти многочлены обладают замечательным комбинаторный интерпретация: коэффициенты рассчитывают определенные перегородки наборов. Общий вид этих многочленов таков:
куда
- π проходит по списку всех разделов заданного размера п;
- "B ∈ π" средства B является одним из «блоков», на которые разбивается множество; и
- |B| это размер набора B.
Таким образом, каждый одночлен является постоянным произведением кумулянтов, в которых сумма индексов равна п (например, в термине κ3 κ22 κ1, сумма индексов 3 + 2 + 2 + 1 = 8; это появляется в полиноме, который выражает 8-й момент как функцию первых восьми кумулянтов). Раздел целое число п соответствует каждому термину. В коэффициент в каждом члене - это количество разделов набора п члены, которые сворачиваются в этот раздел целого числа п когда члены множества становятся неразличимыми.
Кумулянты и комбинаторика
Дальнейшую связь между кумулянтами и комбинаторикой можно найти в работе Джан-Карло Рота, где ссылки на теория инвариантов, симметричные функции, а биномиальные последовательности изучаются с помощью темный камень.[9]
Совместные кумулянты
В совместный кумулянт нескольких случайных величин Икс1, ..., Иксп определяется аналогичной кумулянтной производящей функцией
Следствием этого является то, что
куда π пробегает список всех разделов {1, ...,п }, B проходит по списку всех блоков разделаπ, и |π| количество частей в разделе. Например,
Если какие-либо из этих случайных величин идентичны, например если Икс = Y, то применяются те же формулы, например
хотя для таких повторяющихся переменных есть более лаконичные формулы. Для случайных векторов с нулевым средним
Совокупный кумулянт только одной случайной величины - это ее ожидаемое значение, а двух случайных величин - их ковариация. Если некоторые из случайных величин независимы от всех других, то любой кумулянт, включающий две (или более) независимых случайных величины, равен нулю. Я упал п случайные величины одинаковы, то совместный кумулянт - это п-й обыкновенный кумулянт.
Комбинаторный смысл выражения моментов в терминах кумулянтов легче понять, чем у кумулянтов в терминах моментов:
Например:
Еще одно важное свойство совместных кумулянтов - полилинейность:
Подобно тому, как второй кумулянт - это дисперсия, совместный кумулянт всего двух случайных величин является ковариация. Знакомая личность
обобщает на кумулянты:
Условные кумулянты и закон общей кумулянты
В закон полного ожидания и закон полной дисперсии естественно обобщить на условные кумулянты. Дело п = 3, выраженный на языке (центральный) моменты а не кумулянты, говорит
В целом,[10]
куда
- сумма окончена перегородки π множества {1, ...,п } индексов и
- π1, ..., πб все "блоки" раздела π; выражение κ(Иксπм) указывает, что совокупный кумулянт случайных величин, индексы которых находятся в этом блоке разбиения.
Отношение к статистической физике
В статистическая физика много большое количество - то есть количества, которые пропорциональны объему или размеру данной системы - относятся к кумулянтам случайных величин. Глубокая связь заключается в том, что в большой системе такая обширная величина, как энергия или количество частиц, может рассматриваться как сумма (скажем) энергии, связанной с рядом почти независимых областей. Тот факт, что кумулянты этих почти независимых случайных величин будут (почти) складываться, делает разумным предположение, что большие количества должны быть связаны с кумулянтами.
Система в равновесии с термальной ванной при температуре Т иметь колеблющуюся внутреннюю энергию E, которую можно рассматривать как случайную величину, взятую из распределения . В функция распределения системы
куда β = 1/(kT) и k является Постоянная Больцмана и обозначение был использован, а не для математического ожидания, чтобы избежать путаницы с энергией, E. Следовательно, первый и второй кумулянт для энергии E дают среднюю энерго- и теплоемкость.
В Свободная энергия Гельмгольца выражается в виде
далее связывает термодинамические величины с кумулянтной производящей функцией для энергии. Термодинамические свойства, производные от свободной энергии, такие как ее внутренняя энергия, энтропия, и удельная теплоемкость емкость, все можно легко выразить в терминах этих кумулянтов. Другая свободная энергия может быть функцией других переменных, таких как магнитное поле или химический потенциал. , например
куда N - количество частиц и это великий потенциал. Опять же, тесная связь между определением свободной энергии и кумулянтной производящей функцией подразумевает, что различные производные этой свободной энергии могут быть записаны в терминах совместных кумулянтов E и N.
История
Историю кумулянтов обсуждают Андерс Халд.[11][12]
Кумулянты были впервые представлены Торвальд Н. Тиле, в 1889 году, который назвал их полуинварианты.[13] Их сначала назвали кумулянты в статье 1932 года[14] к Рональд Фишер и Джон Уишарт. Фишеру публично напомнил о работе Тиле Нейман, который также отмечает ранее опубликованные цитаты Тиле, доведенные до сведения Фишера.[15] Стивен Стиглер сказал[нужна цитата ] что имя кумулянт было предложено Фишеру в письме от Гарольд Хотеллинг. В статье, опубликованной в 1929 г.,[16] Фишер позвонил им кумулятивные функции момента. Статистическая сумма в статистической физике была введена Джозайя Уиллард Гиббс в 1901 г.[нужна цитата ] Свободную энергию часто называют свободной энергией Гиббса. В статистическая механика, кумулянты также известны как Функции ursell относящиеся к публикации 1927 года.[нужна цитата ]
Кумулянты в обобщенных настройках
Формальные кумулянты
В более общем смысле, кумулянты последовательности { мп : п = 1, 2, 3, ...}, не обязательно моменты любого распределения вероятностей, по определению
где значения κп за п = 1, 2, 3, ... находятся формально, т. Е. Только алгеброй, без учета вопросов о сходимости ряда. При формальной работе все трудности «проблемы кумулянтов» отсутствуют. Самый простой пример - второй кумулянт распределения вероятностей всегда должен быть неотрицательным и равен нулю, только если все старшие кумулянты равны нулю. Формальные кумулянты не подчиняются таким ограничениям.
Номера звонков
В комбинаторика, то п-го Номер звонка количество разделов набора размера п. Все кумулянты последовательности чисел Белла равны 1. Номера Bell - это моменты распределения Пуассона с математическим ожиданием 1.
Кумулянты полиномиальной последовательности биномиального типа
Для любой последовательности {κп : п = 1, 2, 3, ...} из скаляры в поле нулевой характеристики, рассматриваемых как формальные кумулянты, соответствует соответствующая последовательность {μ ′: п = 1, 2, 3, ...} формальных моментов, задаваемых полиномами выше.[требуется разъяснение ][нужна цитата ] Для этих многочленов постройте полиномиальная последовательность следующим образом. Из полинома
создайте новый многочлен в них плюс одну дополнительную переменную Икс:
а затем обобщите образец. Шаблон состоит в том, что количество блоков в вышеупомянутых разделах является экспонентой на Икс. Каждый коэффициент является полиномом от кумулянтов; эти Полиномы Белла, названный в честь Эрик Темпл Белл.[нужна цитата ]
Эта последовательность многочленов имеет вид биномиальный тип. Фактически, никаких других последовательностей биномиального типа не существует; каждая полиномиальная последовательность биномиального типа полностью определяется своей последовательностью формальных кумулянтов.[нужна цитата ]
Бесплатные кумулянты
В приведенной выше формуле моментного кумулянта
для совместных кумулянтов одна сумма более все разбиения множества {1, ..., п }. Если вместо этого суммировать только непересекающиеся перегородки, то, решая эти формулы для с точки зрения моментов, получается бесплатные кумулянты а не обычные кумулянты, описанные выше. Эти бесплатные кумулянты были введены Роландом Спайхером и играют центральную роль в свободная вероятность теория.[17][18] В этой теории, вместо того, чтобы рассматривать независимость из случайные переменные, определенный в терминах тензорные произведения алгебр случайных величин, вместо свободная независимость случайных величин, определенных в терминах бесплатные продукты алгебр.[18]
Обычные кумулянты степени выше 2 нормальное распределение равны нулю. В свободный кумулянты степени выше 2 из Распределение полукруга Вигнера равны нулю.[18] В этом отношении роль распределения Вигнера в свободной теории вероятностей аналогична роли нормального распределения в традиционной теории вероятностей.
Смотрите также
- Энтропийная ценность под угрозой
- Кумулянтная производящая функция из мультимножества
- Расширение Корниш – Фишера
- Расширение Эджворта
- Поликай
- k-статистика, минимальная дисперсия объективный оценщик кумулянта
- Функция урселла
- Общий спред позиции тензор как приложение кумулянтов для анализа электронных волновая функция в квантовая химия.
Рекомендации
- ^ Вайсштейн, Эрик В. «Кумулянт». Материал из MathWorld - веб-ресурса Wolfram. http://mathworld.wolfram.com/Cumulant.html
- ^ Кендалл, М. Г., Стюарт, А. (1969) Расширенная теория статистики, Том 1 (3-е издание). Гриффин, Лондон. (Раздел 3.12)
- ^ Лукач, Э. (1970) Характеристические функции (2-е издание). Гриффин, Лондон. (Стр.27)
- ^ Лукач, Э. (1970) Характеристические функции (2-е издание). Гриффин, Лондон. (Раздел 2.4)
- ^ Аапо Хиваринен, Юха Кархунен и Эркки Оя (2001) Независимый анализ компонентов, Джон Уайли и сыновья. (Раздел 2.7.2)
- ^ Хамедани, Г. Г .; Фолькмер, Ганс; Бехбудиан, Дж. (01.03.2012). «Замечание о субнезависимых случайных величинах и классе двумерных смесей». Studia Scientiarum Mathematicarum Hungarica. 49 (1): 19–25. Дои:10.1556 / SScMath.2011.1183.
- ^ Лукач Э. (1970) Характеристические функции (2-е издание), Гриффин, Лондон. (Теорема 7.3.5)
- ^ Смит, Питер Дж. (Май 1995 г.). «Рекурсивная формулировка старой проблемы получения моментов из кумулянтов и наоборот». Американский статистик. 49 (2): 217–218. Дои:10.2307/2684642.
- ^ Rota, G.-C .; Шен, Дж. (2000). «О комбинаторике кумулянтов». Журнал комбинаторной теории. Серия А. 91 (1–2): 283–304. Дои:10.1006 / jcta.1999.3017.
- ^ Бриллинджер, Д. (1969). «Расчет кумулянтов с помощью кондиционирования». Летопись Института статистической математики. 21: 215–218. Дои:10.1007 / bf02532246.
- ^ Хальд, А. (2000) «Ранняя история кумулянтов и Серия Грама – Шарлье " Международный статистический обзорТ. 68 (2): 137–153. (Перепечатано в Штеффен Л. Лауритцен, изд. (2002). Тиле: пионер в статистике. Оксфорд У. П. ISBN 978-0-19-850972-1.)
- ^ Халд, Андерс (1998). История математической статистики с 1750 по 1930 гг.. Нью-Йорк: Вили. ISBN 978-0-471-17912-2.
- ^ Х. Крамер (1946) «Математические методы статистики», Princeton University Press, раздел 15.10, с. 186.
- ^ Фишер, Р.А. , Джон Уишарт, Дж.. (1932) Получение формул шаблонов двусторонних разбиений от формул более простых шаблонов, Труды Лондонское математическое общество, Series 2, v. 33, pp. 195–208. Дои: 10.1112 / плмс / с2-33.1.195
- ^ Neyman, J. (1956): «Примечание к статье сэра Рональда Фишера». Журнал Королевского статистического общества, Серия Б (Методологическая), 18, с. 288–94.
- ^ Фишер, Р. А. (1929). «Моменты и моменты продукта выборочных распределений» (PDF). Труды Лондонского математического общества. 30: 199–238. Дои:10.1112 / плмс / с2-30.1.199. HDL:2440/15200.
- ^ Speicher, Роланд (1994). «Мультипликативные функции на решетке непересекающихся разбиений и свободная свертка». Mathematische Annalen. 298 (4): 611–628. Дои:10.1007 / BF01459754.
- ^ а б c Новак, Джонатан; Сняды, Петр (2011). «Что такое бесплатный кумулянт?». Уведомления Американского математического общества. 58 (2): 300–301. ISSN 0002-9920.