Центральная предельная теорема - Central limit theorem

В теория вероятности, то Центральная предельная теорема (CLT) устанавливает, что во многих ситуациях, когда независимые случайные величины добавлены, их правильно нормализованный сумма стремится к нормальное распределение (неофициально кривая колокола), даже если сами исходные переменные не имеют нормального распределения. Теорема является ключевым понятием в теории вероятностей, потому что из нее следует, что вероятностные и статистический методы, которые работают для нормальных распределений, могут быть применимы ко многим задачам, связанным с другими типами распределений.

Если ${extstyle X_ {1}, X_ {2}, ..., X_ {n}}$ находятся случайные выборки каждый размер ${extstyle n}$ взяты из популяции с общим иметь в виду ${extstyle mu}$ и конечный отклонение ${extstyle sigma ^ {2}}$ и если ${extstyle {ar {X}}}$ это выборочное среднее, предельная форма распределения ${extstyle Z = left ({frac {{ar {X}} _ {n} -mu} {sigma / surd n}} ight)}$ в качестве ${extstyle n o infty}$, - стандартное нормальное распределение.^[1]

Например, предположим, что образец получается содержащий много наблюдения, каждое наблюдение генерируется случайным образом, не зависящим от значений других наблюдений, и что среднее арифметическое из наблюдаемых значений вычисляется. Если эта процедура выполняется много раз, центральная предельная теорема утверждает, что распределение вероятностей среднего будет близко аппроксимировать нормальное распределение. Простой пример: если один подбрасывает монетку много раз, вероятность получить заданное количество орлов будет приближаться к нормальному распределению со средним значением, равным половине общего числа подбрасываний. На пределе бесконечного числа флипов это будет нормальное распределение.

Центральная предельная теорема имеет несколько вариантов. В общем виде случайные величины должны быть одинаково распределены. В вариантах сходимость среднего к нормальному распределению также происходит для неидентичных распределений или для независимых наблюдений, если они соответствуют определенным условиям.

Самая ранняя версия этой теоремы о том, что нормальное распределение может использоваться как приближение к биномиальное распределение, это Теорема де Муавра – Лапласа.

Независимые последовательности

Распределение "сглаживается" суммирование, показывая оригинал плотность распределения и три последующих суммирования; видеть Иллюстрация центральной предельной теоремы для получения дополнительной информации.

Какой бы ни была форма распределения населения, выборочное распределение стремится к гауссову, а его дисперсия задается центральной предельной теоремой.^[2]

Классический CLT

Позволять ${extstyle {X_ {1}, ldots, X_ {n}}}$ быть случайный пример размера ${extstyle n}$- то есть последовательность независимые и одинаково распределенные (i.i.d.) случайные величины, взятые из распределения ожидаемое значение данный ${extstyle mu}$ и конечный отклонение данный ${extstyle sigma ^ {2}}$. Предположим, нас интересует среднее значение выборки

${displaystyle {ar {X}} _ {n}: = {frac {X_ {1} + cdots + X_ {n}} {n}}}$

этих случайных величин. Посредством закон больших чисел, выборка усредняет сходятся почти наверняка (а значит, и сходятся по вероятности ) к ожидаемому значению ${extstyle mu}$ в качестве ${extstyle n o infty}$. Классическая центральная предельная теорема описывает размер и форму распределения стохастических флуктуаций вокруг детерминированного числа ${extstyle mu}$ во время этого сближения. Точнее, в нем говорится, что как ${extstyle n}$ становится больше, распределение разницы между выборочным средним ${extstyle {ar {X}} _ {n}}$ и его предел ${extstyle mu}$, при умножении на множитель ${extstyle {sqrt {n}}}$ (то есть ${extstyle {sqrt {n}} ({ar {X}} _ {n} -mu)}$), аппроксимирует нормальное распределение со средним 0 и дисперсией ${extstyle sigma ^ {2}}$. Для достаточно больших п, распределение ${extstyle {ar {X}} _ {n}}$ близка к нормальному распределению со средним ${extstyle mu}$ и дисперсия ${extstyle sigma ^ {2} / n}$. Полезность теоремы заключается в том, что распределение ${extstyle {sqrt {n}} ({ar {X}} _ {n} -mu)}$ приближается к нормальности независимо от формы распределения особи ${extstyle X_ {i}}$. Формально теорему можно сформулировать следующим образом:

Линдеберг – Леви CLT. Предполагать ${extstyle {X_ {1}, ldots, X_ {n}}}$ это последовательность i.i.d. случайные величины с ${extstyle operatorname {E} [X_ {i}] = mu}$ и ${extstyle operatorname {Var} [X_ {i}] = sigma ^ {2}$. Тогда как ${extstyle n}$ стремится к бесконечности, случайные величины ${extstyle {sqrt {n}} ({ar {X}} _ {n} -mu)}$ сходиться в распределении к нормальный ${extstyle N (0, сигма ^ {2})}$:^[3]

${displaystyle {sqrt {n}} left ({ar {X}} _ {n} -mu ight) xrightarrow {d} Nleft (0, sigma ^ {2} ight).}$

В случае ${extstyle sigma> 0}$, сходимость по распределению означает, что кумулятивные функции распределения из ${extstyle {sqrt {n}} ({ar {X}} _ {n} -mu)}$ поточечно сходятся к cdf ${extstyle N (0, сигма ^ {2})}$ распределение: для каждого действительного числа${extstyle z}$,

${displaystyle lim _ {n o infty} Pr left [{sqrt {n}} ({ar {X}} _ {n} -mu) leq zight] = lim _ {n o infty} Pr left [{frac {{ sqrt {n}} ({ar {X}} _ {n} -mu)} {sigma}} leq {frac {z} {sigma}} ight] = Phi влево ({frac {z} {sigma}} ight ),}$

куда ${extstyle Phi (z)}$ стандартный нормальный cdf, оцениваемый на${extstyle z}$. Сходимость равномерная по ${extstyle z}$ в том смысле, что

${displaystyle lim _ {n o infty} sup _ {zin mathbb {R}} left | Pr left [{sqrt {n}} ({ar {X}} _ {n} -mu) leq zight] -Phi left ( {frac {z} {sigma}} ight) ight | = 0,}$

куда ${extstyle mathrm {sup}}$ обозначает наименьшую верхнюю границу (или супремум ) набора.^[4]

Ляпунов ЦЛТ

Теорема названа в честь русского математика. Александр Ляпунов. В этом варианте центральной предельной теоремы случайные величины ${extstyle X_ {i}}$ должны быть независимыми, но не обязательно одинаково распределенными. Теорема также требует, чтобы случайные величины ${extstyle vert X_ {i} vert}$ имеют моменты некоторого порядка ${extstyle (2 + дельта)}$, и что скорость роста этих моментов ограничивается приведенным ниже условием Ляпунова.

Ляпунов ЦЛТ.^[5] Предполагать ${extstyle {X_ {1}, ldots, X_ {n}}}$ представляет собой последовательность независимых случайных величин, каждая из которых имеет конечное ожидаемое значение ${extstyle mu _ {i}}$ и дисперсия ${extstyle sigma _ {i} ^ {2}}$. Определять

${displaystyle s_ {n} ^ {2} = sum _ {i = 1} ^ {n} sigma _ {i} ^ {2}}$

Если для некоторых ${extstyle delta> 0}$, Состояние Ляпунова

${displaystyle lim _ {n o infty} {frac {1} {s_ {n} ^ {2 + delta}}} sum _ {i = 1} ^ {n} имя оператора {E} left [| X_ {i} - mu _ {i} | ^ {2 + delta} ight] = 0}$

выполняется, то сумма ${extstyle {frac {X_ {i} -mu _ {i}} {s_ {n}}}}$сходится по распределению к стандартной нормальной случайной величине, как ${extstyle n}$ уходит в бесконечность:

${displaystyle {frac {1} {s_ {n}}} sum _ {i = 1} ^ {n} left (X_ {i} -mu _ {i} ight) {xrightarrow {d}} N (0,1 ).}$

На практике обычно проще всего проверить условие Ляпунова на ${extstyle delta = 1}$.

Если последовательность случайных величин удовлетворяет условию Ляпунова, то она также удовлетворяет условию Линдеберга. Однако обратное утверждение неверно.

Lindeberg CLT

В той же постановке и с теми же обозначениями, что и выше, условие Ляпунова можно заменить следующим более слабым (из Lindeberg в 1920 г.).

Предположим, что для каждого ${extstyle epsilon> 0}$

${displaystyle lim _ {n o infty} {frac {1} {s_ {n} ^ {2}}} sum _ {i = 1} ^ {n} имя оператора {E} left [(X_ {i} -mu _ {i}) ^ {2} cdot mathbf {1} _ {{, X_ {i};:; left | X_ {i} -mu _ {i} ight |,>, varepsilon s_ {n},}} ight ] = 0}$

куда ${extstyle mathbf {1} _ {{ldots}}}$ это индикаторная функция. Тогда распределение стандартизированных сумм

${displaystyle {frac {1} {s_ {n}}} sum _ {i = 1} ^ {n} left (X_ {i} -mu _ {i} ight)}$

сходится к стандартному нормальному распределению ${extstyle N (0,1)}$.

Многомерный CLT

Доказательства, использующие характеристические функции, могут быть распространены на случаи, когда каждый отдельный ${extstyle mathbf {X} _ {i}}$ это случайный вектор в ${extstyle mathbb {R} ^ {k}}$, со средним вектором ${extstyle mu = имя оператора {E} [mathbf {X} _ {i}]}$ и ковариационная матрица ${extstyle mathbf {Sigma}}$ (среди компонентов вектора), и эти случайные векторы независимы и одинаково распределены. Суммирование этих векторов производится покомпонентно. Многомерная центральная предельная теорема утверждает, что при масштабировании суммы сходятся к многомерное нормальное распределение.^[6]

Позволять

${displaystyle mathbf {X} _ {i} = {egin {bmatrix} X_ {i (1)} vdots X_ {i (k)} end {bmatrix}}}$

быть k-вектор. Жирный в ${extstyle mathbf {X} _ {i}}$ означает, что это случайный вектор, а не случайная (одномерная) величина. Тогда сумма случайных векторов будет

${displaystyle {egin {bmatrix} X_ {1 (1)} vdots X_ {1 (k)} end {bmatrix}} + {egin {bmatrix} X_ {2 (1)} vdots X_ {2 (k )} end {bmatrix}} + cdots + {egin {bmatrix} X_ {n (1)} vdots X_ {n (k)} end {bmatrix}} = {egin {bmatrix} sum _ {i = 1} ^ {n} left [X_ {i (1)} ight] vdots sum _ {i = 1} ^ {n} left [X_ {i (k)} ight] end {bmatrix}} = sum _ {i = 1} ^ {n} mathbf {X} _ {i}}$

и в среднем

${displaystyle {frac {1} {n}} sum _ {i = 1} ^ {n} mathbf {X} _ {i} = {frac {1} {n}} {egin {bmatrix} sum _ {i = 1} ^ {n} X_ {i (1)} vdots sum _ {i = 1} ^ {n} X_ {i (k)} end {bmatrix}} = {egin {bmatrix} {ar {X} } _ {i (1)} vdots {ar {X}} _ {i (k)} end {bmatrix}} = mathbf {{ar {X}} _ {n}}}$

и поэтому

${displaystyle {frac {1} {sqrt {n}}} sum _ {i = 1} ^ {n} left [mathbf {X} _ {i} -operatorname {E} left (X_ {i} ight) ight] = {frac {1} {sqrt {n}}} sum _ {i = 1} ^ {n} (mathbf {X} _ {i} - {oldsymbol {mu}}) = {sqrt {n}} left ( {overline {mathbf {X}}} _ {n} - {oldsymbol {mu}} ight).}$

Многомерная центральная предельная теорема утверждает, что

${displaystyle {sqrt {n}} left ({overline {mathbf {X}}} _ {n} - {oldsymbol {mu}} ight) {stackrel {D} {ightarrow}} N_ {k} (0, {oldsymbol {Sigma}})}$

где ковариационная матрица ${displaystyle mathbf {Sigma}}$ равно

${displaystyle {oldsymbol {Sigma}} = {egin {bmatrix} {operatorname {Var} left (X_ {1 (1)} ight)} & operatorname {Cov} left (X_ {1 (1)}, X_ {1 (2) )} ight) и имя оператора {Cov} left (X_ {1 (1)}, X_ {1 (3)} ight) & cdots и имя оператора {Cov} left (X_ {1 (1)}, X_ {1 (k)} ight ) operatorname {Cov} left (X_ {1 (2)}, X_ {1 (1)} ight) & operatorname {Var} left (X_ {1 (2)} ight) & operatorname {Cov} left (X_ {1 ( 2)}, X_ {1 (3)} ight) & cdots & operatorname {Cov} left (X_ {1 (2)}, X_ {1 (k)} ight) operatorname {Cov} left (X_ {1 (3) }, X_ {1 (1)} полет) и имя оператора {Cov} влево (X_ {1 (3)}, X_ {1 (2)} полет) и имя оператора {Var} влево (X_ {1 (3)} полет) и cdots & operatorname {Cov} left (X_ {1 (3)}, X_ {1 (k)} ight) vdots & vdots & vdots & ddots & vdots operatorname {Cov} left (X_ {1 (k)}, X_ {1 (1) } ight) и имя оператора {Cov} left (X_ {1 (k)}, X_ {1 (2)} ight) и имя оператора {Cov} left (X_ {1 (k)}, X_ {1 (3)} ight) и cdots & operatorname {Var} left (X_ {1 (k)} ight) end {bmatrix}}.}$

Скорость сходимости определяется следующим Берри – Эссеен введите результат:

Теорема.^[7] Позволять ${displaystyle X_ {1}, точки, X_ {n}}$ быть независимым ${displaystyle R ^ {d}}$-значные случайные векторы, каждый из которых имеет нулевое среднее значение. Написать ${displaystyle S = сумма _ {i = 1} ^ {n} X_ {i}}$ и предполагать ${displaystyle Sigma = operatorname {Cov} [S]}$ обратимо. Позволять ${displaystyle Zsim N (0, Sigma)}$ быть ${displaystyle d}$-мерный гауссовский с той же матрицей среднего и ковариационной ${displaystyle S}$. Тогда для всех выпуклых множеств ${displaystyle Usubseteq R ^ {d}}$,

${displaystyle | Pr [Sin U] -Pr [Zin U] | leq Cd ^ {1/4} гамма,}$

куда ${displaystyle C}$ - универсальная постоянная, ${displaystyle gamma = sum _ {i = 1} ^ {n} имя оператора {E} [| Sigma ^ {- 1/2} X_ {i} | _ {2} ^ {3}]}$, и ${displaystyle | cdot | _ {2}}$ обозначает евклидову норму на ${displaystyle R ^ {d}}$.

Неизвестно, был ли фактор ${extstyle d ^ {1/4}}$ необходимо.^[8]

Обобщенная теорема

Центральная предельная теорема утверждает, что сумма ряда независимых и одинаково распределенных случайных величин с конечной дисперсией будет стремиться к нормальное распределение по мере роста числа переменных. Обобщение из-за Гнеденко и Колмогоров утверждает, что сумма ряда случайных величин со степенным хвостом (Паретийский хвост ) распределения, убывающие как ${extstyle {vert xvert} ^ {- альфа -1}}$ куда ${extstyle 0 <альфа <2}$ (и, следовательно, имеющий бесконечную дисперсию) будет стремиться к стабильному распределению ${extstyle f (x; альфа, 0, c, 0)}$ по мере роста числа слагаемых.^[9][10] Если ${extstyle alpha> 2}$ тогда сумма сходится к стабильное распространение с параметром устойчивости равным 2, т. е. распределением Гаусса.^[11]

Зависимые процессы

CLT при слабой зависимости

Полезным обобщением последовательности независимых одинаково распределенных случайных величин является смешивание случайный процесс в дискретном времени; «смешивание» означает, грубо говоря, что случайные величины, удаленные друг от друга во времени, почти независимы. В эргодической теории и теории вероятностей используется несколько видов перемешивания. Особенно сильное перемешивание (также называемое α-перемешиванием), определяемое ${extstyle alpha (n) o 0}$ куда ${extstyle alpha (n)}$ так называемый сильный коэффициент смешивания.

Упрощенная формулировка центральной предельной теоремы при сильном перемешивании:^[12]

Теорема. Предположим, что ${extstyle {X_ {1}, ldots, X_ {n}}}$ стационарный и ${displaystyle alpha}$-смешивание с ${extstyle alpha _ {n} = O (n ^ {- 5})}$ и это ${extstyle operatorname {E} [X_ {n}] = 0}$ и ${extstyle operatorname {E} [{X_ {n}} ^ {12}]$. Обозначить ${extstyle S_ {n} = X_ {1} + cdots + X_ {n}}$, то предел

${displaystyle sigma ^ {2} = lim _ {n} {frac {operatorname {E} left (S_ {n} ^ {2} ight)} {n}}}$

существует, и если ${extstyle sigma eq 0}$ тогда ${extstyle {frac {S_ {n}} {sigma {sqrt {n}}}}}$ сходится по распределению к ${extstyle N (0,1)}$.

Фактически,

${displaystyle sigma ^ {2} = operatorname {E} left (X_ {1} ^ {2} ight) + 2sum _ {k = 1} ^ {infty} operatorname {E} left (X_ {1} X_ {1+ k} ight),}$

где ряд абсолютно сходится.

Предположение ${extstyle sigma eq 0}$ не может быть опущен, так как асимптотическая нормальность не выполняется для ${extstyle X_ {n} = Y_ {n} -Y_ {n-1}}$ куда ${extstyle Y_ {n}}$ другой стационарная последовательность.

Есть более сильная версия теоремы:^[13] предположение ${extstyle operatorname {E} [{X_ {n}} ^ {12}]$ заменяется на ${extstyle operatorname {E} [{vert X_ {n} vert} ^ {2 + delta}]$, а предположение ${extstyle alpha _ {n} = O (n ^ {- 5})}$ заменяется на

${displaystyle sum _ {n} alpha _ {n} ^ {frac {delta} {2 (2 + delta)}}$

Существование таких ${extstyle delta> 0}$ обеспечивает заключение. Энциклопедический анализ предельных теорем в условиях перемешивания см. В (Брэдли 2007 ).

Разница по мартингейлу CLT

Теорема. Пусть мартингейл ${extstyle M_ {n}}$ удовлетворить

• ${displaystyle {frac {1} {n}} sum _ {k = 1} ^ {n} имя оператора {E} left (left (M_ {k} -M_ {k-1} ight) ^ {2} | M_ { 1}, точки, M_ {k-1} ight) o 1}$ по вероятности как п → ∞,
• для каждого ε > 0, ${displaystyle {frac {1} {n}} sum _ {k = 1} ^ {n} имя оператора {E} left (left (M_ {k} -M_ {k-1} ight) ^ {2}; | M_ {k} -M_ {k-1} |> varepsilon {sqrt {n}} ight) o 0}$ в качестве п → ∞,

тогда ${extstyle {frac {M_ {n}} {sqrt {n}}}}$ сходится по распределению к ${extstyle N (0,1)}$ в качестве ${extstyle n o infty}$.^[14][15]

Осторожность: В ограниченное ожидание^{[требуется разъяснение ]} ${extstyle operatorname {E} [X; A]}$ не следует путать с условным ожиданием ${extstyle operatorname {E} [Xmid A] = {frac {operatorname {E} [X; A]} {mathbf {P} (A)}}}$.

Замечания

Доказательство классической CLT

Центральная предельная теорема имеет доказательство с использованием характеристические функции.^[16] Это похоже на доказательство (слабого) закон больших чисел.

Предполагать ${extstyle {X_ {1}, ldots, X_ {n}}}$ являются независимыми и одинаково распределенными случайными величинами, каждая со средним ${extstyle mu}$ и конечная дисперсия ${extstyle sigma ^ {2}}$. Сумма ${extstyle X_ {1} + cdots + X_ {n}}$ имеет иметь в виду ${extstyle nmu}$ и отклонение ${extstyle nsigma ^ {2}}$. Рассмотрим случайную величину

${displaystyle Z_ {n} = {frac {X_ {1} + cdots + X_ {n} -nmu} {sqrt {nsigma ^ {2}}}} = sum _ {i = 1} ^ {n} {frac { X_ {i} -mu} {sqrt {nsigma ^ {2}}}} = sum _ {i = 1} ^ {n} {frac {1} {sqrt {n}}} Y_ {i},}$

где на последнем шаге мы определили новые случайные величины ${extstyle Y_ {i} = {frac {X_ {i} -mu} {sigma}}}$, каждый с нулевым средним и единичной дисперсией (${extstyle operatorname {var} (Y) = 1}$). В характеристическая функция из ${extstyle Z_ {n}}$ дан кем-то

${displaystyle varphi _ {Z_ {n}}! (t) = varphi _ {sum _ {i = 1} ^ {n} {{frac {1} {sqrt {n}}} Y_ {i}}}! ( t) = varphi _ {Y_ {1}} !! left ({frac {t} {sqrt {n}}} ight) varphi _ {Y_ {2}} !! left ({frac {t} {sqrt {n }}} ight) cdots varphi _ {Y_ {n}} !! left ({frac {t} {sqrt {n}}} ight) = left [varphi _ {Y_ {1}} !! left ({frac { t} {sqrt {n}}} ight) ight] ^ {n},}$

где на последнем шаге мы использовали тот факт, что все ${extstyle Y_ {i}}$ одинаково распределены. Характеристическая функция ${extstyle Y_ {1}}$ является по Теорема Тейлора,

${displaystyle varphi _ {Y_ {1}} !! left ({frac {t} {sqrt {n}}} ight) = 1- {frac {t ^ {2}} {2n}} + o !! left ( {frac {t ^ {2}} {n}} ight), quad {igg (} {frac {t} {sqrt {n}}} {igg)} ightarrow 0}$

куда ${extstyle o (t ^ {2} / n)}$ является "маленький о обозначение "для некоторой функции ${extstyle t}$ который стремится к нулю быстрее, чем ${extstyle t ^ {2} / n}$. В пределах экспоненциальная функция (${extstyle e ^ {x} = lim _ {n o infty} осталось (1+ {frac {x} {n}} ight) ^ {n}}$) характеристическая функция ${displaystyle Z_ {n}}$ равно

${displaystyle varphi _ {Z_ {n}} (t) = left (1- {frac {t ^ {2}} {2n}} + oleft ({frac {t ^ {2}} {n}} ight) ight) ) ^ {n} ightarrow e ^ {- {frac {1} {2}} t ^ {2}}, quad nightarrow infty.}$

Все члены высшего порядка исчезают в пределе ${extstyle n o infty}$. Правая часть равна характеристической функции стандартного нормального распределения. ${extstyle N (0,1)}$, что подразумевает через Теорема Леви о непрерывности что распределение ${extstyle Z_ {n}}$ подойдет ${extstyle N (0,1)}$ в качестве ${extstyle n o infty}$. Следовательно среднее значение выборки

${displaystyle {ar {X}} _ {n} = {frac {X_ {1} + cdots + X_ {n}} {n}}}$

таково, что

${displaystyle {frac {sqrt {n}} {sigma}} ({ar {X}} _ {n} -mu)}$

сходится к нормальному распределению ${extstyle N (0,1)}$, из которой следует центральная предельная теорема.

Сходимость до предела

Центральная предельная теорема дает только асимптотическое распределение. В качестве приближения для конечного числа наблюдений оно обеспечивает разумное приближение только тогда, когда оно близко к пику нормального распределения; требуется очень большое количество наблюдений, чтобы простираться до хвоста.^{[нужна цитата ]}

Сходимость в центральной предельной теореме равна униформа потому что предельная кумулятивная функция распределения непрерывна. Если третий центральный момент ${extstyle operatorname {E} [(X_ {1} -mu) ^ {3}]}$ существует и конечна, то скорость сходимости не менее порядка ${extstyle 1 / {sqrt {n}}}$ (видеть Теорема Берри – Эссеена ). Метод Штейна^[17] может использоваться не только для доказательства центральной предельной теоремы, но и для получения оценок скорости сходимости для выбранных метрик.^[18]

Сходимость к нормальному распределению монотонна в том смысле, что энтропия из ${extstyle Z_ {n}}$ увеличивается монотонно к нормальному распределению.^[19]

Центральная предельная теорема применима, в частности, к суммам независимых и одинаково распределенных дискретные случайные величины. Сумма дискретные случайные величины все еще дискретная случайная величина, так что перед нами последовательность дискретные случайные величины чья кумулятивная функция распределения вероятностей сходится к кумулятивной функции распределения вероятностей, соответствующей непрерывной переменной (а именно функции нормальное распределение ). Это означает, что если мы построим гистограмма реализации суммы п независимых идентичных дискретных переменных, кривая, соединяющая центры верхних граней прямоугольников, образующих гистограмму, сходится к гауссовой кривой как п стремится к бесконечности, это отношение известно как Теорема де Муавра – Лапласа. В биномиальное распределение В статье подробно описывается такое применение центральной предельной теоремы в простом случае дискретной переменной, принимающей только два возможных значения.

Связь с законом больших чисел

Закон больших чисел а также центральная предельная теорема являются частными решениями общей проблемы: «Каково предельное поведение S_п в качестве п приближается к бесконечности? »В математическом анализе асимптотический ряд являются одним из самых популярных инструментов, используемых для решения таких вопросов.

Предположим, у нас есть асимптотическое разложение ${extstyle f (n)}$:

${displaystyle f (n) = a_ {1} varphi _ {1} (n) + a_ {2} varphi _ {2} (n) + O {ig (} varphi _ {3} (n) {ig)} qquad (nightarrow infty).}$

Разделив обе части на φ₁(п) и взятие лимита произведет а₁, коэффициент перед членом высшего порядка в разложении, который представляет скорость, с которой ж(п) изменения в его ведущем члене.

${displaystyle lim _ {n o infty} {frac {f (n)} {varphi _ {1} (n)}} = a_ {1}.}$

Неформально можно сказать: "ж(п) растет примерно как а₁φ₁(п)". Принимая во внимание разницу между ж(п) и его приближение, а затем деление на следующий член в разложении, мы приходим к более тонкому утверждению о ж(п):

${displaystyle lim _ {n o infty} {frac {f (n) -a_ {1} varphi _ {1} (n)} {varphi _ {2} (n)}} = a_ {2}.}$

Здесь можно сказать, что разница между функцией и ее приближением растет примерно как а₂φ₂(п). Идея состоит в том, что разделение функции на соответствующие нормализующие функции и рассмотрение ограничивающего поведения результата может многое рассказать нам об ограничивающем поведении самой исходной функции.

Неформально что-то подобное происходит, когда сумма, S_п, независимых одинаково распределенных случайных величин, Икс₁, …, Икс_п, изучается в классической теории вероятностей.^{[нужна цитата ]} Если каждый Икс_я имеет конечное среднее μ, то по закону больших чисел S_п/п → μ.^[20] Если вдобавок каждый Икс_я имеет конечную дисперсию σ², то по центральной предельной теореме

${displaystyle {frac {S_ {n} -nmu} {sqrt {n}}} ightarrow xi,}$

куда ξ распространяется как N(0,σ²). Это обеспечивает значения первых двух констант в неформальном расширении

${displaystyle S_ {n} приблизительно mu n + xi {sqrt {n}}.}$

В случае, если Икс_я не имеют конечного среднего или дисперсии, сходимость сдвинутой и масштабированной суммы также может происходить с различными коэффициентами центрирования и масштабирования:

${displaystyle {frac {S_ {n} -a_ {n}} {b_ {n}}} ightarrow Xi,}$

или неофициально

${displaystyle S_ {n} примерно a_ {n} + Xi b_ {n}.}$

Распределения Ξ которые могут возникнуть таким образом, называются стабильный.^[21] Ясно, что нормальное распределение стабильно, но есть и другие стабильные распределения, такие как Распределение Коши, для которых не определены среднее значение или дисперсия. Коэффициент масштабирования б_п может быть пропорционально п^c, для любого c ≥ 1/2; его также можно умножить на медленно меняющаяся функция из п.^[11][22]

В закон повторного логарифма указывает, что происходит "между" закон больших чисел и центральная предельная теорема. В частности, в нем говорится, что нормализующая функция √п журнал журнал п, средний размер между п закона больших чисел и √п центральной предельной теоремы, обеспечивает нетривиальное предельное поведение.

Альтернативные формулировки теоремы

Функции плотности

В плотность суммы двух или более независимых переменных составляет свертка их плотностей (если эти плотности существуют). Таким образом, центральную предельную теорему можно интерпретировать как утверждение о свойствах функций плотности при свертке: свертка ряда функций плотности стремится к нормальной плотности, когда число функций плотности неограниченно увеличивается. Эти теоремы требуют более сильных гипотез, чем приведенные выше формы центральной предельной теоремы. Теоремы этого типа часто называют локальными предельными теоремами. См Петрова^[23] для конкретной локальной предельной теоремы для сумм независимые и одинаково распределенные случайные величины.

Характерные функции

Поскольку характеристическая функция свертки является произведением характеристических функций задействованных плотностей, центральная предельная теорема имеет еще одну переформулировку: произведение характеристических функций ряда функций плотности становится близким к характеристической функции нормальной плотности как количество функция плотности неограниченно возрастает при указанных выше условиях. В частности, к аргументу характеристической функции должен применяться соответствующий коэффициент масштабирования.

Аналогичное заявление можно сделать о Преобразования Фурье, поскольку характеристическая функция по существу является преобразованием Фурье.

Расчет дисперсии

Позволять S_п быть суммой п случайные переменные. Многие центральные предельные теоремы содержат такие условия, что S_п/√Вар (S_п) сходится по распределению к N(0,1) (нормальное распределение со средним 0, дисперсией 1) как п→ ∞. В некоторых случаях можно найти постоянную σ² и функция f (n) такой, что S_п/ (σ√nf(п)) сходится по распределению к N(0,1) в качестве п→ ∞.

Лемма.^[24] Предполагать ${displaystyle X_ {1}, X_ {2}, точки}$ представляет собой последовательность действительных и строго стационарных случайных величин с ${displaystyle mathbb {E} (X_ {i}) = 0}$ для всех ${displaystyle i}$, ${displaystyle g: [0,1] ightarrow mathbb {R}}$, и ${displaystyle S_ {n} = sum _ {i = 1} ^ {n} g ({frac {i} {n}}) X_ {i}}$. Построить

${displaystyle sigma ^ {2} = mathbb {E} (X_ {1} ^ {2}) + 2sum _ {i = 1} ^ {infty} mathbb {E} (X_ {1} X_ {1 + i}) }$

1. Если ${displaystyle sum _ {i = 1} ^ {infty} mathbb {E} (X_ {1} X_ {1 + i})}$ абсолютно сходится, ${displaystyle left | int _ {0} ^ {1} g (x) g '(x), dxight |$, и ${displaystyle 0$ тогда ${displaystyle mathrm {Var} (S_ {n}) / (ngamma _ {n}) ightarrow sigma ^ {2}}$ в качестве ${displaystyle nightarrow infty}$ куда ${displaystyle gamma _ {n} = {frac {1} {n}} sum _ {i = 1} ^ {n} (g ({frac {i} {n}})) ^ {2}}$.
2. Если вдобавок ${displaystyle sigma> 0}$ и ${displaystyle S_ {n} / {sqrt {mathrm {Var} (S_ {n})}}}$ сходится по распределению к ${displaystyle {mathcal {N}} (0,1)}$ в качестве ${displaystyle nightarrow infty}$ тогда ${displaystyle S_ {n} / (sigma {sqrt {ngamma _ {n}}})}$ также сходится по распределению к ${displaystyle {mathcal {N}} (0,1)}$ в качестве ${displaystyle nightarrow infty}$.

Расширения

Произведения положительных случайных величин

В логарифм продукта - это просто сумма логарифмов факторов. Следовательно, когда логарифм произведения случайных величин, принимающих только положительные значения, приближается к нормальному распределению, само произведение приближается к логнормальное распределение. Многие физические величины (особенно масса или длина, которые зависят от масштаба и не могут быть отрицательными) являются продуктами различных случайный факторов, поэтому они следуют логнормальному распределению. Эту мультипликативную версию центральной предельной теоремы иногда называют Закон гибрата.

В то время как центральная предельная теорема для сумм случайных величин требует условия конечной дисперсии, соответствующая теорема для произведений требует соответствующего условия, что функция плотности интегрируема с квадратом.^[25]

За пределами классических рамок

Асимптотическая нормальность, то есть конвергенция к нормальному распределению после соответствующего сдвига и масштабирования, это явление гораздо более общее, чем классическая структура, рассмотренная выше, а именно, суммы независимых случайных величин (или векторов). Время от времени появляются новые рамки; единой объединяющей основы пока нет.

Выпуклое тело

Теорема. Существует последовательность ε_п ↓ 0 для которого справедливо следующее. Позволять п ≥ 1, и пусть случайные величины Икс₁, …, Икс_п есть бревенчатый плотность стыков ж такой, что ж(Икс₁, …, Икс_п) = ж(|Икс₁|, …, |Икс_п|) для всех Икс₁, …, Икс_п, и E (Икс²
_k) = 1 для всех k = 1, …, п. Тогда распределение

${displaystyle {frac {X_ {1} + cdots + X_ {n}} {sqrt {n}}}}$

является ε_п-рядом с N(0,1) в общее расстояние вариации.^[26]

Эти двое ε_п-ближайшие распределения имеют плотности (фактически, логарифмически вогнутые плотности), таким образом, полное расстояние дисперсии между ними является интегралом от абсолютного значения разницы между плотностями. Сходимость при полной вариации сильнее слабой.

Важным примером логарифмически вогнутой плотности является функция, постоянная внутри данного выпуклого тела и исчезающая снаружи; оно соответствует равномерному распределению на выпуклом теле, что объясняет термин «центральная предельная теорема для выпуклых тел».

Другой пример: ж(Икс₁, …, Икс_п) = const · exp (- (|Икс₁|^α + … + |Икс_п|^α)^β) куда α > 1 и αβ > 1. Если β = 1 тогда ж(Икс₁, …, Икс_п) разлагается на const · exp (- |Икс₁|^α)… Exp (- |Икс_п|^α), что значит Икс₁, …, Икс_п независимы. Но в целом они зависимы.

Условие ж(Икс₁, …, Икс_п) = ж(|Икс₁|, …, |Икс_п|) гарантирует, что Икс₁, …, Икс_п имеют нулевое среднее и некоррелированный;^{[нужна цитата ]} тем не менее, они не должны быть независимыми, или даже попарно независимые.^{[нужна цитата ]} Кстати, попарная независимость не может заменить независимость в классической центральной предельной теореме.^[27]

Вот Берри – Эссеен введите результат.

Теорема. Позволять Икс₁, …, Икс_п удовлетворяют условиям предыдущей теоремы, то ^[28]

${displaystyle left | mathbb {P} left (aleq {frac {X_ {1} + cdots + X_ {n}} {sqrt {n}}} leq bight) - {frac {1} {sqrt {2pi}}} int _ {a} ^ {b} mathrm {e} ^ {- {гидроразрыв {1} {2}} t ^ {2}}, dtight | leq {гидроразрыв {C} {n}}}$

для всех а < б; здесь C это универсальная (абсолютная) постоянная. Причем для каждого c₁, …, c_п ∈ ℝ такой, что c²
₁ + … + c²
_п = 1,

${displaystyle left | mathbb {P} left (aleq c_ {1} X_ {1} + cdots + c_ {n} X_ {n} leq bight) - {frac {1} {sqrt {2pi}}} int _ {a } ^ {b} mathrm {e} ^ {- {frac {1} {2}} t ^ {2}}, dtight | leq Cleft (c_ {1} ^ {4} + точки + c_ {n} ^ { 4} ight).}$

Распределение Икс₁ + … + Икс_п/√п не обязательно быть приблизительно нормальным (фактически, может быть однородным).^[29] Однако распределение c₁Икс₁ + … + c_пИкс_п близко к N(0,1) (в общем расстоянии вариации) для большинства векторов (c₁, …, c_п) по равномерному распределению на сфере c²
₁ + … + c²
_п = 1.

Лакунарный тригонометрический ряд

Теорема (Салем –Зигмунд ): Позволять U - случайная величина, равномерно распределенная на (0,2π), и Икс_k = р_k cos (п_kU + а_k), куда

• п_k удовлетворяют условию лакунарности: существует q > 1 такой, что п_{k + 1} ≥ qn_k для всех k,
• р_k такие, что

${displaystyle r_ {1} ^ {2} + r_ {2} ^ {2} + cdots = infty quad {ext {and}} quad {frac {r_ {k} ^ {2}} {r_ {1} ^ { 2} + cdots + r_ {k} ^ {2}}} o 0,}$

• 0 ≤ а_k <2π.

потом^[30][31]

${displaystyle {frac {X_ {1} + cdots + X_ {k}} {sqrt {r_ {1} ^ {2} + cdots + r_ {k} ^ {2}}}}}$

сходится по распределению к N(0, 1/2).

Гауссовы многогранники

Теорема: Позволять А₁, …, А_п быть независимыми случайными точками на плоскости ℝ² каждая имеет двумерное стандартное нормальное распределение. Позволять K_п быть выпуклый корпус этих точек, и Икс_п площадь K_п потом^[32]

${displaystyle {frac {X_ {n} -mathrm {E} (X_ {n})} {sqrt {operatorname {Var} (X_ {n})}}}}$

сходится по распределению к N(0,1) в качестве п стремится к бесконечности.

То же самое верно и для всех измерений больше 2.

В многогранник K_п называется гауссовским случайным многогранником.

Аналогичный результат справедлив для числа вершин (многогранника Гаусса), числа ребер и фактически граней всех размерностей.^[33]

Линейные функции ортогональных матриц

Линейная функция матрицы M - линейная комбинация его элементов (с заданными коэффициентами), M ↦ tr (ЯВЛЯЮСЬ) куда А - матрица коэффициентов; видеть След (линейная алгебра) # Внутренний продукт.

Случайный ортогональная матрица называется распределенным равномерно, если его распределение является нормированным Мера Хаара на ортогональная группа O (п,ℝ); видеть Матрица вращения # Матрицы равномерного случайного вращения.

Теорема. Позволять M быть случайным ортогональным п × п матрица распределена равномерно, и А фиксированный п × п матрица такая, что tr (AA*) = п, и разреши Икс = tr (ЯВЛЯЮСЬ). потом^[34] распределение Икс близко к N(0,1) в метрике общей вариации до^{[требуется разъяснение ]} 2√3/п − 1.

Подпоследовательности

Теорема. Пусть случайные величины Икс₁, Икс₂, … ∈ L₂(Ом) быть таким, чтобы Икс_п → 0 слабо в L₂(Ом) и Икс
_п → 1 слабо в L₁(Ом). Тогда существуют целые числа п₁ < п₂ < … такой, что

${displaystyle {frac {X_ {n_ {1}} + cdots + X_ {n_ {k}}} {sqrt {k}}}})$

сходится по распределению к N(0,1) в качестве k стремится к бесконечности.^[35]

Случайное блуждание по кристаллической решетке

Центральная предельная теорема может быть установлена ​​для простого случайная прогулка на кристаллической решетке (бесконечный абелев накрывающий граф над конечным графом) и используется для проектирования кристаллических структур.^[36][37]

Приложения и примеры

Простой пример

Этот рисунок демонстрирует центральную предельную теорему. Средние выборки генерируются с использованием генератора случайных чисел, который извлекает числа от 0 до 100 из равномерного распределения вероятностей. Это показывает, что увеличение размеров выборки приводит к тому, что 500 измеренных выборочных средних более близко распределяются относительно среднего по генеральной совокупности (в данном случае 50). Он также сравнивает наблюдаемые распределения с распределениями, которые можно было бы ожидать для нормализованного распределения Гаусса, и показывает хи-квадрат значения, которые количественно определяют качество подгонки (подгонка хороша, если хи-квадрат значение меньше или приблизительно равно единице). Входными данными в нормализованную функцию Гаусса является среднее значение выборки (~ 50) и среднее стандартное отклонение выборки, деленное на квадратный корень из размера выборки (~ 28,87 /√п), которое называется стандартным отклонением среднего (поскольку оно относится к разбросу выборочных средних).

Простой пример центральной предельной теоремы - бросание множества одинаковых несмещенных игральных костей. Распределение суммы (или среднего) выпавших чисел будет хорошо аппроксимировано нормальным распределением. Поскольку реальные величины часто являются сбалансированной суммой многих ненаблюдаемых случайных событий, центральная предельная теорема также дает частичное объяснение преобладания нормального распределения вероятностей. Это также оправдывает приближение большой выборки статистика к нормальному распределению в контролируемых экспериментах.

Сравнение функций плотности вероятности, **п(k) на сумму п справедливые 6-сторонние игральные кости, чтобы показать их сходимость к нормальному распределению с увеличением п, согласно центральной предельной теореме. На нижнем правом графике сглаженные профили предыдущих графиков масштабируются, накладываются друг на друга и сравниваются с нормальным распределением (черная кривая).

Еще одно моделирование с использованием биномиального распределения. Были сгенерированы случайные 0 и 1, а затем рассчитаны их средние для размеров выборки от 1 до 512. Обратите внимание, что по мере увеличения размера выборки хвосты становятся тоньше, а распределение становится более концентрированным вокруг среднего.

Реальные приложения

Опубликованная литература содержит ряд полезных и интересных примеров и приложений, относящихся к центральной предельной теореме.^[38] Один источник^[39] приводит следующие примеры:

• Распределение вероятностей для общего расстояния, пройденного за случайная прогулка (предвзятый или непредвзятый) будет склонен к нормальное распределение.
• Подбрасывание большого количества монет приведет к нормальному распределению общего количества решек (или, что эквивалентно, общего количества решек).

С другой стороны, центральная предельная теорема объясняет обычное появление «колоколообразной кривой» в оценки плотности применяется к данным реального мира. В таких случаях, как электронный шум, экзаменационные оценки и т. Д., Мы часто можем рассматривать одно измеренное значение как средневзвешенное значение множества небольших эффектов. Затем, используя обобщения центральной предельной теоремы, мы можем увидеть, что это часто (хотя и не всегда) приводит к окончательному распределению, которое приблизительно нормально.

В общем, чем больше измерение похоже на сумму независимых переменных с равным влиянием на результат, тем более нормальным оно является. Это оправдывает обычное использование этого распределения для замены эффектов ненаблюдаемых переменных в таких моделях, как линейная модель.

Регресс

Регрессивный анализ и в частности обыкновенный метод наименьших квадратов указывает, что зависимая переменная зависит в зависимости от функции от одного или нескольких независимые переменные, с добавкой срок ошибки. Различные типы статистического вывода о регрессии предполагают, что член ошибки имеет нормальное распределение. Это предположение может быть оправдано, если предположить, что член ошибки на самом деле является суммой многих независимых членов ошибки; даже если отдельные члены ошибок не распределены нормально, по центральной предельной теореме их сумма может быть хорошо аппроксимирована нормальным распределением.

Другие иллюстрации

Учитывая его важность для статистики, доступен ряд статей и компьютерных пакетов, демонстрирующих сходимость, заложенную в центральной предельной теореме.^[40]

История

Голландский математик Хенк Таймс пишет:^[41]

Центральная предельная теорема имеет интересную историю. Первая версия этой теоремы была сформулирована математиком французского происхождения. Абрахам де Муавр который в замечательной статье, опубликованной в 1733 году, использовал нормальное распределение для аппроксимации распределения числа орлов в результате множества подбрасываний справедливой монеты. Это открытие намного опередило свое время и было почти забыто до тех пор, пока знаменитый французский математик Пьер-Симон Лаплас спас его от безвестности в своей монументальной работе Аналитическая теория вероятностей, который был опубликован в 1812 году. Лаплас расширил открытие Де Муавра, аппроксимировав биномиальное распределение нормальным распределением. Но, как и в случае с Де Муавром, открытие Лапласа не привлекло особого внимания в его время. Важность центральной предельной теоремы осознали только в конце XIX века, когда в 1901 году русский математик Александр Ляпунов определил его в общих чертах и ​​точно доказал, как он работает математически. В настоящее время центральная предельная теорема считается неофициальным сувереном теории вероятностей.

сэр Фрэнсис Гальтон описал Центральную предельную теорему следующим образом:^[42]

Я не знаю ничего более впечатляющего в воображении, чем чудесная форма космического порядка, выраженная «Законом частоты ошибок». Закон был бы олицетворен греками и обожествлен, если бы они знали о нем. Он царит безмятежно и в полном самоуничижении среди самого дикого смятения. Чем больше толпа и чем больше очевидная анархия, тем совершеннее ее власть. Это высший закон безрассудства. Всякий раз, когда берется большая выборка хаотических элементов и выстраивается в порядке их величины, неожиданная и самая прекрасная форма регулярности оказывается скрытой все время.

Фактический термин «центральная предельная теорема» (на немецком языке: «zentraler Grenzwertsatz») впервые был использован Георгий Полиа в 1920 г. в названии статьи.^[43][44] Полиа назвал эту теорему «центральной» из-за ее важности в теории вероятностей. По словам Ле Кама, французская школа вероятностей интерпретирует слово центральный в том смысле, что «описывает поведение центра распределения в противоположность его хвостам».^[44] Реферат статьи О центральной предельной теореме исчисления вероятностей и проблеме моментов по Pólya^[43] в 1920 году переводится следующим образом.

Возникновение гауссовой плотности вероятности 1 = е^−Икс2 в повторяющихся экспериментах ошибки измерений, которые приводят к сочетанию очень многих и очень малых элементарных ошибок, в процессах диффузии и т. д., могут быть объяснены, как хорошо известно, той же самой предельной теоремой, которая играет центральную роль. роль в исчислении вероятностей. Настоящего первооткрывателя этой предельной теоремы следует назвать Лапласом; вполне вероятно, что его строгое доказательство было впервые дано Чебыщевым, и его наиболее точную формулировку можно найти, насколько мне известно, в статье Ляпунов. ...

Подробное изложение истории теоремы, детальное описание основополагающей работы Лапласа, а также Коши s, Бессель 'песок Пуассон Вклады предоставлены Hald.^[45] Два исторических отчета, один охватывает развитие от Лапласа до Коши, второй - вклад автора фон Мизес, Pólya, Lindeberg, Леви, и Крамер в 20-е годы Ханс Фишер.^[46] Ле Кам описывает период около 1935 года.^[44] Бернштейн^[47] представляет собой историческую дискуссию, посвященную работе Пафнутый Чебышев и его ученики Андрей Марков и Александр Ляпунов это привело к первым доказательствам CLT в общих условиях.

В течение 1930-х годов были представлены все более общие доказательства Центральной предельной теоремы. Было обнаружено, что многие природные системы демонстрируют Гауссовы распределения - типичным примером является распределение роста людей. Когда в начале 1900-х годов стали применяться статистические методы, такие как дисперсионный анализ, стало все более обычным делом предполагать лежащие в основе распределения Гаусса.^[48]

Любопытная сноска к истории Центральной предельной теоремы состоит в том, что доказательство результата, аналогичного CLT Линдеберга 1922 года, было предметом исследования. Алан Тьюринг стипендиальная диссертация 1934 г. Королевский колледж на Кембриджский университет. Только после отправки работы Тьюринг узнал, что она уже доказана. Следовательно, диссертация Тьюринга не была опубликована.^[49]

Смотрите также

• Асимптотическое свойство равнораспределения
• Асимптотическое распределение
• Распределение Бейтса
• Закон Бенфорда - Результат расширения CLT до произведения случайных величин.
• Теорема Берри – Эссеена
• Центральная предельная теорема для направленной статистики - Центральная предельная теорема в случае направленной статистики
• Дельта-метод - для вычисления предельного распределения функции случайной величины.
• Теорема Эрдеша – Каца - связывает количество простых делителей целого числа с нормальным распределением вероятностей
• Теорема Фишера – Типпета – Гнеденко. - предельная теорема для экстремальных значений (например, Максимум{Икс_п})
• Распределение Ирвина – Холла
• Центральная предельная теорема цепи Маркова
• Нормальное распределение
• Теорема Твиди о сходимости - Теорема, которую можно рассматривать как мост между центральной предельной теоремой и Теорема сходимости Пуассона^[50]

Примечания

Рекомендации

• Барань, Имре; Ву, Ван (2007). «Центральные предельные теоремы для гауссовских многогранников». Анналы вероятности. Институт математической статистики. 35 (4): 1593–1621. arXiv:математика / 0610192. Дои:10.1214/009117906000000791. S2CID  9128253.
• Бауэр, Хайнц (2001). Теория меры и интеграции. Берлин: де Грюйтер. ISBN  3110167190.
• Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). Джон Вили и сыновья. ISBN  0-471-00710-2.
• Брэдли, Ричард (2007). Введение в условия сильного перемешивания (1-е изд.). Хибер-Сити, Юта: Кендрик Пресс. ISBN  978-0-9740427-9-4.
• Брэдли, Ричард (2005). «Основные свойства условий сильного перемешивания. Обзор и некоторые открытые вопросы». Вероятностные исследования. 2: 107–144. arXiv:математика / 0511078v1. Bibcode:2005математика ..... 11078B. Дои:10.1214/154957805100000104. S2CID  8395267.
• Динов, Иво; Кристу, Николас; Санчес, Хуана (2008). "Центральная предельная теорема: новый апплет SOCR и демонстрационная деятельность". Журнал статистики образования. КАК. 16 (2): 1–15. Дои:10.1080/10691898.2008.11889560. ЧВК  3152447. PMID  21833159.
• Дарретт, Ричард (2004). Вероятность: теория и примеры (3-е изд.). Издательство Кембриджского университета. ISBN  0521765390.
• Гапошкин, В. Ф. (1966). «Лакунарные ряды и независимые функции». Российские математические обзоры. 21 (6): 1–82. Bibcode:1966РуМаС..21 .... 1Г. Дои:10.1070 / RM1966v021n06ABEH001196..
• Клартаг, Боаз (2007). «Центральная предельная теорема для выпуклых множеств». Inventiones Mathematicae. 168 (1): 91–131. arXiv:математика / 0605014. Bibcode:2007InMat.168 ... 91K. Дои:10.1007 / s00222-006-0028-8. S2CID  119169773.
• Клартаг, Боаз (2008). «Неравенство типа Берри – Эссеена для выпуклых тел с безусловным базисом». Теория вероятностей и смежные области. 145 (1–2): 1–33. arXiv:0705.0832. Дои:10.1007 / s00440-008-0158-6. S2CID  10163322.

внешняя ссылка

• Центральная предельная теорема в Академии Хана
• "Центральная предельная теорема", Энциклопедия математики, EMS Press, 2001 [1994]
• Вайсштейн, Эрик В. "Центральная предельная теорема". MathWorld.