Теорема де Финеттиса - Википедия - De Finettis theorem

В теория вероятности, теорема де Финетти утверждает, что обмениваемый наблюдения условно независимый относительно некоторых скрытая переменная. An эпистемическая вероятность распределение затем можно присвоить этой переменной. Назван в честь Бруно де Финетти.

В частном случае сменной последовательности Бернулли случайных величин, в нем говорится, что такая последовательность является "смесь "последовательностей независимые и одинаково распределенные (i.i.d.) Случайные величины Бернулли.

Последовательность случайных величин называется заменяемой, если совместное распределение последовательности не изменяется при любой перестановке индексов. Пока переменные заменяемой последовательности не самих себя независимый, только сменный, есть лежащий в основе семья i.i.d. случайные переменные. То есть существуют лежащие в основе, как правило, ненаблюдаемые количества, которые являются i.i.d. - заменяемые последовательности представляют собой смеси i.i.d. последовательности.

Фон

Байесовский статистик часто ищет условное распределение вероятностей случайной величины с учетом данных. Концепция чего-либо возможность обмена был представлен де Финетти. Теорема Де Финетти объясняет математическую связь между независимостью и возможностью обмена.[1]

Бесконечная последовательность

случайных величин называется заменяемой, если для любого натуральное число п и любые две конечные последовательности я1, ..., яп и j1, ..., jп (с каждым из яразличны, и каждый из js различны), две последовательности

у обоих одинаковые совместное распределение вероятностей.

Если идентично распределенная последовательность независимый, то последовательность заменяема; однако обратное неверно - существуют заменяемые случайные величины, которые не являются статистически независимыми, например Модель урны Pólya.

Формулировка теоремы

А случайная переменная Икс имеет Распределение Бернулли если Pr (Икс = 1) = п и Pr (Икс = 0) = 1 − п для некоторых п ∈ (0, 1).

Теорема Де Финетти утверждает, что распределение вероятностей любой бесконечной заменяемой последовательности случайных величин Бернулли есть "смесь "распределений вероятностей независимых и одинаково распределенных последовательностей случайных величин Бернулли." Смесь "в этом смысле означает средневзвешенное значение, но это не обязательно означает конечное или счетно бесконечное (т. е. дискретное) средневзвешенное значение: оно может быть ан интеграл, а не сумма.

Точнее предположим Икс1, Икс2, Икс3, ... является бесконечной заменяемой последовательностью случайных величин, распределенных по Бернулли. Тогда есть некоторое распределение вероятностей м на интервале [0, 1] и некоторая случайная величина Y такой, что

  • Распределение вероятностей Y является м, и
  • В условное распределение вероятностей всей последовательности Икс1, Икс2, Икс3, ... учитывая значение Y описывается, говоря, что
    • Икс1, Икс2, Икс3, ... находятся условно независимый данный Y, и
    • Для любого я ∈ {1, 2, 3, ...}, условная вероятность того, что Икся = 1, учитывая значение Y, является Y.

Другой способ формулировки теоремы

Предполагать представляет собой бесконечную заменяемую последовательность случайных величин Бернулли. потом условно независимы и одинаково распределены с учетом заменяемая сигма-алгебра (т.е. сигма-алгебра событий, измеримых относительно и инвариантен относительно конечных перестановок индексов).

Пример

Вот конкретный пример. Строим последовательность

случайных величин путем «смешивания» двух i.i.d. последовательности следующим образом.

Мы предполагаем п = 2/3 с вероятностью 1/2 и п = 9/10 с вероятностью 1/2. Учитывая событие п = 2/3, условное распределение последовательности таково, что Икся независимы и одинаково распределены и Икс1 = 1 с вероятностью 2/3 и Икс1 = 0 с вероятностью 1 - 2/3. Учитывая событие п = 9/10, условное распределение последовательности таково, что Икся независимы и одинаково распределены и Икс1 = 1 с вероятностью 9/10 и Икс1 = 0 с вероятностью 1 - 9/10.

Это можно интерпретировать следующим образом: сделайте две предвзятые монеты, одна показывает «орел» с вероятностью 2/3, а другая - «орел» с вероятностью 9/10. Подбросьте справедливую монету один раз, чтобы решить, какую монету с предвзятостью использовать для всех записываемых подбрасываний. Здесь "орел" на флипе i означает Xя=1.

Утвержденная здесь независимость условный независимость, т.е. случайные величины Бернулли в последовательности условно независимы при условии, что п = 2/3, и условно независимы при условии, что п = 9/10. Но они не безоговорочно независимы; они положительно коррелированный.

С учетом сильный закон больших чисел можно сказать, что

Вместо того, чтобы концентрировать вероятность 1/2 в каждой из двух точек между 0 и 1, "распределение смешивания" может быть любым. распределение вероятностей поддерживается на интервале от 0 до 1; какая именно, зависит от совместного распределения бесконечной последовательности случайных величин Бернулли.

Определение возможности обмена и формулировка теоремы также имеют смысл для последовательностей конечной длины.

но в этом случае теорема в общем неверна. Верно, если последовательность может быть расширена до бесконечно длинной заменяемой последовательности. Простейшим примером заменяемой последовательности случайных величин Бернулли, которая не может быть расширена таким образом, является тот, в котором Икс1 = 1 − Икс2 и Икс1 равно 0 или 1, каждое с вероятностью 1/2. Эта последовательность является заменяемой, но не может быть расширена до заменяемой последовательности длины 3, не говоря уже о бесконечно длинной.

Расширения

Версии теоремы де Финетти для конечный сменные последовательности,[2][3] и для Марковский сменный последовательности[4] были доказаны Дьяконисом и Фридманом, а также Кернсом и Секели. Два понятия частичной заменяемости массивов, известные как отдельный и совместная возможность обмена приводят к расширению теоремы де Финетти для массивов Олдосом и Гувером.[5]

Вычислимая теорема де Финетти показывает, что если заменяемая последовательность реальных случайных величин задается компьютерной программой, то программа, которая выбирает из меры смешивания, может быть автоматически восстановлена.[6]

В обстановке свободная вероятность, существует некоммутативное расширение теоремы де Финетти, которое характеризует некоммутативные последовательности, инвариантные относительно квантовых перестановок.[7]

Распространение теоремы де Финетти на квантовые состояния оказалось полезным в квантовая информация,[8][9][10] в таких темах, как квантовое распределение ключей[11] и запутанность обнаружение.[12]

Смотрите также

Рекомендации

  1. ^ См. Записи лекций Штеффена Лауритцена в Оксфорде. http://www.stats.ox.ac.uk/~steffen/teaching/grad/definetti.pdf
  2. ^ Диаконис, П.; Фридман, Д. (1980). «Конечные заменяемые последовательности». Анналы вероятности. 8 (4): 745–764. Дои:10.1214 / aop / 1176994663. МИСТЕР  0577313. Zbl  0434.60034.
  3. ^ Секели, Г. Дж.; Кернс, Дж. Г. (2006). «Теорема Де Финетти для абстрактных конечных заменяемых последовательностей». Журнал теоретической вероятности. 19 (3): 589–608. Дои:10.1007 / s10959-006-0028-z.
  4. ^ Диаконис, П.; Фридман, Д. (1980). «Теорема Де Финетти для цепей Маркова». Анналы вероятности. 8 (1): 115–130. Дои:10.1214 / aop / 1176994828. МИСТЕР  0556418. Zbl  0426.60064.
  5. ^ Перси Диаконис и Сванте Янсон (2008) «Границы графов и заменяемые случайные графы»,Rendiconti di Matematica, Сер. VII 28 (1), 33–61.
  6. ^ Кэмерон Фрир и Дэниел Рой (2009) «Вычислимые заменяемые последовательности имеют вычислимые меры де Финетти», Труды 5-й конференции по вычислимости в Европе: математическая теория и вычислительная практика, Конспект лекций по информатике, Vol. 5635. С. 218–231.
  7. ^ Кестлер, Клаус; Speicher, Роланд (2009). «Некоммутативная теорема де Финетти: инвариантность относительно квантовых перестановок эквивалентна свободе с объединением». Commun. Математика. Phys. 291 (2): 473–490. arXiv:0807.0677. Bibcode:2009CMaPh.291..473K. Дои:10.1007 / s00220-009-0802-8.
  8. ^ Пещеры, Карлтон М .; Fuchs, Christopher A .; Шак, Рюдигер (20 августа 2002). «Неизвестные квантовые состояния: квантовое представление де Финетти». Журнал математической физики. 43 (9): 4537–4559. arXiv:Quant-ph / 0104088. Bibcode:2002JMP .... 43.4537C. Дои:10.1063/1.1494475. ISSN  0022-2488.
  9. ^ Дж. Баэз (2007). «Результаты этой недели по математической физике (неделя 251)». Получено 29 апреля 2012.
  10. ^ Брандао, Фернандо Г.С.Л .; Харроу, Арам В. (01.01.2013). «Квантовые теоремы Де Финетти при локальных измерениях с приложениями». Материалы сорок пятого ежегодного симпозиума ACM по теории вычислений. СТОК '13. Нью-Йорк, Нью-Йорк, США: ACM: 861–870. arXiv:1210.6367. Дои:10.1145/2488608.2488718. ISBN  9781450320290.
  11. ^ Реннер, Ренато (30 декабря 2005 г.). «Безопасность квантового распределения ключей». arXiv:Quant-ph / 0512258.
  12. ^ Доэрти, Эндрю С .; Parrilo, Pablo A .; Спедальери, Федерико М. (01.01.2005). «Обнаружение многочастной запутанности». Физический обзор A. 71 (3): 032333. arXiv:Quant-ph / 0407143. Bibcode:2005PhRvA..71c2333D. Дои:10.1103 / PhysRevA.71.032333.

внешняя ссылка