Граница Крамера – Рао - Википедия - Cramér–Rao bound

В теория оценки и статистика, то Граница Крамера – Рао (CRB) выражает нижнюю границу отклонение непредвзятого оценщики детерминированного (фиксированного, хотя и неизвестного) параметра, утверждающего, что дисперсия любой такой оценки не меньше, чем величина, обратная Информация Fisher. Результат назван в честь Харальд Крамер и К. Р. Рао,^[1]^[2]^[3] но независимо также был получен Морис Фреше,^[4] Жорж Дармуа,^[5] а также Александр Айткен и Гарольд Сильверстоун.^[6]^[7]

Несмещенная оценка, которая достигает этой нижней границы, называется (полностью) эффективный. Такое решение обеспечивает минимально возможное среднеквадратичная ошибка среди всех беспристрастных методов, и поэтому минимальная дисперсия объективная (MVU) оценщик. Однако в некоторых случаях не существует беспристрастной техники, позволяющей достичь предела. Это может произойти либо в том случае, если для любой несмещенной оценки существует другая со строго меньшей дисперсией, либо если существует оценка MVU, но ее дисперсия строго больше, чем инверсия информации Фишера.

Граница Крамера – Рао также может быть использована для оценки дисперсии пристрастный оценщики данной предвзятости. В некоторых случаях необъективный подход может привести как к отклонению, так и к среднеквадратичная ошибка которые ниже несмещенная нижняя граница Крамера – Рао; видеть систематическая ошибка оценки.

Заявление

Граница Крамера – Рао формулируется в этом разделе для нескольких все более общих случаев, начиная со случая, когда параметр является скаляр и его оценка беспристрастный. Для всех вариантов оценки требуются определенные условия регулярности, которые выполняются для большинства распределений с хорошим поведением. Эти условия перечислены позже в этом разделе.

Скалярный несмещенный случай

Предполагать ${ displaystyle theta}$ - неизвестный детерминированный параметр, который оценивается по ${ displaystyle n}$ независимые наблюдения (измерения) ${ displaystyle x}$ , каждый распределен согласно некоторым функция плотности вероятности ${ Displaystyle е (х; тета)}$ . В отклонение любой беспристрастный оценщик ${ displaystyle { hat { theta}}}$ из ${ displaystyle theta}$ тогда ограничено взаимный из Информация Fisher ${ Displaystyle I ( theta)}$ :

{ displaystyle operatorname {var} ({ hat { theta}}) geq { frac {1} {I ( theta)}}}

где информация Фишера ${ Displaystyle I ( theta)}$ определяется

{ Displaystyle I ( theta) = п OperatorName {E} left [ left ({ frac { partial ell (x; theta)} { partial theta}} right) ^ {2} верно]}

и ${ Displaystyle ell (х; тета) = журнал (е (х; тета))}$ это натуральный логарифм из функция правдоподобия за единичный образец ${ displaystyle x}$ и ${ displaystyle operatorname {E}}$ обозначает ожидаемое значение (над ${ displaystyle x}$ ). Если ${ Displaystyle ell (х; тета)}$ дважды дифференцируема и выполняются определенные условия регулярности, то информацию Фишера также можно определить следующим образом:^[8]

{ Displaystyle I ( theta) = - п OperatorName {E} left [{ frac { partial ^ {2} ell (x; theta)} { partial theta ^ {2}}} верно]}

В эффективность объективной оценки ${ displaystyle { hat { theta}}}$ измеряет, насколько близко дисперсия этой оценки подходит к этой нижней границе; эффективность оценщика определяется как

{ displaystyle e ({ hat { theta}}) = { frac {I ( theta) ^ {- 1}} { operatorname {var} ({ hat { theta}})}}}

или минимально возможная дисперсия для несмещенной оценки, деленная на ее фактическую дисперсию. Таким образом, нижняя граница Крамера – Рао дает

{ Displaystyle е ({ шляпа { theta}}) leq 1.}

Общий скалярный случай

Более общий вид оценки может быть получен путем рассмотрения смещенной оценки ${ Displaystyle T (X)}$ , ожидание которого не ${ displaystyle theta}$ но функция этого параметра, скажем, ${ displaystyle psi ( theta)}$ . Следовательно ${ Displaystyle E {T (X) } - theta = psi ( theta) - theta}$ обычно не равно 0. В этом случае оценка дается выражением

{ displaystyle operatorname {var} (T) geq { frac {[ psi '( theta)] ^ {2}} {I ( theta)}}}

куда ${ displaystyle psi '( theta)}$ является производной от ${ displaystyle psi ( theta)}$ (к ${ displaystyle theta}$ ), и ${ Displaystyle I ( theta)}$ - это информация Fisher, определенная выше.

Связано с дисперсией смещенных оценок

Помимо ограничения оценок функций параметра, этот подход может использоваться для получения границы дисперсии смещенных оценок с заданным смещением следующим образом. Рассмотрим оценщик ${ displaystyle { hat { theta}}}$ с предвзятостью ${ Displaystyle б ( theta) = E {{ hat { theta}} } - theta}$ , и разреши ${ Displaystyle пси ( тета) = б ( тета) + тета}$ . Согласно приведенному выше результату, любая несмещенная оценка, математическое ожидание которой ${ displaystyle psi ( theta)}$ имеет дисперсию больше или равную ${ Displaystyle ( psi '( theta)) ^ {2} / я ( theta)}$ . Таким образом, любая оценка ${ displaystyle { hat { theta}}}$ смещение которого задается функцией ${ Displaystyle б ( тета)}$ удовлетворяет

{ displaystyle operatorname {var} left ({ hat { theta}} right) geq { frac {[1 + b '( theta)] ^ {2}} {I ( theta)} }.}

Несмещенная версия оценки является частным случаем этого результата с ${ Displaystyle б ( тета) = 0}$ .

Иметь небольшую дисперсию тривиально - постоянная «оценка» имеет нулевую дисперсию. Но из приведенного выше уравнения мы находим, что среднеквадратичная ошибка смещенной оценки ограничено

{ Displaystyle OperatorName {E} left (({ hat { theta}} - theta) ^ {2} right) geq { frac {[1 + b '( theta)] ^ {2 }} {I ( theta)}} + b ( theta) ^ {2},}

используя стандартную декомпозицию MSE. Однако обратите внимание, что если ${ displaystyle 1 + b '( theta) <1}$ эта оценка может быть меньше несмещенной границы Крамера – Рао ${ Displaystyle 1 / я ( тета)}$ . Например, в пример оценки дисперсии ниже, ${ displaystyle 1 + b '( theta) = { frac {n} {n + 2}} <1}$ .

Многомерный случай

Расширение границы Крамера – Рао до нескольких параметров, определение столбца параметров вектор

{ displaystyle { boldsymbol { theta}} = left [ theta _ {1}, theta _ {2}, dots, theta _ {d} right] ^ {T} in mathbb { R} ^ {d}}

с функцией плотности вероятности ${ Displaystyle е (х; { boldsymbol { theta}})}$ который удовлетворяет двум условия регулярности ниже.

В Информационная матрица Fisher это ${ displaystyle d times d}$ матрица с элементом ${ displaystyle I_ {m, k}}$ определяется как

{ displaystyle I_ {m, k} = operatorname {E} left [{ frac { partial} { partial theta _ {m}}} log f left (x; { boldsymbol { theta }} right) { frac { partial} { partial theta _ {k}}} log f left (x; { boldsymbol { theta}} right) right] = - operatorname { E} left [{ frac { partial ^ {2}} { partial theta _ {m} , partial theta _ {k}}} log f left (x; { boldsymbol { theta}} right) right].}

Позволять ${ displaystyle { boldsymbol {T}} (X)}$ быть оценщиком любой вектор-функции параметров, ${ Displaystyle { boldsymbol {T}} (X) = (T_ {1} (X), ldots, T_ {d} (X)) ^ {T}}$ , и обозначим его вектор ожидания ${ displaystyle operatorname {E} [{ boldsymbol {T}} (X)]}$ к ${ displaystyle { boldsymbol { psi}} ({ boldsymbol { theta}})}$ . Тогда граница Крамера – Рао утверждает, что ковариационная матрица из ${ displaystyle { boldsymbol {T}} (X)}$ удовлетворяет

{ displaystyle operatorname {cov} _ { boldsymbol { theta}} left ({ boldsymbol {T}} (X) right) geq { frac { partial { boldsymbol { psi}} left ({ boldsymbol { theta}} right)} { partial { boldsymbol { theta}}}} [I left ({ boldsymbol { theta}} right)] ^ {- 1} left ({ frac { partial { boldsymbol { psi}} left ({ boldsymbol { theta}} right)} { partial { boldsymbol { theta}}}} right) ^ {T }}

куда

Матричное неравенство ${ displaystyle A geq B}$ означает, что матрица ${ displaystyle A-B}$ является положительно полуопределенный, и
${ displaystyle partial { boldsymbol { psi}} ({ boldsymbol { theta}}) / partial { boldsymbol { theta}}}$ это Матрица якобиана чей ${ displaystyle ij}$ элемент дается ${ Displaystyle partial psi _ {я} ({ boldsymbol { theta}}) / partial theta _ {j}}$ .

Если ${ displaystyle { boldsymbol {T}} (X)}$ является беспристрастный оценщик ${ displaystyle { boldsymbol { theta}}}$ (т.е. ${ displaystyle { boldsymbol { psi}} left ({ boldsymbol { theta}} right) = { boldsymbol { theta}}}$ ), то оценка Крамера – Рао сводится к

{ displaystyle operatorname {cov} _ { boldsymbol { theta}} left ({ boldsymbol {T}} (X) right) geq I left ({ boldsymbol { theta}} right) ^ {- 1}.}

Если неудобно вычислять обратную величину Информационная матрица Fisher, то можно просто взять величину, обратную соответствующему диагональному элементу, чтобы найти (возможно, свободную) нижнюю границу.^[9]

{ displaystyle operatorname {var} _ { boldsymbol { theta}} (T_ {m} (X)) = left [ operatorname {cov} _ { boldsymbol { theta}} left ({ boldsymbol {T}} (X) right) right] _ {mm} geq left [I left ({ boldsymbol { theta}} right) ^ {- 1} right] _ {mm} geq left ( left [I left ({ boldsymbol { theta}} right) right] _ {mm} right) ^ {- 1}.}

Условия регулярности

Оценка основана на двух слабых условиях регулярности функция плотности вероятности, ${ Displaystyle е (х; тета)}$ , а оценщик ${ Displaystyle T (X)}$ :

Информация Фишера всегда определена; эквивалентно, для всех ${ displaystyle x}$ такой, что ${ Displaystyle е (х; тета)> 0}$ ,

{ Displaystyle { гидроразрыва { partial} { partial theta}} log f (x; theta)}

существует и конечно.

Операции интегрирования относительно ${ displaystyle x}$ и дифференцирование по ${ displaystyle theta}$ можно поменять местами в ожидании ${ displaystyle T}$ ; то есть,

{ displaystyle { frac { partial} { partial theta}} left [ int T (x) f (x; theta) , dx right] = int T (x) left [{ frac { partial} { partial theta}} f (x; theta) right] , dx}

всякий раз, когда правая часть конечна.

Это условие часто можно подтвердить, используя тот факт, что интегрирование и дифференцирование можно поменять местами, когда выполняется один из следующих случаев:

Функция ${ Displaystyle е (х; тета)}$ имеет ограниченную поддержку в ${ displaystyle x}$ , причем оценки не зависят от ${ displaystyle theta}$ ;
Функция ${ Displaystyle е (х; тета)}$ имеет бесконечную поддержку, является непрерывно дифференцируемый, причем интеграл сходится равномерно при всех ${ displaystyle theta}$ .

Упрощенная форма информации Фишера

Предположим, кроме того, что операции интегрирования и дифференцирования можно поменять местами на вторую производную от ${ Displaystyle е (х; тета)}$ также, т.е.

{ Displaystyle { гидроразрыва { partial ^ {2}} { partial theta ^ {2}}} left [ int T (x) f (x; theta) , dx right] = int T (x) left [{ frac { partial ^ {2}} { partial theta ^ {2}}} f (x; theta) right] , dx.}

В этом случае можно показать, что информация Фишера равна

{ displaystyle I ( theta) = - operatorname {E} left [{ frac { partial ^ {2}} { partial theta ^ {2}}} log f (X; theta) верно].}

Граница Крамера – Рао может быть записана в виде

{ displaystyle operatorname {var} left ({ widehat { theta}} right) geq { frac {1} {I ( theta)}} = { frac {1} {- operatorname { E} left [{ frac { partial ^ {2}} { partial theta ^ {2}}} log f (X; theta) right]}}.}

В некоторых случаях эта формула дает более удобный способ оценки оценки.

Однопараметрическое доказательство

Ниже приводится доказательство общего скалярного случая границы Крамера – Рао, описанного. над. Предположить, что ${ Displaystyle Т = т (Х)}$ оценка с ожиданием ${ displaystyle psi ( theta)}$ (по наблюдениям ${ displaystyle X}$ ), т.е. что ${ Displaystyle OperatorName {E} (T) = psi ( theta)}$ . Цель - доказать, что для всех ${ displaystyle theta}$ ,

{ displaystyle operatorname {var} (t (X)) geq { frac {[ psi ^ { prime} ( theta)] ^ {2}} {I ( theta)}}.}

Позволять ${ displaystyle X}$ быть случайная переменная с функцией плотности вероятности ${ Displaystyle е (х; тета)}$ .Здесь ${ Displaystyle Т = т (Х)}$ это статистика, который используется как оценщик за ${ displaystyle psi ( theta)}$ . Определять ${ displaystyle V}$ как счет:

{ displaystyle V = { frac { partial} { partial theta}} ln f (X; theta) = { frac {1} {f (X; theta)}} { frac { частичное} { partial theta}} f (X; theta)}

где Правило цепи используется в последнем равенстве выше. Тогда ожидание из ${ displaystyle V}$ , написано ${ displaystyle operatorname {E} (V)}$ , равно нулю. Это потому что:

{ displaystyle operatorname {E} (V) = int f (x; theta) left [{ frac {1} {f (x; theta)}} { frac { partial} { partial theta}} f (x; theta) right] , dx = { frac { partial} { partial theta}} int f (x; theta) , dx = 0}

где интегральная и частная производная поменяли местами (оправдано вторым условием регулярности).

Если мы рассмотрим ковариация ${ displaystyle operatorname {cov} (V, T)}$ из ${ displaystyle V}$ и ${ displaystyle T}$ , у нас есть ${ Displaystyle OperatorName {cov} (V, T) = OperatorName {E} (VT)}$ , потому что ${ displaystyle operatorname {E} (V) = 0}$ . Расширяя это выражение, мы имеем

{ displaystyle { begin {align} operatorname {cov} (V, T) & = operatorname {E} left (T cdot left [{ frac {1} {f (X; theta)} } { frac { partial} { partial theta}} f (X; theta) right] right) [6pt] & = int t (x) left [{ frac {1} {f (x; theta)}} { frac { partial} { partial theta}} f (x; theta) right] f (x; theta) , dx [6pt] & = { frac { partial} { partial theta}} left [ int t (x) f (x; theta) , dx right] = psi ^ { prime} ( theta) конец {выровнен}}}

опять же, потому что операции интегрирования и дифференцирования коммутируют (второе условие).

В Неравенство Коши – Шварца показывает, что

{ displaystyle { sqrt { operatorname {var} (T) operatorname {var} (V)}} geq left | operatorname {cov} (V, T) right | = left | psi ^ { prime} ( theta) right |}

следовательно

{ displaystyle operatorname {var} (T) geq { frac {[ psi ^ { prime} ( theta)] ^ {2}} { operatorname {var} (V)}} = { frac {[ psi ^ { prime} ( theta)] ^ {2}} {I ( theta)}}}

что доказывает предложение.

Примеры

Многомерное нормальное распределение

В случае d-вариантное нормальное распределение

{ displaystyle { boldsymbol {x}} sim N_ {d} left ({ boldsymbol { mu}} ({ boldsymbol { theta}}), { boldsymbol {C}} ({ boldsymbol { theta}}) right)}

то Информационная матрица Fisher имеет элементы^[10]

{ displaystyle I_ {m, k} = { frac { partial { boldsymbol { mu}} ^ {T}} { partial theta _ {m}}} { boldsymbol {C}} ^ {- 1} { frac { partial { boldsymbol { mu}}} { partial theta _ {k}}} + { frac {1} {2}} operatorname {tr} left ({ boldsymbol {C}} ^ {- 1} { frac { partial { boldsymbol {C}}} { partial theta _ {m}}} { boldsymbol {C}} ^ {- 1} { frac { partial { boldsymbol {C}}} { partial theta _ {k}}} right)}

где "tr" - это след.

Например, пусть ${ Displaystyle ш [п]}$ быть образцом ${ displaystyle N}$ независимые наблюдения с неизвестным средним ${ displaystyle theta}$ и известная дисперсия ${ displaystyle sigma ^ {2}}$ .

{ displaystyle w [n] sim mathbb {N} _ {N} left ( theta { boldsymbol {1}}, sigma ^ {2} { boldsymbol {I}} right).}

Тогда информация Фишера представляет собой скаляр, задаваемый формулой

{ displaystyle I ( theta) = left ({ frac { partial { boldsymbol { mu}} ( theta)} { partial theta}} right) ^ {T} { boldsymbol {C }} ^ {- 1} left ({ frac { partial { boldsymbol { mu}} ( theta)} { partial theta}} right) = sum _ {i = 1} ^ { N} { frac {1} { sigma ^ {2}}} = { frac {N} { sigma ^ {2}}},}

и поэтому оценка Крамера – Рао равна

{ displaystyle operatorname {var} left ({ hat { theta}} right) geq { frac { sigma ^ {2}} {N}}.}

Нормальное отклонение от известного среднего

Предполагать Икс это нормально распределенный случайная величина с известным средним значением ${ displaystyle mu}$ и неизвестная дисперсия ${ displaystyle sigma ^ {2}}$ . Рассмотрим следующую статистику:

{ displaystyle T = { frac { sum _ {i = 1} ^ {n} (X_ {i} - mu) ^ {2}} {n}}.}

потом Т беспристрастен к ${ displaystyle sigma ^ {2}}$ , так как ${ Displaystyle E (T) = sigma ^ {2}}$ . Какая дисперсия Т?

{ displaystyle operatorname {var} (T) = { frac { operatorname {var} (X- mu) ^ {2}} {n}} = { frac {1} {n}} left [ operatorname {E} left {(X- mu) ^ {4} right } - left ( operatorname {E} {(X- mu) ^ {2} } right) ^ {2} right]}

(второе равенство следует непосредственно из определения дисперсии). Первый член - четвертый момент о среднем и имеет ценность ${ Displaystyle 3 ( sigma ^ {2}) ^ {2}}$ ; второй - квадрат дисперсии, или ${ Displaystyle ( sigma ^ {2}) ^ {2}}$ .Таким образом

{ displaystyle operatorname {var} (T) = { frac {2 ( sigma ^ {2}) ^ {2}} {n}}.}

Теперь, что такое Информация Fisher в образце? Напомним, что счет V определяется как

{ displaystyle V = { frac { partial} { partial sigma ^ {2}}} log L ( sigma ^ {2}, X)}

куда ${ displaystyle L}$ это функция правдоподобия. Таким образом, в этом случае

{ displaystyle V = { frac { partial} { partial sigma ^ {2}}} log left [{ frac {1} { sqrt {2 pi sigma ^ {2}}}} e ^ {- (X- mu) ^ {2} / {2 sigma ^ {2}}} right] = { frac {(X- mu) ^ {2}} {2 ( sigma ^ {2}) ^ {2}}} - { frac {1} {2 sigma ^ {2}}}}

где второе равенство взято из элементарного исчисления. Таким образом, информация в одном наблюдении - это просто минус математическое ожидание производной от V, или же

{ displaystyle I = - operatorname {E} left ({ frac { partial V} { partial sigma ^ {2}}} right) = - operatorname {E} left (- { frac {(X- mu) ^ {2}} {( sigma ^ {2}) ^ {3}}} + { frac {1} {2 ( sigma ^ {2}) ^ {2}}} right) = { frac { sigma ^ {2}} {( sigma ^ {2}) ^ {3}}} - { frac {1} {2 ( sigma ^ {2}) ^ {2 }}} = { frac {1} {2 ( sigma ^ {2}) ^ {2}}}.}.

Таким образом, информация в выборке ${ displaystyle n}$ независимые наблюдения просто ${ displaystyle n}$ раз это, или ${ displaystyle { frac {n} {2 ( sigma ^ {2}) ^ {2}}}.}$

Граница Крамера – Рао утверждает, что

{ displaystyle operatorname {var} (T) geq { frac {1} {I}}.}

В этом случае неравенство насыщается (равенство достигается), показывая, что оценщик является эффективный.

Однако мы можем добиться более низкого среднеквадратичная ошибка используя предвзятую оценку. Оценщик

{ displaystyle T = { frac { sum _ {i = 1} ^ {n} (X_ {i} - mu) ^ {2}} {n + 2}}.}

очевидно, имеет меньшую дисперсию, которая на самом деле

{ displaystyle operatorname {var} (T) = { frac {2n ( sigma ^ {2}) ^ {2}} {(n + 2) ^ {2}}}.}

Его предвзятость

{ displaystyle left (1 - { frac {n} {n + 2}} right) sigma ^ {2} = { frac {2 sigma ^ {2}} {n + 2}}}

поэтому его среднеквадратичная ошибка

{ displaystyle operatorname {MSE} (T) = left ({ frac {2n} {(n + 2) ^ {2}}} + { frac {4} {(n + 2) ^ {2} }} right) ( sigma ^ {2}) ^ {2} = { frac {2 ( sigma ^ {2}) ^ {2}} {n + 2}}}

что явно меньше найденной выше границы Крамера – Рао.

Когда среднее значение неизвестно, оценка минимальной среднеквадратичной ошибки дисперсии выборки от гауссовского распределения достигается путем деления на п +1, а не п - 1 или п + 2.

Смотрите также

Ссылки и примечания

^ Крамер, Харальд (1946). Математические методы статистики. Принстон, Нью-Джерси: Princeton Univ. Нажмите. ISBN 0-691-08004-6. OCLC 185436716.
^ Рао, Калямпуди Радакришна (1945). «Информация и достижимая точность при оценке статистических параметров». Бюллетень Калькуттское математическое общество. 37: 81–89. МИСТЕР 0015748.
^ Рао, Калямпуди Радакришна (1994). С. Дас Гупта (ред.). Избранные статьи К. Р. Рао. Нью-Йорк: Вили. ISBN 978-0-470-22091-7. OCLC 174244259.
^ Фреше, Морис (1943). "Sur l'extension de specifices évaluations statistiques au cas de petits échantillons". Rev. Inst. Int. Статист. 11: 182–205.
^ Дармуа, Жорж (1945). "Sur les limites de la дисперсия определенных оценок". Rev. Int. Inst. Статист. 13: 9–15.
^ Aitken, A.C .; Сильверстоун, Х. (1942). «Об оценке статистических параметров». Труды Королевского общества Эдинбурга. 61 (2): 186–194. Дои:10.1017 / s008045410000618x.
^ Шентон, Л. Р. (1970). «Так называемое неравенство Крамера – Рао». Американский статистик. 24 (2): 36. JSTOR 2681931.
^ Суба Рао. «Лекции по статистическому выводу» (PDF).
^ Для байесовского случая см. Уравнение. (11) из Бобровский; Майер-Вольф; Закай (1987). «Некоторые классы глобальных границ Крамера – Рао». Анна. Стат. 15 (4): 1421–38.
^ Кей, С. М. (1993). Основы статистической обработки сигналов: теория оценивания. Прентис Холл. п. 47. ISBN 0-13-042268-1.

дальнейшее чтение

Амемия, Такеши (1985). Продвинутая эконометрика. Кембридж: Издательство Гарвардского университета. стр.14 –17. ISBN 0-674-00560-0.
Бос, Адриан ван ден (2007). Оценка параметров для ученых и инженеров. Хобокен: Джон Уайли и сыновья. С. 45–98. ISBN 0-470-14781-4.
Кей, Стивен М. (1993). Основы статистической обработки сигналов, Том I: Теория оценивания. Прентис Холл. ISBN 0-13-345711-7.. Глава 3.
Шао, Цзюнь (1998). Математическая статистика. Нью-Йорк: Спрингер. ISBN 0-387-98674-X.. Раздел 3.1.3.

внешняя ссылка

FandPLimitTool программное обеспечение на основе графического интерфейса пользователя для расчета информации Фишера и нижней границы Крамера-Рао с приложением к микроскопии одиночных молекул.

[Cramér-1] Крамер, Харальд (1946). Математические методы статистики. Принстон, Нью-Джерси: Princeton Univ. Нажмите. ISBN 0-691-08004-6. OCLC 185436716.

[Rao-2] Рао, Калямпуди Радакришна (1945). «Информация и достижимая точность при оценке статистических параметров». Бюллетень Калькуттское математическое общество. 37: 81–89. МИСТЕР 0015748.

[Rao_papers-3] Рао, Калямпуди Радакришна (1994). С. Дас Гупта (ред.). Избранные статьи К. Р. Рао. Нью-Йорк: Вили. ISBN 978-0-470-22091-7. OCLC 174244259.

[Fréchet_1943-4] Фреше, Морис (1943). "Sur l'extension de specifices évaluations statistiques au cas de petits échantillons". Rev. Inst. Int. Статист. 11: 182–205.

[Darmois_1945-5] Дармуа, Жорж (1945). "Sur les limites de la дисперсия определенных оценок". Rev. Int. Inst. Статист. 13: 9–15.

[6] Aitken, A.C .; Сильверстоун, Х. (1942). «Об оценке статистических параметров». Труды Королевского общества Эдинбурга. 61 (2): 186–194. Дои:10.1017 / s008045410000618x.

[7] Шентон, Л. Р. (1970). «Так называемое неравенство Крамера – Рао». Американский статистик. 24 (2): 36. JSTOR 2681931.

[SubaRao-8] Суба Рао. «Лекции по статистическому выводу» (PDF).

[9] Для байесовского случая см. Уравнение. (11) из Бобровский; Майер-Вольф; Закай (1987). «Некоторые классы глобальных границ Крамера – Рао». Анна. Стат. 15 (4): 1421–38.

[10] Кей, С. М. (1993). Основы статистической обработки сигналов: теория оценивания. Прентис Холл. п. 47. ISBN 0-13-042268-1.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]