Односторонний дисперсионный анализ - One-way analysis of variance

В статистика, в одну сторону дисперсионный анализ (сокращенно односторонний ANOVA) - это метод, который можно использовать для сравнения средних значений двух или более образцов (с использованием F распределение ). Этот метод может использоваться только для числовых данных ответа, «Y», обычно одной переменной, и числовых или (обычно) категориальных входных данных, «X», всегда одной переменной, следовательно, «односторонний».^[1]

ANOVA проверяет нулевая гипотеза, в котором говорится, что образцы во всех группах взяты из популяций с одинаковыми средними значениями. Для этого делаются две оценки дисперсии населения. Эти оценки основаны на различных предположениях (Смотри ниже ). ANOVA дает F-статистику - отношение дисперсии, вычисленной среди средних значений, к дисперсии в выборках. Если средние значения группы взяты из совокупностей с одинаковыми средними значениями, дисперсия между средними значениями группы должна быть ниже, чем дисперсия выборок, после Центральная предельная теорема. Следовательно, более высокое соотношение означает, что образцы были взяты из популяций с разными средними значениями.^[1]

Однако обычно односторонний дисперсионный анализ используется для проверки различий между как минимум тремя группами, поскольку случай с двумя группами может быть покрыт t-тест (Госсет, 1908). Когда есть только два средства для сравнения, t-тест и F-тест эквивалентны; связь между ANOVA и т дан кем-то F = т². Расширение одностороннего дисперсионного анализа двусторонний дисперсионный анализ который исследует влияние двух различных категориальных независимых переменных на одну зависимую переменную.

Предположения

Результаты одностороннего дисперсионного анализа можно считать надежными, если выполняются следующие допущения:

• Переменная ответа остатки находятся нормально распределенный (или приблизительно нормально распределены).
• Вариации популяций равны.
• Ответы для данной группы независимые и одинаково распределенные нормальные случайные величины (не простая случайная выборка (SRS)).

Если данные порядковый, следует использовать непараметрическую альтернативу этому тесту, например Односторонний дисперсионный анализ Краскала – Уоллиса. Если известно, что дисперсии не равны, обобщение двухвыборочного T-критерий Велча может быть использован.^[2]

Отклонения от нормальной популяции

ANOVA - это относительно надежная процедура в отношении нарушений предположения о нормальности.^[3]

Односторонний дисперсионный анализ можно обобщить на факторные и многомерные схемы, а также на анализ ковариации.^{[требуется разъяснение ]}

В популярной литературе часто утверждается, что ни одно из этих F-тесты крепкий когда есть серьезные нарушения предположения, что каждая популяция следует нормальное распределение, особенно для небольших альфа-уровней и несбалансированных макетов.^[4] Кроме того, также утверждается, что если исходное допущение гомоскедастичность нарушается, Ошибка типа I свойства деградируют намного сильнее.^[5]

Однако это заблуждение, основанное на работе, проделанной в 1950-х годах и ранее. Первым всесторонним исследованием этого вопроса с помощью моделирования методом Монте-Карло был Дональдсон (1966).^[6] Он показал, что при обычных отклонениях (положительный перекос, неравные отклонения) " F-тест является консервативным », и поэтому вероятность того, что переменная значима, менее вероятна, чем должна быть. Однако по мере увеличения либо размера выборки, либо количества ячеек« кривые мощности, похоже, сходятся к кривым, основанным на нормальное распределение ». Тику (1971) обнаружил, что« ненормальная сила теории F оказывается, отличается от нормальной теоретической мощности поправочным членом, который резко уменьшается с увеличением размера выборки ".^[7] Проблема ненормальности, особенно в больших выборках, гораздо менее серьезна, чем предполагают популярные статьи.

В настоящее время считается, что «исследования методом Монте-Карло широко использовались с тестами на основе нормального распределения, чтобы определить, насколько они чувствительны к нарушениям предположения о нормальном распределении анализируемых переменных в популяции. Общий вывод из этих исследований состоит в том, что последствия таких нарушений менее серьезны, чем предполагалось ранее. Хотя эти выводы не должны полностью отпугивать кого-либо от беспокойства по поводу предположения о нормальности, они повысили общую популярность статистических тестов, зависящих от распределения, во всех областях исследований ».^[8]

Для непараметрических альтернатив в факторной схеме см. Sawilowsky.^[9] Для получения дополнительной информации см. ANOVA по рангам.

Случай фиксированных эффектов, полностью рандомизированный эксперимент, несбалансированные данные

Модель

Нормальная линейная модель описывает лечебные группы с распределениями вероятностей, которые представляют собой идентичные колоколообразные (нормальные) кривые с разными средними значениями. Таким образом, для подгонки моделей требуются только средние значения для каждой группы лечения и расчет дисперсии (используется средняя дисперсия внутри групп лечения). Вычисления средних значений и дисперсии выполняются как часть проверки гипотезы.

Обычно используемые нормальные линейные модели для полностью рандомизированного эксперимента:^[10]

${displaystyle y_ {i, j} = mu _ {j} + varepsilon _ {i, j}}$ (модель средних)

или же

${displaystyle y_ {i, j} = mu + au _ {j} + varepsilon _ {i, j}}$ (модель эффектов)

куда

${displaystyle i = 1, dotsc, I}$ индекс экспериментальных единиц

${displaystyle j = 1, dotsc, J}$ индекс по группам лечения

${displaystyle I_ {j}}$ количество экспериментальных единиц в j-й группе лечения

${displaystyle I = sum _ {j} I_ {j}}$ общее количество экспериментальных единиц

${displaystyle y_ {i, j}}$ наблюдения

${displaystyle mu _ {j}}$ среднее значение наблюдений для j-й группы лечения

${displaystyle mu}$ среднее значение наблюдений

${displaystyle au _ {j}}$ это j-й лечебный эффект, отклонение от общего среднего

${displaystyle sum au _ {j} = 0}$

${displaystyle mu _ {j} = mu + au _ {j}}$

${displaystyle varepsilon hicksim N (0, сигма ^ {2})}$, ${displaystyle varepsilon _ {i, j}}$ - нормально распределенные случайные ошибки с нулевым средним.

Индекс ${displaystyle i}$ над экспериментальными установками можно интерпретировать по-разному. В некоторых экспериментах одна и та же экспериментальная установка подвергается различным воздействиям; ${displaystyle i}$ может указывать на конкретную единицу. В других случаях каждая группа лечения имеет отдельный набор экспериментальных единиц; ${displaystyle i}$ может быть просто указателем в ${displaystyle j}$-й список.

Данные и статистические сводки данных

Одна форма организации экспериментальных наблюдений ${displaystyle y_ {ij}}$ с группами в столбцах:

Организация данных ANOVA, Несбалансированный, Однофакторный

	Списки групповых наблюдений
	${displaystyle I_ {1}}$	${displaystyle I_ {2}}$	${displaystyle I_ {3}}$	${displaystyle dotso}$	${displaystyle I_ {j}}$
1	${displaystyle y_ {11}}$	${displaystyle y_ {12}}$	${displaystyle y_ {13}}$		${displaystyle y_ {1j}}$
2	${displaystyle y_ {21}}$	${displaystyle y_ {22}}$	${displaystyle y_ {23}}$		${displaystyle y_ {2j}}$
3	${displaystyle y_ {31}}$	${displaystyle y_ {32}}$	${displaystyle y_ {33}}$		${displaystyle y_ {3j}}$
${displaystyle vdots}$					${displaystyle vdots}$
${displaystyle i}$	${displaystyle y_ {i1}}$	${displaystyle y_ {i2}}$	${displaystyle y_ {i3}}$	${displaystyle dotso}$	${displaystyle y_ {ij}}$
	Сводная статистика группы						Общая сводная статистика
# Наблюдаемый	${displaystyle I_ {1}}$	${displaystyle I_ {2}}$	${displaystyle dotso}$	${displaystyle I_ {j}}$	${displaystyle dotso}$	${displaystyle I_ {J}}$	# Наблюдаемый	${displaystyle I = sum I_ {j}}$
Сумма				${displaystyle sum _ {i} y_ {ij}}$			Сумма	${displaystyle sum _ {j} sum _ {i} y_ {ij}}$
Сумма кв.				${displaystyle sum _ {i} (y_ {ij}) ^ {2}}$			Сумма кв.	${displaystyle sum _ {j} sum _ {i} (y_ {ij}) ^ {2}}$
Иметь в виду	${displaystyle m_ {1}}$	${displaystyle dotso}$		${displaystyle m_ {j}}$	${displaystyle dotso}$	${displaystyle m_ {J}}$	Иметь в виду	${displaystyle m}$
Дисперсия	${displaystyle s_ {1} ^ {2}}$	${displaystyle dotso}$		${displaystyle s_ {j} ^ {2}}$	${displaystyle dotso}$	${displaystyle s_ {J} ^ {2}}$	Дисперсия	${displaystyle s ^ {2}}$

Сравнение модели с аннотациями: ${displaystyle mu = m}$ и ${displaystyle mu _ {j} = m_ {j}}$. Общее среднее и большое отклонение вычисляются из общих сумм, а не из групповых средних и дисперсий.

Проверка гипотез

С учетом сводной статистики расчеты проверки гипотез представлены в табличной форме. Хотя для пояснительного значения показаны два столбца SS, для отображения результатов требуется только один столбец.

Таблица ANOVA для фиксированной модели, однофакторный, полностью рандомизированный эксперимент

Источник вариации	Суммы квадратов	Суммы квадратов	Степени свободы	Средний квадрат	F
	Пояснительная СС[11]	Вычислительная СС[12]	DF	РС
Лечение	${displaystyle sum _ {Treatments} I_ {j} (m_ {j} -m) ^ {2}}$	${displaystyle sum _ {j} {frac {(sum _ {i} y_ {ij}) ^ {2}} {I_ {j}}} - {frac {(sum _ {j} sum _ {i} y_ { ij}) ^ {2}} {I}}}$	${displaystyle J-1}$	${displaystyle {frac {SS_ {Treatment}} {DF_ {Treatment}}}}$	${displaystyle {frac {MS_ {Treatment}} {MS_ {Error}}}}$
Ошибка	${displaystyle sum _ {Treatments} (I_ {j} -1) s_ {j} ^ {2}}$	${displaystyle sum _ {j} sum _ {i} y_ {ij} ^ {2} -sum _ {j} {frac {(sum _ {i} y_ {ij}) ^ {2}} {I_ {j} }}}$	${displaystyle I-J}$	${displaystyle {frac {SS_ {Error}} {DF_ {Error}}}}$
Общий	${displaystyle sum _ {Observations} (y_ {ij} -m) ^ {2}}$	${displaystyle sum _ {j} sum _ {i} y_ {ij} ^ {2} - {frac {(sum _ {j} sum _ {i} y_ {ij}) ^ {2}} {I}}}$	${displaystyle I-1}$

${displaystyle MS_ {Error}}$ - оценка дисперсии, соответствующая ${displaystyle sigma ^ {2}}$ модели.

Резюме анализа

Основной анализ ANOVA состоит из серии вычислений. Данные собраны в табличной форме. потом

• Каждая группа лечения суммирована по количеству экспериментальных единиц, двум суммам, среднему значению и дисперсии. Сводные данные по группам лечения объединяются для получения итоговых значений количества единиц и сумм. Основное среднее и большое отклонение вычисляются из общих сумм. В модели использовано лечение и большие средства.
• Три DF и SS рассчитываются на основе сводных данных. Затем рассчитываются MS, и отношение определяет F.
• Компьютер обычно определяет p-значение из F, которое определяет, дают ли процедуры существенно разные результаты. Если результат значительный, то модель временно действительна.

Если эксперимент сбалансирован, все ${displaystyle I_ {j}}$ члены равны, поэтому уравнения SS упрощаются.

В более сложном эксперименте, где экспериментальные единицы (или эффекты окружающей среды) неоднородны, в анализе также используется статистика строк. Модель включает условия, зависящие от ${displaystyle i}$. Определение дополнительных членов сокращает количество доступных степеней свободы.

Пример

Рассмотрим эксперимент по изучению влияния трех разных уровней фактора на реакцию (например, трех уровней удобрения на рост растений). Если бы у нас было 6 наблюдений для каждого уровня, мы могли бы записать результат эксперимента в такую ​​таблицу, где а₁, а₂, и а₃ - это три уровня изучаемого фактора.

а1	а2	а3
6	8	13
8	12	9
4	9	11
5	11	8
3	6	7
4	8	12

Нулевая гипотеза, обозначенная H₀, для общего F-Тестом для этого эксперимента будет то, что все три уровня фактора в среднем дают одинаковый ответ. Для расчета F-соотношение:

Шаг 1: Рассчитайте среднее значение в каждой группе:

${displaystyle {egin {align} {overline {Y}} _ {1} & = {frac {1} {6}} sum Y_ {1i} = {frac {6 + 8 + 4 + 5 + 3 + 4} { 6}} = 5 {overline {Y}} _ {2} & = {frac {1} {6}} sum Y_ {2i} = {frac {8 + 12 + 9 + 11 + 6 + 8} {6 }} = 9 {overline {Y}} _ {3} & = {frac {1} {6}} sum Y_ {3i} = {frac {13 + 9 + 11 + 8 + 7 + 12} {6} } = 10end {выровнено}}}$

Шаг 2: Рассчитайте общее среднее значение:

${displaystyle {overline {Y}} = {frac {sum _ {i} {overline {Y}} _ {i}} {a}} = {frac {{overline {Y}} _ {1} + {overline { Y}} _ {2} + {overline {Y}} _ {3}} {a}} = {frac {5 + 9 + 10} {3}} = 8}$

куда а количество групп.

Шаг 3: Вычислите «межгрупповую» сумму квадратов разностей:

${displaystyle {egin {align} S_ {B} & = n ({overline {Y}} _ {1} - {overline {Y}}) ^ {2} + n ({overline {Y}} _ {2} - {overline {Y}}) ^ {2} + n ({overline {Y}} _ {3} - {overline {Y}}) ^ {2} [8pt] & = 6 (5-8) ^ {2} +6 (9-8) ^ {2} +6 (10-8) ^ {2} = 84end {выровнено}}}$

куда п - количество значений данных в группе.

Межгрупповые степени свободы на единицу меньше количества групп.

${displaystyle f_ {b} = 3-1 = 2}$

поэтому межгрупповое среднеквадратическое значение

${displaystyle MS_ {B} = 84/2 = 42}$

Шаг 4: Вычислите сумму квадратов "внутри группы". Начните с центрирования данных в каждой группе

а1	а2	а3
6−5=1	8−9=−1	13−10=3
8−5=3	12−9=3	9−10=−1
4−5=−1	9−9=0	11−10=1
5−5=0	11−9=2	8−10=−2
3−5=−2	6−9=−3	7−10=−3
4−5=−1	8−9=−1	12−10=2

Сумма квадратов внутри группы - это сумма квадратов всех 18 значений в этой таблице.

${displaystyle {egin {выровнено} S_ {W} = & (1) ^ {2} + (3) ^ {2} + (- 1) ^ {2} + (0) ^ {2} + (- 2) ^ {2} + (- 1) ^ {2} + & (- 1) ^ {2} + (3) ^ {2} + (0) ^ {2} + (2) ^ {2} + ( -3) ^ {2} + (- 1) ^ {2} + & (3) ^ {2} + (- 1) ^ {2} + (1) ^ {2} + (- 2) ^ { 2} + (- 3) ^ {2} + (2) ^ {2} = & 1 + 9 + 1 + 0 + 4 + 1 + 1 + 9 + 0 + 4 + 9 + 1 + 9 + 1 + 1 + 4 + 9 + 4 = & 68 конец {выровнено}}}$

Внутригрупповые степени свободы

${displaystyle f_ {W} = a (n-1) = 3 (6-1) = 15}$

Таким образом, среднеквадратичное значение внутри группы равно

${displaystyle MS_ {W} = S_ {W} / f_ {W} = 68/15, прибл. 4,5}$

Шаг 5: В F-отношение

${displaystyle F = {frac {MS_ {B}} {MS_ {W}}} примерно 42 / 4,5 примерно 9,3}$

Критическое значение - это число, которое должна превышать статистика теста, чтобы отклонить тест. В этом случае, F_крит(2,15) = 3,68 при α = 0,05. С F= 9,3> 3,68, результаты будут существенный на уровне значимости 5%. Можно отклонить нулевую гипотезу, заключив, что есть веские доказательства того, что ожидаемые значения в трех группах различаются. В p-значение для этого теста 0,002.

После выполнения F-тест, как правило, проводится некоторый «апостериорный» анализ групповых средних. В этом случае средние значения первых двух групп отличаются на 4 единицы, средние значения первой и третьей группы отличаются на 5 единиц, а средние значения второй и третьей группы отличаются только на 1 единицу. В стандартная ошибка каждого из этих различий ${displaystyle {sqrt {4.5 / 6 + 4.5 / 6}} = 1.2}$. Таким образом, первая группа сильно отличается от других групп, так как средняя разница в несколько раз больше стандартной ошибки, поэтому мы можем быть уверены, что Средняя численность населения первой группы отличается от средних значений остальных групп. Однако нет никаких доказательств того, что вторая и третья группы имеют разные средние по численности населения друг от друга, поскольку их среднее различие в одну единицу сопоставимо со стандартной ошибкой.

Примечание F(Икс, у) обозначает F-распределение кумулятивная функция распределения с Икс степеней свободы в числителе и у степени свободы в знаменателе.

Смотрите также

• Дисперсионный анализ
• F тест (Включает пример одностороннего дисперсионного анализа)
• Смешанная модель
• Многомерный дисперсионный анализ (MANOVA)
• Повторные измерения ANOVA
• Двусторонний дисперсионный анализ
• T-критерий Велча

Примечания

дальнейшее чтение

• Джордж Каселла (18 апреля 2008 г.). Статистический дизайн. Springer. ISBN  978-0-387-75965-4.