Матрица дизайна - Design matrix

В статистика, а матрица дизайна, также известный как матрица модели или же матрица регрессора и часто обозначается Икс, это матрица ценностей объясняющие переменные набора предметов. Каждая строка представляет отдельный объект, а последовательные столбцы соответствуют переменным и их конкретным значениям для этого объекта. Матрица дизайна используется в некоторых статистические модели, например, общая линейная модель.^[1][2][3] Он может содержать индикаторные переменные (единицы и нули), которые указывают на членство в группе ANOVA, или он может содержать значения непрерывные переменные.

Матрица дизайна содержит данные о независимые переменные (также называемые независимыми переменными) в статистических моделях, которые пытаются объяснить наблюдаемые данные о переменной отклика (часто называемой зависимая переменная ) с точки зрения объясняющих переменных. Теория, относящаяся к таким моделям, в значительной степени использует матричные манипуляции с матрицами плана: см., Например, линейная регрессия. Примечательной особенностью концепции матрицы проектирования является то, что она способна представлять ряд различных экспериментальные образцы и статистические модели, например, ANOVA, ANCOVA, и линейная регрессия.^{[нужна цитата ]}

Определение

Матрица проекта определяется как матрица ${ displaystyle X}$ такой, что ${ displaystyle X_ {ij}}$ (j^th столбец я^th ряд ${ displaystyle X}$) представляет собой значение j^th переменная, связанная с i^th объект.

Модель регрессии, которая является линейная комбинация независимых переменных, следовательно, могут быть представлены посредством матричного умножения как

${ Displaystyle у = Х бета,}$

куда Икс матрица дизайна, ${ displaystyle beta}$ - вектор коэффициентов модели (по одному для каждой переменной), а у - вектор прогнозируемых результатов для каждого объекта.

Размер

В матрица из данные имеет размер п-к-п, куда п - количество наблюдаемых образцов, и п - количество переменных (Особенности ) измерено во всех образцах.^[4][5]

В этом представлении разные строки обычно представляют разные повторы эксперимента, а столбцы представляют разные типы данных (например, результаты определенных зондов). Например, предположим, что проводится эксперимент, в котором 10 человек вытаскивают с улицы и задают четыре вопроса. Матрица данных M будет матрицей 10 × 4 (что означает 10 строк и 4 столбца). Данные в строке я и столбец j этой матрицы будет ответом я ^th человек к j ^th вопрос.

Примеры

Среднее арифметическое

Матрица дизайна для среднее арифметическое это столбец вектор единиц.

Простая линейная регрессия

В этом разделе приводится пример простая линейная регрессия - то есть регрессия только с одной независимой переменной - с семью наблюдениями. Семь точек данных: {у_я, Икс_я}, за я = 1, 2,…, 7. Простая модель линейной регрессии имеет вид

${ displaystyle y_ {i} = beta _ {0} + beta _ {1} x_ {i} + varepsilon _ {i}, ,}$

куда ${ displaystyle beta _ {0}}$ это у-перехват и ${ displaystyle beta _ {1}}$ - наклон линии регрессии. Эта модель может быть представлена ​​в матричной форме как

${ Displaystyle { begin {bmatrix} y_ {1} y_ {2} y_ {3} y_ {4} y_ {5} y_ {6} y_ {7} end {bmatrix}} = { begin {bmatrix} 1 & x_ {1} 1 & x_ {2} 1 & x_ {3} 1 & x_ {4} 1 & x_ {5} 1 & x_ {6} 1 & x_ { 7} end {bmatrix}} { begin {bmatrix} beta _ {0} beta _ {1} end {bmatrix}} + { begin {bmatrix} varepsilon _ {1} varepsilon _ {2} varepsilon _ {3} varepsilon _ {4} varepsilon _ {5} varepsilon _ {6} varepsilon _ {7} end {bmatrix} }}$

где первый столбец единиц в матрице плана позволяет оценить у-intercept, а второй столбец содержит Икс-значения, связанные с соответствующими у-значения.

Множественная регрессия

В этом разделе содержится пример множественная регрессия с двумя ковариатами (независимыми переменными): ш и Икс.Вновь предположим, что данные состоят из семи наблюдений, и что для каждого наблюдаемого значения, которое должно быть предсказано (${ displaystyle y_ {i}}$), значения ш_я и Икс_я двух ковариат также наблюдаются. Рассматриваемая модель

${ displaystyle y_ {i} = beta _ {0} + beta _ {1} w_ {i} + beta _ {2} x_ {i} + varepsilon _ {i}}$

Эта модель может быть записана в матричных терминах как

${ Displaystyle { begin {bmatrix} y_ {1} y_ {2} y_ {3} y_ {4} y_ {5} y_ {6} y_ {7} end {bmatrix}} = { begin {bmatrix} 1 & w_ {1} & x_ {1} 1 & w_ {2} & x_ {2} 1 & w_ {3} & x_ {3} 1 & w_ {4} & x_ {4} 1 & w_ {5} & x_ {5} 1 & w_ {6} & x_ {6} 1 & w_ {7} & x_ {7} end {bmatrix}} { begin {bmatrix} beta _ {0} beta _ {1} beta _ {2} end {bmatrix}} + { begin {bmatrix} varepsilon _ {1} varepsilon _ {2} varepsilon _ {3} varepsilon _ {4} varepsilon _ {5} varepsilon _ {6} varepsilon _ {7} end {bmatrix}}}$

Здесь матрица 7 × 3 с правой стороны - это матрица плана.

Односторонний дисперсионный анализ (модель ячеек)

В этом разделе содержится пример с односторонним дисперсионным анализом (ANOVA ) с тремя группами и семью наблюдениями. В данном наборе данных есть первые три наблюдения, принадлежащие к первой группе, следующие два наблюдения, принадлежащие ко второй группе, и последние два наблюдения, принадлежащие к третьей группе. Если модель, которая должна соответствовать, представляет собой только среднее значение каждой группы, то модель

${ displaystyle y_ {ij} = mu _ {i} + varepsilon _ {ij}}$

что можно написать

${ Displaystyle { begin {bmatrix} y_ {1} y_ {2} y_ {3} y_ {4} y_ {5} y_ {6} y_ {7} end {bmatrix}} = { begin {bmatrix} 1 & 0 & 0 1 & 0 & 0 1 & 0 & 0 0 & 1 & 0 0 & 1 & 0 0 & 0 & 1 0 & 0 & 1 end {bmatrix}} { begin {bmatrix} mu _ {1} mu _ {2} mu _ {3} end {bmatrix}} + { begin {bmatrix} varepsilon _ {1} varepsilon _ {2} varepsilon _ {3} varepsilon _ {4} varepsilon _ {5} varepsilon _ {6} varepsilon _ {7} end {bmatrix}}}$

В этой модели ${ Displaystyle mu _ {я}}$ представляет собой среднее значение ${ displaystyle i}$-я группа.

Односторонний дисперсионный анализ (смещение от контрольной группы)

Модель ANOVA может быть эквивалентно записана как каждый параметр группы ${ Displaystyle тау _ {я}}$ это смещение от некоторой общей ссылки. Обычно за эту точку отсчета берется одна из рассматриваемых групп. Это имеет смысл в контексте сравнения нескольких групп лечения с контрольной группой, и контрольная группа считается «контрольной». В этом примере группа 1 была выбрана в качестве контрольной группы. Таким образом, подходящая модель

${ displaystyle y_ {ij} = mu + tau _ {i} + varepsilon _ {ij}}$

с ограничением, что ${ Displaystyle тау _ {1}}$ равно нулю.

${ Displaystyle { begin {bmatrix} y_ {1} y_ {2} y_ {3} y_ {4} y_ {5} y_ {6} y_ {7} end {bmatrix}} = { begin {bmatrix} 1 & 0 & 0 1 & 0 & 0 1 & 0 & 0 1 & 1 & 0 1 & 1 & 0 1 & 0 & 1 1 & 0 & 1 end {bmatrix}} { begin {bmatrix} mu tau _ {2} тау _ {3} end {bmatrix}} + { begin {bmatrix} varepsilon _ {1} varepsilon _ {2} varepsilon _ {3} varepsilon _ {4} varepsilon _ {5} varepsilon _ {6} varepsilon _ {7} end {bmatrix}}}$

В этой модели ${ displaystyle mu}$ среднее значение контрольной группы и ${ Displaystyle тау _ {я}}$ чем отличается от группы ${ displaystyle i}$ в референтную группу. ${ displaystyle tau _ {1}}$ не включается в матрицу, потому что его отличие от контрольной группы (самой себя) обязательно равно нулю.

Смотрите также

• Матрица данных
• Матрица моментов
• Матрица проекции
• Матрица Якоби и определитель
• Матрица разброса
• Матрица Грама
• Матрица Вандермонда

Рекомендации

дальнейшее чтение

• Вербеек, Альберт (1984). «Геометрия выбора модели в регрессии». В Dijkstra, Тео К. (ред.). Анализ неправильной спецификации. Нью-Йорк: Спрингер. С. 20–36. ISBN  0-387-13893-5.