Проекция (линейная алгебра) - Projection (linear algebra)
В линейная алгебра и функциональный анализ, а проекция это линейное преобразование из векторное пространство себе такой, что . То есть всякий раз, когда применяется дважды к любому значению, дает такой же результат, как если бы он был применен один раз (идемпотент ). Он оставляет свой образ неизменным.[1] Хотя Абстрактные, это определение «проекции» формализует и обобщает идею графическая проекция. Можно также рассмотреть влияние проекции на геометрический объект, исследуя влияние проекции на точки в объекте.
Определения
А проекция в векторном пространстве является линейным оператором такой, что .
Когда имеет внутренний продукт и является полный (т.е. когда это Гильбертово пространство ) Концепция чего-либо ортогональность может быть использован. Проекция в гильбертовом пространстве называется ортогональная проекция если это удовлетворяет для всех .Проекция на гильбертово пространство, не являющаяся ортогональной, называется косая проекция.
Матрица проекции
- В конечномерном случае квадратная матрица называется матрица проекции если он равен его квадрату, т.е. если .[2]:п. 38
- Квадратная матрица называется ортогональная проекционная матрица если для вещественной матрицы и соответственно для комплексной матрицы, где обозначает транспонирование и обозначает Эрмитово транспонирование из .[2]:п. 223
- Матрица проекции, которая не является ортогональной матрицей проекции, называется матрица наклонной проекции.
Собственные значения матрицы проекции должны быть 0 или 1.
Примеры
Ортогональная проекция
Например, функция, отображающая точку в трехмерном пространстве к точке ортогональная проекция на Икс–у самолет. Эта функция представлена матрица
Действие этой матрицы на произвольный вектор есть
Чтобы увидеть это действительно является проекцией, т.е. , мы вычисляем
- .
Наблюдая за этим показывает, что проекция является ортогональной проекцией.
Косая проекция
Простой пример неортогональной (наклонной) проекции (определение см. Ниже):
Через матричное умножение, видно, что
доказывая, что это действительно проекция.
Проекция ортогонален тогда и только тогда, когда потому что только тогда .
Свойства и классификация
Идемпотентность
По определению проекция является идемпотент (т.е. ).
Дополнительность диапазона и ядра
Позволять - конечномерное векторное пространство и быть проекцией на . Предположим, что подпространства и являются классифицировать и ядро из соответственно. Тогда обладает следующими свойствами:
- является тождественным оператором на
- .
- У нас есть прямая сумма . Каждый вектор можно однозначно разложить как с и , и где .
Диапазон и ядро проекции дополнительный, так же как и и . Оператор также проекция как диапазон и ядро стать ядром и диапазоном наоборот. Мы говорим это проекция на на (ядро / диапазон) и это проекция на на .
Спектр
В бесконечномерных векторных пространствах спектр проекции содержится в в качестве
Только 0 или 1 может быть собственное значение проекции. Отсюда следует, что ортогональная проекция всегда является положительной полуопределенной матрицей. В общем, соответствующие собственные подпространства являются (соответственно) ядром и диапазоном проекции. Разложение векторного пространства на прямые суммы не единственно. Следовательно, для подпространства , может быть много проекций, диапазон (или ядро) которых .
Если проекция нетривиальна, она имеет минимальный многочлен , который делится на отдельные корни, и таким образом является диагонализуемый.
Продукт прогнозов
Продукт проекций, как правило, не является проекцией, даже если они ортогональны. Если две проекции коммутируют, то их произведение является проекцией, но обратное неверно: произведение двух некоммутирующих проекций может быть проекцией.
Если два ортогональных проектора коммутируют, то их произведение является ортогональным проектором. Если продукт двух ортогональных проекций является ортогональным проектором, то эти два ортогональных проектора коммутируют (в более общем смысле: два самосопряженных эндоморфизма коммутируют тогда и только тогда, когда их произведение самосопряжено).
Ортогональные проекции
Когда векторное пространство имеет внутренний продукт и является полным (это Гильбертово пространство ) Концепция чего-либо ортогональность может быть использован. An ортогональная проекция проекция, для которой диапазон и пустое пространство находятся ортогональные подпространства. Таким образом, для каждого и в , . Эквивалентно:
- .
Проекция ортогональна тогда и только тогда, когда она самосопряженный. Используя самосопряженные и идемпотентные свойства , для любого и в у нас есть , , и
куда это внутренний продукт связана с . Следовательно, и являются ортогональными проекциями.[3]Другое направление, а именно то, что если ортогонален, то он самосопряжен, следует из
для каждого и в ; таким образом .
Доказательство существования Позволять полное метрическое пространство с внутренний продукт, и разреши быть закрытым линейное подпространство из (а значит, и полный).
Для каждого следующий набор неотрицательных нормы имеет инфимум, а в силу полноты это минимум. Мы определяем как точка в где достигается этот минимум.
Очевидно в . Осталось показать, что удовлетворяет и что это линейно.
Определим . Для каждого ненулевого в , имеет место следующее:
Определив Мы видим, что пока не исчезает. С было выбрано в качестве минимума из указанного выше множества, отсюда следует, что действительно исчезает. В частности, (для ): .
Линейность следует из обращения в нуль для каждого :
Взяв разницу между уравнениями, мы имеем
Но поскольку мы можем выбрать (как и в ) следует, что . Аналогично у нас есть для каждого скаляр .
Свойства и особые случаи
Ортогональная проекция - это ограниченный оператор. Это потому, что для каждого в векторном пространстве мы имеем Неравенство Коши – Шварца:
Таким образом .
Для конечномерных комплексных или вещественных векторных пространств стандартный внутренний продукт можно заменить на .
Формулы
Простой случай возникает, когда ортогональная проекция находится на прямой. Если это единичный вектор на линию, то проекция задается внешний продукт
(Если является комплексным, транспонирование в приведенном выше уравнении заменяется эрмитовым транспонированием). Этот оператор уходит ты инвариантен, и он аннулирует все векторы, ортогональные , доказывая, что это действительно ортогональная проекция на прямую, содержащую ты.[4] Простой способ убедиться в этом - рассмотреть произвольный вектор как сумма компонента на линии (то есть проецируемого вектора, который мы ищем) и другого, перпендикулярного ему, . Применяя проекцию, получаем
по свойствам скалярное произведение параллельных и перпендикулярных векторов.
Эта формула может быть обобщена на ортогональные проекции на подпространство произвольной размерности. Позволять быть ортонормированный базис подпространства , и разреши обозначить матрица, столбцы которой , т.е. . Тогда прогноз определяется как:[5]
который можно переписать как
Матрица это частичная изометрия который обращается в нуль на ортогональном дополнении к и это изометрия, которая включает в основное векторное пространство. Диапазон поэтому последнее пространство из . Также ясно, что является тождественным оператором на .
Условие ортонормированности также можно отбросить. Если является базисом (не обязательно ортонормированным), и - матрица с этими векторами в качестве столбцов, тогда проекция будет следующей:[6][7]
Матрица все еще встраивает в базовое векторное пространство, но больше не является изометрией в целом. Матрица является «нормализующим фактором», восстанавливающим норму. Например, оператор ранга 1 не является проекцией, если После деления на получаем проекцию на подпространство, натянутое на .
В общем случае может быть произвольная положительно определенная матрица определение внутреннего продукта , а проекция дан кем-то . потом
Когда пространство диапазона проекции генерируется Рамка (т.е. количество образующих больше его размерности), формула проекции принимает вид: . Здесь стоит за Псевдообратная матрица Мура – Пенроуза. Это лишь один из многих способов построения оператора проекции.
Если - невырожденная матрица и (т.е. это пустое пространство матрица ),[8] имеет место следующее:
Если условие ортогональности усиливается до с неособые, имеет место следующее:
Все эти формулы также верны для сложных внутренних пространств продукта при условии, что сопряженный транспонировать используется вместо транспонирования. Более подробную информацию о суммах проекторов можно найти в Banerjee and Roy (2014).[9] Также см. Banerjee (2004).[10] для применения сумм проекторов в базовой сферической тригонометрии.
Косые проекции
Период, термин косые выступы иногда используется для обозначения неортогональных проекций. Эти проекции также используются для представления пространственных фигур на двухмерных чертежах (см. косая проекция ), но не так часто, как ортогональные проекции. В то время как вычисление подобранного значения обыкновенный метод наименьших квадратов регрессия требует ортогональной проекции, вычисляя подогнанное значение регрессия инструментальных переменных требуется наклонная проекция.
Проекции определяются своим нулевым пространством и базисными векторами, используемыми для характеристики их диапазона (который является дополнением к нулевому пространству). Когда эти базисные векторы ортогональны нулевому пространству, тогда проекция является ортогональной проекцией. Когда эти базисные векторы не ортогональны нулевому пространству, проекция является наклонной проекцией. Пусть векторы сформировать основу для диапазона проекции и собрать эти векторы в матрица . Диапазон и пустое пространство являются дополнительными пространствами, поэтому нулевое пространство имеет размерность . Отсюда следует, что ортогональное дополнение нулевого пространства имеет размерность . Позволять сформировать основу для ортогонального дополнения нулевого пространства проекции и собрать эти векторы в матрицу . Тогда проекция определяется как
Это выражение обобщает приведенную выше формулу для ортогональных проекций.[11][12]
Поиск проекции с помощью внутреннего продукта
Позволять - векторное пространство (в данном случае плоскость), натянутое на ортогональные векторы . Позволять быть вектором. Можно определить проекцию на в качестве
где 'просто Обозначение суммы Эйнштейна. Вектор можно записать в виде ортогональной суммы, такой что . иногда обозначается как . В линейной алгебре есть теорема, согласно которой это это кратчайшее расстояние от к и обычно используется в таких областях, как машинное обучение.
Канонические формы
Любая проекция в векторном пространстве размерности над полем диагонализуемая матрица, поскольку его минимальный многочлен разделяет , который разбивается на отдельные линейные факторы. Таким образом, существует основа, в которой имеет форму
куда это ранг . Здесь это единичная матрица размера , и нулевая матрица размера . Если векторное пространство сложное и снабжено внутренний продукт, то есть ортонормированный базис, в котором матрица п является[13]
- .
куда . Целые числа и реальные числа однозначно определены. Обратите внимание, что . Фактор соответствует максимальному инвариантному подпространству, на котором действует как ортогональный проекция (чтобы п сам ортогонален тогда и только тогда, когда ) и -блоки соответствуют косой составные части.
Проекции на нормированные векторные пространства
Когда основное векторное пространство является (не обязательно конечномерным) нормированное векторное пространство, необходимо рассмотреть аналитические вопросы, не относящиеся к конечномерному случаю. Предположим сейчас это Банахово пространство.
Многие из рассмотренных выше алгебраических результатов переживают переход к этому контексту. Заданное разложение прямой суммы в дополнительные подпространства по-прежнему задает проекцию, и наоборот. Если прямая сумма , то оператор, определяемый все еще проекция с диапазоном и ядро . Также ясно, что . Наоборот, если проекция на , т.е. , то легко проверить, что . Другими словами, это тоже проекция. Соотношение подразумевает и прямая сумма .
Однако, в отличие от конечномерного случая, проекции не обязательно непрерывный в целом. Если подпространство из не замкнута в топологии нормы, то проекция на не является непрерывным. Другими словами, дальность непрерывной проекции должно быть замкнутым подпространством. Кроме того, ядро непрерывной проекции (в общем, непрерывного линейного оператора) замкнуто. Таким образом непрерывный проекция дает разложение на два дополнительных закрыто подпространства: .
Обратное также верно с дополнительным предположением. Предполагать является замкнутым подпространством в . Если существует замкнутое подпространство такой, что Икс = U ⊕ V, то проекция с диапазоном и ядро непрерывно. Это следует из теорема о замкнутом графике. Предполагать Иксп → Икс и Pxп → у. Нужно показать, что . С закрыт и {Pxп} ⊂ U, у лежит в , т.е. Py = у. Также, Иксп − Pxп = (я − п)Иксп → Икс − у. Потому что закрыт и {(я − п)Иксп} ⊂ V, у нас есть , т.е. , что доказывает утверждение.
Приведенный выше аргумент основан на предположении, что оба и закрыты. В общем случае для замкнутого подпространства , может не существовать дополнительное замкнутое подпространство , хотя для Гильбертовы пространства это всегда можно сделать, взяв ортогональное дополнение. Для банаховых пространств одномерное подпространство всегда имеет замкнутое дополнительное подпространство. Это непосредственное следствие Теорема Хана – Банаха. Позволять быть линейной оболочкой . По Хану – Банаху существует ограниченный линейный функционал такой, что φ(ты) = 1. Оператор удовлетворяет , т.е. это проекция. Ограниченность подразумевает преемственность и поэтому является замкнутым дополнительным подпространством в .
Приложения и дополнительные соображения
Проекции (ортогональные и другие) играют важную роль в алгоритмы для некоторых задач линейной алгебры:
- QR-разложение (видеть Преобразование домохозяина и Разложение Грама – Шмидта );
- Разложение по сингулярным числам
- Приведение к Hessenberg форма (первый шаг во многих алгоритмы собственных значений )
- Линейная регрессия
- Проективные элементы матричных алгебр используются при построении некоторых K-групп в Операторная K-теория
Как было сказано выше, проекции - это частный случай идемпотентов. С аналитической точки зрения ортогональные проекции являются некоммутативными обобщениями характеристические функции. Идемпотенты используются, например, при классификации полупростые алгебры, а теория меры начинается с рассмотрения характеристических функций измеримых множеств. Поэтому, как можно догадаться, проекции очень часто встречаются в контексте операторные алгебры. В частности, алгебра фон Неймана порождается его полным решетка проекций.
Обобщения
В более общем смысле, учитывая карту между нормированными векторными пространствами аналогично можно потребовать, чтобы это отображение было изометрией на ортогональном дополнении ядра: быть изометрией (сравнить Частичная изометрия ); в частности он должен быть включен. Случай ортогональной проекции - это когда W является подпространством В. В Риманова геометрия, это используется в определении Риманово погружение.
Смотрите также
- Центрирующая матрица, который является примером матрицы проекции.
- Ортогонализация
- Инвариантное подпространство
- Свойства следа
- Алгоритм проектирования Дикстры для вычисления проекции на пересечение множеств
Примечания
- ^ Мейер, стр 386 + 387
- ^ а б Хорн, Роджер А .; Джонсон, Чарльз Р. (2013). Матричный анализ, второе издание. Издательство Кембриджского университета. ISBN 9780521839402.
- ^ Мейер, стр. 433
- ^ Мейер, стр. 431
- ^ Мейер, уравнение (5.13.4)
- ^ Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики, Тексты по статистике (1-е изд.), Chapman and Hall / CRC, ISBN 978-1420095388
- ^ Мейер, уравнение (5.13.3)
- ^ Смотрите также Линейные методы наименьших квадратов (математика) § Свойства оценок наименьших квадратов.
- ^ Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики, Тексты по статистике (1-е изд.), Chapman and Hall / CRC, ISBN 978-1420095388
- ^ Банерджи, Судипто (2004), "Возвращение к сферической тригонометрии с помощью ортогональных проекторов", Математический журнал колледжа, 35 (5): 375–381, Дои:10.1080/07468342.2004.11922099, S2CID 122277398
- ^ Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики, Тексты по статистике (1-е изд.), Chapman and Hall / CRC, ISBN 978-1420095388
- ^ Мейер, уравнение (7.10.39)
- ^ Докович, Д.. (Август 1991 г.). «Однородное подобие проекторов». Aequationes Mathematicae. 42 (1): 220–224. Дои:10.1007 / BF01818492. S2CID 122704926.
Рекомендации
- Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики, Тексты по статистике (1-е изд.), Chapman and Hall / CRC, ISBN 978-1420095388
- Dunford, N .; Шварц, Дж. Т. (1958). Линейные операторы, часть I: Общая теория. Interscience.
- Мейер, Карл Д. (2000). Матричный анализ и прикладная линейная алгебра. Общество промышленной и прикладной математики. ISBN 978-0-89871-454-8.
внешняя ссылка
- Лекция Массачусетского технологического института по линейной алгебре по проекционным матрицам на YouTube, из MIT OpenCourseWare
- Линейная алгебра 15d: преобразование проекции на YouTube, к Павел Гринфельд.
- Учебник по плоским геометрическим проекциям - простое руководство, объясняющее различные типы плоских геометрических проекций.