正交矩阵和Gram-Schmidt正交化法
2022-3-5
| 2023-8-2
0  |  阅读时长 0 分钟
type
status
date
slug
summary
tags
category
icon
password
Property
 
 

标准正交矩阵

满足如下条件的向量为标准正交向量(orthonormal):
它们单位长度1,并且彼此正交,标准正交向量是线性无关的
 
将标准正交向量放入矩阵中,有 ,列向量为标准正交向量
计算得 标准正交矩阵(orthonormal matrix)

正交矩阵

一个标准正交的方阵称之为正交矩阵
恰好是方阵时,由于正交性,易得 是可逆的,又 ,所以
 
举个置换矩阵的例子:
,则 ,易得
再例如, ,列向量长度为 ,且列向量相互正交。
 
矩阵并不是正交矩阵,而通过调整得到的矩阵为正交矩阵,列向量长度为 ,且列向量相互正交。
 
,取合适的 另列向量长度为 也可以构造标准正交矩阵:
这种构造方法以阿德玛(Adhemar)命名,对 阶矩阵有效。
 
再来看一个例子, ,列向量长度为 ,且列向量相互正交。格拉姆-施密特正交化法的缺点在于,由于要求得单位向量,所以我们总是除以向量的长度,这导致标准正交矩阵中总是带有根号,而上面几个例子很少有根号。
 
标准正交列向量的优势 Orthonormal columns are good
假设要做投影,将向量 投影在标准正交矩阵 的列空间中,根据公式得
易得 。因此当列向量为标准正交基时, 是投影矩阵,这种情况会降低很多运算量。极端情况,假设矩阵是方阵,而其列向量是标准正交的,则其列空间就是整个向量空间,而投影整个空间的投影矩阵就是单位矩阵,此时
可以验证一下投影矩阵的两个性质:
 
我们计算的,现在变为 ,也就是 ,分解开来看就是 ,这个式子在很多数学领域都有重要作用。当我们知道标准正交基,则解向量第 个分量为基的第 个分量乘以 ,在第 个基方向上的投影就等于
 

Gram-Schmidt正交化法

两个线性无关的向量 ,先把它们化为正交向量,再将它们单位化,变为单位正交向量
  • 取定 向量的方向,
  • 接下来将投影在 的法方向上得到 ,也就是求子空间投影中,我们提到的误差向量 ,即 。检验一下 。( 就是 。)
如果有三个线性无关的向量 ,则现需要求它们的正交向量 ,再将它们单位化,变为单位正交向量
  • 前两个向量我们已经得到了,现在需要求第三个向量同时正交于
  • 依然沿用上面的方法, 从 中减去其在 上的分量,得到正交与
 
现在试验一下推导出来的公式,
  • 根据公式有是比值 ,则 。验证一下正交性有
  • 单位化, ,则标准正交矩阵为 ,对比原来的矩阵 ,有 的列空间是相同的,只是将原来的基标准正交化了。
 
我们曾经用矩阵的眼光审视消元法,有 。同样的也用矩阵表达标准正交化, 。设矩阵 有两个列向量 ,则标准正交化后有 ,而左下角的 始终为 ,因为Gram-Schmidt正交化总是使得 ,后来构造的向量总是正交于先前的向量。所以这个矩阵是一个上三角矩阵。
 
  • 数学基础
  • 高等代数
  • 投影矩阵和最小二乘行列式
    目录