(简略复习)线性代数速记:特征基、单位化、非方阵与 SVD
- 2026-11-18 02:48:10
1. 特征值与特征向量
对方阵 ,若非零向量 满足
则 为特征向量, 为特征值。 决定沿该方向的缩放及翻转; 允许,但 ****。若 是特征向量,所有非零倍数 也都是,故特征向量通常无限多。
标准计算:
解 得特征值。 对每个 解 。 将解写成参数向量形式,抽出特征空间的基。
行变换: 可以行化简 来解零空间;直接行化简 一般会改变其特征值。计算特征行列式时可以使用保持或追踪行列式变化的消元规则。
2. 特征空间、特征基、可对角化
是包含零向量的子空间;其中非零向量是特征向量。 特征空间的基张成某一个 ;整个空间的特征向量基由 个线性无关特征向量组成,能张成 。 不同特征值对应的特征向量线性无关;同一个特征值也可能对应多个独立特征向量。 不同特征空间的并集一般不是子空间;它们的和是子空间,且不同特征值对应特征空间的和为直和。
若有 个独立特征向量,令 、,则
特征多项式中根的重数为代数重数; 为几何重数。可对角化意味着几何重数的总和为 (在当前数域上)。
3. 矩阵幂与特征向量不够时
第二式要求 能被这些特征向量张成。若不可对角化,可求广义特征向量或使用幂零分解。例如
若 可逆,;而 。若 有共同特征向量,对应特征值 ,则 。
4. 单位化与正交化
单位化(normalize):,长度变为 1,特征值保持不变。例如 。
标准正交(orthonormal): 且 。一般矩阵的不同特征向量即使分别单位化,也未必互相正交。
对实对称矩阵,可以选取标准正交特征基,满足
5. 非方阵与 SVD
对 且 ,、,所以没有通常意义下的 特征问题。可改为研究两个方阵 与 。
奇异值分解对任意实矩阵均存在:
其中 、 为正交矩阵, 的对角线上是非负奇异值 。
求法: 求 的单位特征向量 (右奇异向量),特征值 ;取 ;对 令
并且 、。补全 的正交基,即得 SVD。对零奇异值,,这些右奇异向量张成 。
小算例:
的特征值是 ,奇异值是 ;右奇异向量可取 、、。对应 、,。因此沿 的伸缩分别为 ,沿 的输入被压成零。
6. 秩、零空间与应用
若 有 42 列,且已证明其全部齐次解由两个独立向量张成,那么 。若它还有且只有 40 行(),便有 ,故任意 下 都有解;若行数大于 40,则不能如此推断。
SVD 还可写成 。保留最大的 项得到最优秩 近似;这解释了图像压缩,以及中心化数据矩阵上 PCA 主方向的来源。
最终区分: 特征分解寻找“输入与输出同方向”的特征向量;SVD 寻找“输入方向 与输出方向 配对”的奇异向量。SVD 始终可行,且两侧基均可选为标准正交基。