这里我们看到了数值计算的局限性。非对角线元素应该是0,但相反,其中一些元素是非常小的值。
所以,到目前为止,我们处理的是方阵,因为特征分解只对方形矩阵有效。接下来,我们将看到适用于非方形矩阵的奇异值分解。
奇异值分解奇异值分解对任何矩阵都有效,甚至适用于非方阵。
假设矩阵A是m×n(m≠n),我们仍然可以将矩阵A分解如下。
- U是一个正交矩阵(m×m)。
- Σ是一个对角线矩阵(m×n)。
- V是一个正交矩阵(n×n)。
这看起来太抽象了,可视化有助于我们理解。
Σ有如下结构。左上角部分是一个对角线矩阵,对角线元素中有奇异值(后面会详细介绍)。Σ的其他元素都是零。
我们把奇异值按降序排列。