奇异值分解
1. 基本定义
特征值分解
$$ A = \boldsymbol{V}diag(\lambda)\boldsymbol{V}^{-1} $$
奇异值分解类似,但不要求A是方阵
$$ A = \boldsymbol{UDV}^T$$
假设$A$是(m,n),那么$\boldsymbol{U}$是(m,m),$\boldsymbol{D}$是(m,n),$\boldsymbol{V}$是(n,n)。$\boldsymbol{U}$、$\boldsymbol{V}$均为对称矩阵,分别称为左奇异向量,右奇异向量,$D$是对角矩阵,其对角元素称为奇异值。
两者关系
$A$的左奇异向量,是$AA^T$的特征向量,$A$的右奇异向量,是$A^TA$的特征向量。$A$的非零奇异值,是$AA^T$和$A^TA$的特征值的平方根。
2. 待续吧
等我知道了SVD怎么算之后再写。