正定値行列の逆行列 - 機械学習に詳しくなりたいブログ

$\mathbf{A}$ が対称行列なら、対称行列の対角化より、

$\mathbf{U}^{T} \mathbf{A} \mathbf{U} = \mathbf{\Lambda} \tag{1}$

によって対角化できます。ここで、 $\mathbf{U}$ は固有ベクトルを並べた直交行列、 $\mathbf{\Lambda}$ は固有値 $\lambda_{i}$ を対角成分に持つ対角行列です。また、 $\mathbf{U}$ は直交行列で $\mathbf{U}\mathbf{U}^{T}=\mathbf{I}$ ですから、

$\mathbf{A} = \mathbf{U}\mathbf{\Lambda}\mathbf{U}^{T} \tag{2}$

です。

式(2)より、 $\mathbf{A}$ の逆行列を考えると、逆行列の定理より

$\begin{eqnarray*} \mathbf{A}^{-1} &=& (\mathbf{U}\mathbf{\Lambda}\mathbf{U}^{T})^{-1}\tag{3} \\ &=& (\mathbf{U}^{T})^{-1}\mathbf{\Lambda}^{-1} \mathbf{U}^{-1} \tag{4} \end{eqnarray*}$

です。ここで直交行列の逆行列より、 $\mathbf{U}^{T}=\mathbf{U}^{-1}$ ですから、

$\mathbf{A}^{-1} = \mathbf{U}\mathbf{\Lambda}^{-1}\mathbf{U}^{T} \tag{5}$

です。対称行列の逆行列より、 $\mathbf{A}^{-1}$ もまた対称行列です。したがって、式(5)によって $\mathbf{A}^{-1}$ が対角化されていることになります。つまり $\mathbf{\Lambda}^{-1}$ は $\mathbf{A}^{-1}$ の固有値を対角成分に並べた行列であり、 $\mathbf{\Lambda}\mathbf{\Lambda}^{-1}=\mathbf{I}$ ですから

$\mathbf{\Lambda}^{-1} = \left( \begin{array}{ccc} \frac{1}{\lambda_1} & & 0 \\ & \ddots & \\ 0 & & \frac{1}{\lambda_{n}} \end{array} \right) \tag{6}$