行列の対角化 - 機械学習に詳しくなりたいブログ

固有ベクトルと基底の続きです。

固有ベクトルと基底の式(2)で書いたとおり、

$x_1\mathbf{e}_1 + x_2\mathbf{e}_2 = x_1^{\prime}\mathbf{e}_1^{\prime} + x_2^{\prime}\mathbf{e}_2^{\prime} \tag{1}$

でした。式(1)を

$\mathbf{x} = \mathbf{P} \mathbf{x}^{\prime} \tag{2}$

と表すこととします。 $\mathbf P$ は固有ベクトルを並べた行列です。

$\mathbf{y} = \mathbf{A} \mathbf{x}$ により線形変換されるベクトル $\mathbf y$ についても、同様に

$y_1\mathbf{e}_1 + y_2\mathbf{e}_2 = y_1^{\prime}\mathbf{e}_1^{\prime} + y_2^{\prime}\mathbf{e}_2^{\prime} \tag{3}$

と表せば、

$\mathbf{y} = \mathbf{P} \mathbf{y}^{\prime} \tag{4}$

となります。式(2),(4)を $\mathbf{y} = \mathbf{A} \mathbf{x}$ に代入すれば、

$\begin{eqnarray*} \mathbf{P} \mathbf{y}^{\prime} &=& \mathbf{A} \mathbf{P} \mathbf{x}^{\prime} \tag{5} \\ \mathbf{y}^{\prime} &=& \mathbf{P}^{-1}\mathbf{A} \mathbf{P} \mathbf{x}^{\prime}\tag{6} \end{eqnarray*}$

となります。固有ベクトルと基底で示したように、

$\begin{eqnarray*} {y}_1^{\prime} &=& \lambda_1 x_1^{\prime} \tag{7} \\ {y}_2^{\prime} &=& \lambda_2 x_2^{\prime} \tag{8} \end{eqnarray*}$

でしたから、 $\mathbf{P}^{-1}\mathbf{A} \mathbf{P}$ は対角要素が $\mathbf A$ の固有値の対角行列となっているはずです。以上のように、固有ベクトルを並べた行列 $\mathbf P$ を用いることで、対角行列を作ることができます。このような変形を対角化といいます。