機械学習に詳しくなりたいブログ

機械学習や数学について勉強した内容を中心に書きます。100%趣味です。記事は数学的に厳密でなかったり誤りを含んでいるかもしれません。ご指摘頂ければ幸いです。

射影後のデータを元の次元で見る

KL展開 平均二乗誤差最小基準で、射影後のデータとの誤差を計算するために、射影したデータを元の次元で表す、という計算を行っています。例えば3次元のデータを2次元に射影し、そのデータを3次元で見れば平面上に分布しているはず。当たり前のことなんですが、なんか考えれば考えるほど、本当にそうなっているのか確認したくなってきました。

元の3次元データ分布:\mathbf x

f:id:opabinia2:20180625210302g:plain




2次元に射影後:\mathbf A^{T} \mathbf x

f:id:opabinia2:20180625204945p:plain




射影後のデータを3次元で見る:\mathbf A \mathbf A^{T} \mathbf x

f:id:opabinia2:20180625205458g:plain




本当にそうなってた!\mathbf x\mathbf A^{T} \mathbf xの誤差は計算できませんが、\mathbf x\mathbf A \mathbf A^{T} \mathbf xなら計算可能ですね。いや、本当に当たり前なんですけど。でも自分の手を動かして確認したこの感覚って、印象に残るので大事ですよね。