機械学習に詳しくなりたいブログ

機械学習や数学について勉強した内容を中心に書きます。100%趣味です。記事は数学的に厳密でなかったり誤りを含んでいるかもしれません。ご指摘頂ければ幸いです。

2018-05-01から1ヶ月間の記事一覧

行列の内積

うっかり行列の積と混同していると大変なことになる。 行列の内積は、対応する全ての要素の積の和です。 定義から明らかなように が成り立ちます。

フィッシャーの線形判別(4)

先回までのまとめ フィッシャーの線形判別(1):フィッシャーの線形判別の概要 フィッシャーの線形判別(2):フィッシャーの線形判別の解を求める フィッシャーの線形判別(3):2クラスの次元圧縮の実験 2クラスの解の別の求め方 フィッシャーの線形判…

フィッシャーの線形判別(3)

フィッシャーの線形判別(2)の続きです。 先回の記事のまとめ 2クラスのデータを次元圧縮する方向は、次の式で求められることがわかりました。 次元圧縮の実験 実際に式(1)を使って、2次元のデータを1次元に射影してみます。早速結果です。 左が元のデータ…

フィッシャーの線形判別(2)

フィッシャーの線形判別(1)の続きです。 先回の記事のまとめ 2クラスのデータをより分離しやすいように次元圧縮することを考えています。フィッシャーの判別基準は、 と定義され、これを最大にするが解(次元圧縮方向)でした。 解を計算する ここで、は…

フィッシャーの線形判別(1)

フィッシャーの線形判別とは フィッシャーの線形判別は、これ自体は判別・識別の手法ではなく、各クラスのデータの分離を保ちつつ次元圧縮する手法のようです。多次元のデータを扱うのは大変なので、次元圧縮して計算を楽にしようということでしょうか。今回…

線形識別を最小二乗法で解く

線形識別の最小二乗法よる解 線形識別の最小二乗法による解は、線形識別 最小二乗法の解の導出で導出しました。 今回はそれを用いて実際にいくつか識別させてみたいと思います。 識別結果 まずは単純な直線で分離される識別を解いてみました。点が教師データ…

線形識別 最小二乗法の解の導出

線形識別を最小二乗法で計算した場合の解を導出します。識別関数をとします。ここでです。(ダミー入力の定数を加えたものとします) はM×K行列(入力次元×クラス数)の係数とします。また、を1ofK符号(正解クラスが1でそれ以外が0のベクトル)とし、教師デ…

行列の微分

行列の微分の定義 スカラを返す関数において、行列 での微分係数は以下のように定義されます。 の微分 ベクトル に対し、の微分を考えます。 まずを計算していきますと、 ですから、 となります。行列の成分での微分は、式(4)よりとなることがわかります。こ…

18年4月の振り返り

4月は3ヶ月ぶりに投信がプラスでした。2~3月頃と違って、1日で動く額がそれほど大きくなく、落ち着いてきていたのであんまり相場を気にせず、1ヶ月終わってみたらプラスだったという感じ。こういう状態のほうが健全なんでしょうね。どうせ何もしないので日…