関数が線形であるとは、以下の２つの性質を持つことをいいます。 入力の和が出力の和に対応し、入力の定数倍が出力の定数倍に対応することを意味します。また、この性質を持つ関数は原点を通るはずです。なぜならが線形性を持つなら、式(2)より となり、は比…

線形識別の概要 何らかの入力に対し、識別関数を通すことで、が属するクラスは何なのかを識別するというもの。識別関数は、例えば のように表されます。入力が2次元で2クラスに分類する場合を考えれば、入力を識別関数に通した結果、例えばならばクラスそう…

サンプリング法 逆関数法 棄却サンプリング マルコフ連鎖モンテカルロ法 - メトロポリス・ヘイスティングス法（１） マルコフ連鎖モンテカルロ法 - メトロポリス・ヘイスティングス法（２） MAP推定をMCMCで解く モンテカルロ積分 モンテカルロ法による積分…

先回までにメトロポリス・ヘイスティングズ法によるMCMCの実装を行ってきました。（参考：マルコフ連鎖モンテカルロ法 - メトロポリス・ヘイスティングズ法（１））これによって様々な分布からサンプリングできるようになったので、今回はMAP推定をMCMCで解…

今回は多変量正規分布をMCMC法でサンプリングしてみました。MCMC法の理論背景などはこちらの記事です。こちらで書いたコードを少し修正するだけなので実装は簡単です。多変量正規分布で書いた分散共分散行列が のものをサンプリングしてみます。平均は0とし…

概要 マルコフ連鎖モンテカルロ法とは、サンプリングしたい分布（目標分布）が不変分布となるようなマルコフ連鎖を設定することでからサンプリングする手法です。マルコフ過程で、ある適当な推移核を定めたとき、各状態に遷移する確率が不変分布になる例を見…

マルコフ過程とマルコフ連鎖 時刻における状態をと表し、の確率がから決まるのではなく、１つ前の状態のみによって定まるときにこれをマルコフ性といい、このような性質を持つ確率過程をマルコフ過程といいます。状態が離散的なとき、特にマルコフ連鎖と呼び…

3月も投信は冴えない感じでした。乱高下は先月から変わらず、毎日すごい額が増えたり減ったり。Webの不労所得を投資にまわして、ツインターボで稼ごうと思ったのに今年はパッとしませんね。まあ投信は長期で見てるので数ヶ月でああだこうだ言っても仕方ない…