機械学習に詳しくなりたいブログ

機械学習や数学について勉強した内容を中心に書きます。100%趣味です。記事は数学的に厳密でなかったり誤りを含んでいるかもしれません。ご指摘頂ければ幸いです。

2018-03-01から1ヶ月間の記事一覧

棄却サンプリングでモンテカルロ積分

棄却サンプリングによって、様々な形状の分布からサンプリングできるようになったのだから、モンテカルロ積分を使えばその分布も積分もできるようになるはず。ということで試してみました。が、勘違いをしていてうまくいかなかったのですが、せっかくなので…

棄却サンプリング

確率分布からサンプリングしたいが、正規分布や一様分布のようにライブラリが提供されていない場合にどうするか?逆関数法もその1つですが、棄却サンプリングはより直感的な手法です。 棄却サンプリングの原理 確率分布はを満たすべきですが、正規化定数が…

逆関数法

一様乱数を用いて、ある確率分布に従う乱数を得る手法の1つ、逆関数法を見ていきます。 逆関数法の直感的説明 イメージは図のとおりです。からサンプリングしたいが、その手段がないとします。はの累積分布関数です。したがって、取る値の範囲は]です。は区…

積分の変数変換 - 補足

積分の変数変換で、2変数の場合に となることを書いたのですが、少し補足です。 全微分から得られる、 について、が直交座標系である場合を考えます。座標系においては、式(2)より、に変換され、はに変換されます。 変数変換前後で、各座標が作る平行四辺形…

2次の正方行列式と平行四辺形の面積

下図における原点とからなる平行四辺形の面積を考えます。 だから面積は、 ここで、、、だから、 となり、ベクトルから作られる平行四辺形の面積は、からなる行列式と等しいことが確認できました。 なお、の位置関係によってはが負になることもあるため、 と…

積分の変数変換

高校でやった置換積分の復習と2変数以上の拡張です。今回の内容はなかなかすっきりと理解できず、自分なりの解釈でまとめたため、誤りを含んでいるかもしれません。 1変数の場合 において、として合成関数の微分より ですから、これをで積分すれば となり、…

モンテカルロ法による積分(3)重点サンプリング

モンテカルロ法による積分(2)無限区間の積分で、正規分布の確率密度関数の積分をしました。正規分布からサンプリングしてモンテカルロ積分をしましたが、対象の積分区間]に対して、正規分布全体からサンプリングするのは実はとても効率が悪い方法のようで…

モンテカルロ法による積分(2)無限区間の積分

モンテカルロ法による積分(1)の続きです。 今回は標準正規分布の積分を考えます。であれば、先回と同じく一様分布を用いてとしてからサンプリングすれば良いです。ただし、積分区間に無限を含むの場合は同じように計算できません。無限区間で一様分布する…

モンテカルロ法による積分(1)

これからマルコフ連鎖モンテカルロ法を勉強していこうと思っています。今回はその第一歩。モンテカルロ法というのは何か特定の手法を表すのではなく、乱数を用いて数値計算すること全般を指すようです。ですのでモンテカルロ法による積分とは、乱数を用いて…

18年2月の振り返り

2月は相場が大きく動きました。前月比で100万以上マイナスになった瞬間もありましたが、その後多少持ち直して-40万くらいに収まりました。不労所得どころか、Web収入と合わせても赤字になるところでした。まあ上がろうが下がろうが毎月積み立てで買っていき…