2018-09-09 線形識別の目次 線形識別 線形識別の概要 線形識別を最小二乗法で解く 線形識別を最小二乗法で解く 線形識別 最小二乗法の解の導出 パーセプトロン パーセプトロン 入力を非線形変換したパーセプトロン 確率的生成モデル 確率的生成モデル - シグモイド関数 シグモイド関数の微分 aが線形関数で表されることの確認 ソフトマックス関数 ソフトマックス関数の微分 ロジスティック回帰 ロジスティック回帰 ロジスティック回帰における交差エントロピー誤差のヘッセ行列 ロジスティック回帰における交差エントロピー誤差の凸関数性 ロジスティック回帰を最急降下法とニュートン法で解く 入力を非線形変換したロジスティック回帰 多クラスロジスティック回帰 多クラスロジスティック回帰 多クラスロジスティック回帰における交差エントロピー誤差のヘッセ行列 多クラスロジスティック回帰をニュートン法で解く フィッシャーの線形判別 フィッシャーの線形判別（１） フィッシャーの線形判別（２） フィッシャーの線形判別（３） フィッシャーの線形判別（４） フィッシャーの線形判別（５）多クラス 必要な数学知識 共通基礎知識 転置行列の定理 ベクトルの内積と2乗和 ベクトルのノルム 行列の微分 ベクトルの微分 線形性 フィッシャーの線形判別に使用 固有値と固有ベクトル ラグランジュの未定乗数法 ロジスティック回帰に使用 確率の定義 条件付き確率、同時確率、周辺確率 ベイズの定理 多変量正規分布 対称行列の逆行列 ヘッセ行列 ベクトルをベクトルで微分の定義とヘッセ行列 ヘッセ行列で極値の判定 ヘッセ行列で最大/最小値の存在を判定 対称行列の対角化 2次形式と対称行列 ニュートン法 ニュートン法（1変数の場合） ニュートン法（多変数の場合） ニュートン法（多変数）の実験
