機械学習に詳しくなりたいブログ

機械学習や数学について勉強した内容を中心に書きます。100%趣味です。記事は数学的に厳密でなかったり誤りを含んでいるかもしれません。ご指摘頂ければ幸いです。

ベクトルのノルム

ベクトル \mathbf{x}に対して、以下で定義されるものを L_pノルムと呼びます。


\| \mathbf{x} \|_p = \sqrt[p]{\displaystyle \sum_{i=1}^n x_i^p}  \tag{1}

特に、 p=\pm \inftyの場合は


\| \mathbf{x} \|_\infty = max| x_i |  \tag{2}


\| \mathbf{x} \|_{-\infty} = min| x_i |  \tag{3}

と定義されます。

ノルムとは、ベクトル空間における長さを表すものです。特に L_2ノルムはユークリッド距離を表します。いわゆる、普段我々が「距離」と認識しているものです。一般的に \| \mathbf{x} \|と書いたら L_2ノルムのことを指すようです。また単にノルムと書いて有る場合も、特に断りがなければ L_2ノルムを指すようです。

内積とノルムは


\| \mathbf{x} \| = \sqrt{( \mathbf{x}, \mathbf{x})} \tag{4}

の関係があります。(ノルムの定義とベクトルと内積の2乗和に記載の内積の式から明らかです)

式(4)と、ベクトルと内積の2乗和の式(2)から、


\| \mathbf{x} \|^2 = \mathbf{x}^T \mathbf{x}  \tag{5}

の関係があることがわかります。