Random Projection (part 3)

random projection 3

前回の記事で,viN(0,1ku)v_i \sim \mathcal{N}(0, \frac{1}{k} \|\bm{u}\|)となることを示した.今回はv2\|\bm{v}\|^2の分散を求めようと思う.
{vi}i=1ki.i.d.N(0,1ku2)\{v_i\}_{i=1}^k \overset{i.i.d.}{\sim} \mathcal{N}(0, \frac{1}{k} \|\bm{u}\|^2)なので,

V[v2]=V[i=1kvi2]=i=1kV[vi2] \begin{aligned} \mathbb{V}\left[\|\bm{v}\|^2\right] &= \mathbb{V}\left[\sum_{i=1}^k v_i^2\right] = \sum_{i=1}^k \mathbb{V}\left[v_i^2\right] \end{aligned}

となる.さらに,

V[vi2]=E[vi4]E[vi2]2=3k2u41k2u4=2k2u4 \begin{aligned} \mathbb{V}\left[v_i^2\right] &= \mathbb{E}\left[v_i^4\right] - \mathbb{E}\left[v_i^2\right]^2 \\ &= \frac{3}{k^2} \|\bm{u}\|^4 - \frac{1}{k^2} \|\bm{u}\|^4 \\ &= \frac{2}{k^2} \|\bm{u}\|^4 \end{aligned}

である.モーメントの求め方は以下の記事に書いてある.

よって,

V[v2]=2ku4 \begin{aligned} \mathbb{V}\left[\|\bm{v}\|^2\right] &= \frac{2}{k} \|\bm{u}\|^4 \end{aligned}

である.

Written with StackEdit.

0 件のコメント:

コメントを投稿

機械学習の問題設定

機械学習の問題設定 機械学習の問題設定を見直したのでメモ. ( Ω , F , P ) (\Omega, \mathcal{F}, P) ( Ω , F , P ) : ベースとなる確率空間 ( X , F X ) (\mathcal...