Random Projection (part 3)

random projection 3

前回の記事で,vi∼N(0,1k∥u∥)v_i \sim \mathcal{N}(0, \frac{1}{k} \|\bm{u}\|)となることを示した.今回は∥v∥2\|\bm{v}\|^2の分散を求めようと思う.
{vi}i=1k∼i.i.d.N(0,1k∥u∥2)\{v_i\}_{i=1}^k \overset{i.i.d.}{\sim} \mathcal{N}(0, \frac{1}{k} \|\bm{u}\|^2)なので,

V[∥v∥2]=V[∑i=1kvi2]=∑i=1kV[vi2] \begin{aligned} \mathbb{V}\left[\|\bm{v}\|^2\right] &= \mathbb{V}\left[\sum_{i=1}^k v_i^2\right] = \sum_{i=1}^k \mathbb{V}\left[v_i^2\right] \end{aligned}

となる.さらに,

V[vi2]=E[vi4]−E[vi2]2=3k2∥u∥4−1k2∥u∥4=2k2∥u∥4 \begin{aligned} \mathbb{V}\left[v_i^2\right] &= \mathbb{E}\left[v_i^4\right] - \mathbb{E}\left[v_i^2\right]^2 \\ &= \frac{3}{k^2} \|\bm{u}\|^4 - \frac{1}{k^2} \|\bm{u}\|^4 \\ &= \frac{2}{k^2} \|\bm{u}\|^4 \end{aligned}

である.モーメントの求め方は以下の記事に書いてある.

よって,

V[∥v∥2]=2k∥u∥4 \begin{aligned} \mathbb{V}\left[\|\bm{v}\|^2\right] &= \frac{2}{k} \|\bm{u}\|^4 \end{aligned}

である.

Written with StackEdit.

0 件のコメント:

コメントを投稿

機械学習の問題設定

機械学習の問題設定 機械学習の問題設定を見直したのでメモ. ( Ω , F , P ) (\Omega, \mathcal{F}, P) ( Ω , F , P ) : ベースとなる確率空間 ( X , F X ) (\mathcal...