Random Projection (part 2)

前回は，$\mathbb{E}\left[\|\bm{v}\|^2\right] = \|\bm{u}\|^2$を示したが，もっと簡単に示せそうなのでこれもメモしておく．

以下の記事によると，$x \sim \mathcal{N}(\mu, \sigma^2), x' \sim \mathcal{N}(\mu', \sigma'^2)$なら，$x + x' \sim \mathcal{N}(\mu + \mu', \sigma^2 + \sigma'^2)$であり，$a, b \in \mathbb{R}$に対して，$ax + b \sim \mathcal{N}(a \mu + b, a^2 \sigma^2)$となるそうだ．

• http://mathworld.wolfram.com/NormalSumDistribution.html

これを踏まえると，$v_i = \frac{1}{\sqrt{k}}\sum_{j=1}^d R_{ji} u_j \sim \mathcal{N}(0, \frac{1}{k} \|\bm{u}\|)$である．

さらに，以下によると，正規分布の2次モーメントは，$\sigma^2 + \mu^2$なので，$\mathbb{E}\left[v_i^2\right] = \frac{1}{k} \|\bm{u}\|$である．

• http://peroon.hatenablog.com/entry/20080517/1210999863

よって，

$\begin{aligned} \mathbb{E}\left[\|\bm{v}\|^2\right] = \sum_{i=1}^k \mathbb{E}\left[v_i^2\right] = \|\bm{u}\|^2 \end{aligned}$

となる．

Written with StackEdit.