理系学生日記

おまえはいつまで学生気分なのか

正規分布の標準化

確率変数$X$が正規分布$N(\mu,\sigma ^2)$に従うとき、$X$の一次関数$aX+b$は正規分布$N(a\mu + b, a ^2 \sigma ^2)$に従うと言う性質があります。

今日はまずこれを証明し、その上で$Z=\frac{X-\mu}{\sigma}$と言う変換が$N(0,1)$の標準正規分布に従うという標準化を証明していきます。

$X \sim N(\mu, \sigma ^2) \Rightarrow aX + b \sim N(a\mu + b, a ^2 \sigma ^2)$

$X \sim N(\mu, \sigma ^2)$であるので、確率変数$X$が従う確率密度関数$f(x)$は以下の式で表せます。

$$ f(x)=\frac{1}{\sqrt{2\pi \sigma ^2}}e ^{-\frac{(x-\mu) ^2}{2\sigma ^2}} $$

ここで$Y=aX+b$の変数変換を考えます。$Y$の確率密度関数$g(y)$はどのような形になるでしょうか。

$y=ax+b$のとき$x=\frac{y-b}{a}$、$g(y)=f(x)\frac{dx}{dy}=f(x)\frac{1}{a}$ですから、これを先の式に代入してみましょう。

$$ \begin{eqnarray} g(y) &=& \frac{1}{\sqrt{2 \pi \sigma ^2}} e ^{-\frac{(\frac{y-b}{a} - \mu) ^2}{2\sigma ^2}} \cdot \frac{1}{a} \newline &=& \frac{1}{\sqrt{2 \pi a ^2 \sigma ^2}} e ^{-\frac{(y-b - a\mu) ^2}{2 a ^2 \sigma ^2}} \newline &=& \frac{1}{\sqrt{2 \pi (a \sigma) ^2}} e ^{-\frac{(y-(a\mu+b)) ^2}{2 (a \sigma) ^2}} \end{eqnarray} $$

上式の形より、$Y \sim N(a\mu + b, a ^2 \sigma ^2)$であることがわかり、$X$の一次関数もまた正規分布に従うことを意味します。

標準化: $X \sim N(\mu, \sigma ^2) \Rightarrow Z = \frac{X-\mu}{\sigma} \sim N(0, 1)$

$Z=\frac{X-\mu}{\sigma}$と言う標準化は、$a=\frac{1}{\sigma}$、$b=\frac{-\mu}{\sigma}$であるような$X$の一次関数です。

従って$Z$が正規分布に従うことは先の証明の通りです。 その平均$\mu _{z}$、分散$\sigma _{z}$は以下のようになります。

$$ \mu _{z} = \frac{1}{\sigma}\mu - \frac{\mu}{\sigma}=0 $$

$$ \sigma _{z} = \left(\frac{1}{\sigma} \right) ^2 \sigma ^2 = 1 $$

つまり、$Z \sim N(0,1)$と言うことですね。

$N(0,1)$は標準正規分布と呼ばれ、その確率密度関数は以下の式で表されます。

$$ \phi(z) = \frac{1}{\sqrt{2\pi}}e ^{-\frac{z ^2}{2}} $$