確率分布の特性値

期待値の定義

確率変数$X$の関数$g(X)$の期待値は、
$g(X)$の期待値を$E [ g(X) ]$として以下のように定義される

ただし、$E[g(X)] \lt \infty$であり、有限の値に収束しない場合は期待値は存在しない。
定義した期待値を用いて以下、分布の特性値を導き出す。

平均（$\mu$）

$g(X)=X$とすると、$E[X]$を$X$の期待値もしくは平均といい
$\mu = E[X]$と表す。
これは、分布の中心を表す特性値である。

分散（$\sigma^{2}$)

$g(X) = (X - E[X])^{2}$とおく。
$E[(X - \mu)^{2}] \lt \infty$のとき、期待値$E[(X - \mu)^{2}]$は存在し
これを$X$の分散といい、$Var(X)$もしくは$\sigma^{2}$で表される。
$\sigma = \sqrt{Var(X)}$を$X$の標準偏差という。
これは、分布の散らばりを表す特性値である。

これらを用い、分布の形状を表す特性値として歪度と尖度がある。

歪度 (skewness)
分布の中心からのズレ具合を表す特性値。
$\beta_1 = \frac{E[(X - \mu)^3]}{\sqrt{Var(X)^3}}$

尖度 (kurtosis)
分布の尖り具合を表す特性値。
$\beta_1 = \frac{E[(X - \mu)^4]}{Var(X)^2}$

$a,b,c$を定数とし、関数$g(X), g_1(X), g_2(X)$の期待値が存在する仮定の下、以下が成り立つ
(1) $E[c] = c, 特にE[1] = 1$
(2) $E[ag(X) + bg_1(X) + cg_2(X)] = aE[g(X)] + bE[g_1(X)] + cE[g_2(X)]$ （線形性）
(3) すべての$x$に対して $g(x) \ge 0 \rArr E[g(x)] \ge 0$
(4) すべての$x$に対して $g_1(x) \ge g_2(x) \rArr E[g_1(x)] \ge E[g_2(x)]$
(5) $|E[g(X)]| \le E[|g(X)|]$

(1),(2)の性質を使い、分散$Var(X)$を期待値による表現に変形すると次のようになる。
$Var(X) = E[(X - \mu)^2]= E[X^2 - 2X\mu + \mu^2] = E[X^2] - \{E[X]\}^2$
$= E[X(X - 1)] + E[X] - \{E[X]\}^2$

同様の性質を用い、$aX+b$の平均と分散を求めると
平均：$E[aX+b] = aE[X] + b$
分散：$Var(aX+b) = E[\{aX + b - E[aX+b]\}^2] = a^2E[(X - E[X])^2] =a^2Var(X)$

最後に確率変数の標準化（規格化）について触れる。
$\mu = E[X], \sigma^2 = Var(X)$である確率変数$X$に対して
新たに確率変数$Z$として
$Z = \frac{X - \mu}{\sigma}$
とすると、$Z$の平均と分散はそれぞれ、前述までの性質を用いて
平均：$E[Z] = 0$
分散：$Var(Z) = \sigma^{-2}Var(X) = 1$
となる。