確率変数と確率（密度）関数

確率変数

確率とは事象に対して定義されるが、事象を直接扱うと実際には不便な事が多く
要約したものを扱う方が実用的である。

例えば、サイコロを100回振って1が出る回数を考える場合
全事象は$6^{100}$個の元からなるが、この問題で重要なのは出方ではなく
出た回数である。この数を$X$とすると$X$の取りうる値の集合は
$\{0,1,2, \dots ,100 \}$となる。

すなわち、$X$は全事象から実数への関数で、これが確率変数である。

ここで確率変数の定義を述べる。
一般的に、$\Omega$ を全事象、$\Beta$を$\Omega$の可測集合族、$P$を$(\Omega , \Beta)$上の確率とするとき、
確率変数とは、$\omega \in \Omega$に対して$X(\omega) \in \reals$を対応させる関数$X$である。

また、任意の実数$x$に対して$X \le x$である確率は
次式のように$(\Omega, \Beta)$上で定義された確率$P$を用いて与えられる。
$P(X \le x) = P(\{ \omega \in \Omega \mid X( \omega ) \le x \})$

一般に、集合$A \subset X$に対して$P(X \in A)$となる確率は
$P(X \in A) = P(\{ \omega \in \Omega \mid X(\omega) \in A\})$
で定義され、特に$X$が区間$(a, b]$に入る確率は
$P(a \lt X \le b) = P(\{\omega \in \Omega \mid a \lt X(\omega) \le b)\})$
で与えられる。

実現値と標本空間

1つの$\omega \in \Omega$に対して、$X(\omega) = x$が定まり、この$x$を実現値といい
実現値の全体は$X = \{X(\omega) \mid \omega \in \Omega \}$で表され、これを$X$の標本空間という。

累積分布関数（分布関数）

確率変数$X$が$x$以下である確率は累積分布関数（以下、分布関数）で与えられ
以下のような式で定義する。
$F_{X}(x) = P(X \le x)$
分布関数を用いると、例えば$a \lt X \le b$となる確率は
$F_{X}(a \lt X \le b) = F(\{X \le b\} \setminus \{X \le a\}) = P(X \le b) - P(X \le a) = F<em>{X}(a) - F</em>{X}(b)$
となり、$X \gt a$となる確率は
$F_{X}(X \gt a) = F(\{ \Omega \} \setminus \{X \le a \}) = 1 - F_{X}(a)$

累積分布関数の必要十分条件

(1) $\lim_{x \rarr -\infty} F_{X}(x) = 0, \lim_{x \rarr \infty} F_{X}(x) = 1$
(2) $F_{X}(x)$は$x$の非減少関数
(3) $F_{X}(x)$は右連続関数

離散型確率変数と連続型確率変数

$F_{X}(x)$が階段関数であるとき、Xは離散型確率変数であり（例：サイコロの目など）
$F_{X}(x)$が連続関数であるとき、Xは連続型確率変数である（例：身長、体重など）。

累積分布関数とはすなわち$X \le x$となる確率を表していたが
ここでは$X = x$となる確率を求める。

まず、離散型確率変数$X$に対して、次のような確率関数を与える。
$f_{X}(x) = P(X= x)$
$X$に対する標本空間$X = \{x_{1}, x_{2}, \dots \}, x_{1} \lt x_{2} \lt \cdots$
$p(x_{i}) = P(X_{i} = x_{i}), i = 1,2, \cdots$ とすると確率関数は以下のようになる。

ただし、$f_{X}(x_{i}) \ge 0 \sum_{i = 1}^{\infty}f_{X}(x_{i}) =1$
累積分布関数は$F_{X}(x) = \sum_{i:x_{i} \le x} f_{X}(x_{i})$
となり、これより確率関数$f_{X}(x)$は以下のように導かれる。
$f_{X}(x) = F_{X}(x) - F_{X}(x-)$
($F_{X}(x-)$は$x$に負側から近づけたときの$F_{X}(\dot)$の極限値）
この式より、
$x=x_{i}$のとき、$f_{X}(x_{i}) = F_{X}(x_{i}) - F_{X}(x_{i}-)=p(x_{i})$
$x_{i} \lt x \lt x_{i+1}$のとき、$f_{X}(x) = F{X}(x) - F{X}(x-)=0$
が確かめられる。

次に、連続型確率変数$X$に対して、

となる関数$f_{X}(x)$が存在するとき、$f_{X}(x)$を確率密度関数という。
ただし、$f_{X}(x) \ge 0 \int_{-\infty}^{\infty}f_{X}(x)dx =1$