【統計学】確率分布の無記憶性

確率分布の重要な性質である無記憶性について解説する。

無記憶性の定義を紹介し、幾何分布と指数分布についてこの性質が成り立つことを示す。

無記憶性

定義１　離散確率分布の無記憶性

集合\(\{0, 1, 2, \ldots\}\)上の離散確率変数を\(X\)とする。\(m, n\in\{0, 1, 2, \ldots\}\)次が成り立つとき、\(X\)の従う分布は無記憶性をもつという。\begin{align}\label{eq1}\mathrm{Pr}\{X > m + n | X >m\} = \mathrm{Pr}\{X > n\},\tag{1}\end{align}ここに、\(\mathrm{Pr}\{X > m+n | X\geq m\}\)は、\(X\)が\(m\)より大きいとき、\(X\)が\(m+n\)より大きくなる条件付き確率である。

定義２　連続分布の無記憶性

集合\([0, \infty)\)上の連続確率変数を\(X\)とする。\(t, s\in [0, \infty)\)次が成り立つとき、\(X\)の従う分布は無記憶性をもつという。\begin{align}\label{eq2}\mathrm{Pr}\{X > t + s | X > t\} = \mathrm{Pr}\{X > s\},\tag{2}\end{align}

定義1、定義2から分かるように、「無記憶性」とは、特定のイベントまでの時間に関する分布が、経過した時間に依存しないことを意味します。

様々な分布の無記憶性

幾何分布

幾何分布の無記憶性を示す。

確率変数\(X\)は幾何分布に従うとする。このとき\(X\)は次の確率関数を持つ。

\begin{align}\mathrm{Pr}\{ X = k\} = (1-p)^{k-1}p,\ \ k = 1, 2, \ldots.\end{align}

ここで、条件付き確率の定義より、\(\mathrm{Pr}\{X > m + n | X \geq m\}\)は次のように書き換えられる。

\begin{align}\mathrm{Pr}\{X > m + n | X > m\} &= \cfrac{\mathrm{Pr}\{X > m + n, X > m \}}{\mathrm{Pr}\{X > m\}}\\\label{eq3}&= \cfrac{\mathrm{Pr}\{X > m + n\}}{\mathrm{Pr}\{X > m\}}.\tag{3}\end{align}

上式の右辺に幾何分布の分布関数を適用することで次が成り立つ。

\begin{align}\cfrac{\mathrm{Pr}\{X > m + n\}}{\mathrm{Pr}\{X > m\}} &= \cfrac{1 - \mathrm{Pr}\{X \leq m+n\}}{1- \mathrm{Pr}\{X \leq m\}}\\&= \cfrac{1-\bigl\{1-(1-p)^{m+n }\bigr\} }{1-\bigl\{1- (1-p)^{m}\bigr\}}\\&= \cfrac{(1-p)^{m+n }}{(1-p)^{m}} \\ &= (1-p)^{n} \\&= 1 -\bigl\{1-(1-p)^{n}\bigr\}\\ &= \mathrm{Pr}\{X \geq n-1\}\\&= \mathrm{Pr}\{X > n\}\end{align}

よって、幾何分布に従う確率変数は\eqref{eq1}を満たすことが示された。故に、幾何分布は無記憶性をもつ。

指数分布

指数分布の無記憶性を示す。

確率変数\(X\)は幾何分布に従うとする。このとき\(X\)は次の確率関数を持つ。

\begin{align}f_X(x) = \left\{\begin{array}{cc}\lambda e^{\lambda x},& x \geq 0,\\ 0, & x < 0. \end{array}\right.\end{align}

条件付き確率の定義から、\eqref{eq2}は次のように書き換えられる。

\begin{align}\mathrm{Pr}\{X > t + s | X > t\} &= \cfrac{\mathrm{Pr}\{X > t+s, X > t\}}{\mathrm{Pr}\{X>t\}}\\&= \cfrac{\mathrm{Pr}\{X > t+s\}}{\mathrm{Pr}\{X>t\}}.\end{align}

上式の右辺に指数分布の分布関数を適用することで次が成り立つ。

\begin{align}\cfrac{\mathrm{Pr}\{X > t+ s\}}{\mathrm{Pr}\{X > t\}} &= \cfrac{1 - \mathrm{Pr}\{X \leq t+s\}}{1- \mathrm{Pr}\{X \leq t\}} \\ &= \cfrac{1-\bigl\{1- e^{-\lambda(t+s)}\bigr\}}{1 - \bigl\{1 - e^{-\lambda t}\bigr\}}\\&= \cfrac{ e^{-\lambda(t+s)} }{e^{-\lambda t}}\\&=e^{-\lambda s}\\&= 1 \bigl\{1 - e^{-\lambda s}\bigr\}\\ &=\mathrm{Pr}\{X \geq s\} \\&= \mathrm{Pr}\{X > s\}. \end{align}

したがって、指数分布に従う確率変数に対して、\eqref{eq2}が成り立つ。故に指数分布は無記憶性をもつ。