【統計学】ベルヌ―イ分布の和の分布　ベルヌーイ分布と二項分布の関係

ベルヌーイ分布と二項分布の関係性についてみていく。

独立同一にベルヌーイ分布に従う確率変数の和が二項分布に従うことベルヌーイ分布の特性関数を利用し証明する。

ベルヌーイ分布と二項分布の確率質量関数と特性関数については、以下を参照されたい。

: 【統計学】ベルヌーイ分布の確率質量関数
ベルヌーイ分布の確率質量関数について解説する。ベルヌーイ分布の確率質量関数の定義を与え、解釈の仕方やベルヌーイ分布の例についてを紹介する。また、ベルヌーイ分布との関係についても触れる。ベルヌーイ ...
続きを見る

: 離散分布の特性関数【統計学】
ここでは特性関数を定義し、様々な分布の特性関数を導出していく。特性関数と確率関数との関係、また、積率（モーメント）との関係も述べる。離散確率変数の特性関数ある確率変数に対して、特性関数が存在する ...
続きを見る

ベルヌーイ分布の和の分布

独立同一にベルヌーイ分布に従う確率変数の和の分布についてみていく。以降、\(X_1, X_2, \ldots, X_n,\ i.i.d.\sim \mathrm{Bernoulli}(p)\)とする。このとき、\(X_i\)は次の確率質量関数と特性関数をもつ。

\begin{align}\mathrm{Pr}\{X_i= 1\} &= p,\quad \mathrm{Pr}\{ X_i = 0\} = 1 - p,\\ \label{eq1} \phi_{X_i}(t) &= (1-p) + pe^{it}\tag{1} .\end{align}

ベルヌーイ分布の和の分布

パラメータ\(p\)の\(n\)個の独立なベルヌーイ分布の和の分布は、次に示すようにパラメータ\(n\)、\(p\)の二項分布に従う。

ベルヌーイ分布の和の分布

ベルヌーイ分布の和\( Y = \sum_{i = 1}^n X_i\)は次の確率質量関数をもつ。

\begin{align} \mathrm{Pr}\{ Y = k\} = \begin{pmatrix}n\\ k\end{pmatrix} p^k(1 - p)^{n - k} .\end{align}

すなわち\(Y \sim \mathrm{Bi}(n, p)\)である。

ベルヌーイ試行は確率\(p\)で成功し\(1- p\)で失敗する事象であるため、その和は成功の総数、すなわち二項分布となることが分かる。このように直感的にベルヌーイ分布の和が二項分布に従うことが理解できる。

証明

ベルヌーイ分布の和が二項分布に従うことを厳密に証明する。\(X1, X_2, \ldots, X_n\)は独立同一にベルヌーイ分布に従うので、確率変数の和の分布より、\(Y = \sum_{i=1}^nX_i\)の特性関数は

\begin{align}\phi_Y(t) &= \prod_{i=1}^n \phi_{X_i}(t). \end{align}

よって\eqref{eq1}より

\begin{align}\phi_Y(t) &=\bigl\{ (1-p) + pe^{it}\bigr\}^n\\ &= \sum_{i=0}^n \begin{pmatrix}n \\k \end{pmatrix} (pe^{it})^k (1-p)^{n - k} \\ \label{eq2} &= \sum_{i=0}^n e^{itk}\begin{pmatrix}n \\k \end{pmatrix} p^k (1-p)^{n - k} .\tag{2} \end{align}

2行目の等号は二項展開を用いた。\eqref{eq2}の\(e^{itk}\)の係数

\begin{align}\begin{pmatrix}n \\k \end{pmatrix} p^k (1-p)^{n - k} \end{align}

は二項分布の確率質量関数である。故に、\(Y\sim \mathrm{Bi}(n,p)\)である.□

ベルヌーイ分布と二項分布の関係

ベルヌーイ分布は二項分布の特殊なケースであることを確認する。\(Y \sim \mathrm{Bi}(n, p)\)の確率質量関数

\begin{align} \mathrm{Pr}\{Y = k\} = \begin{pmatrix}n \\k \end{pmatrix} p^k (1-p)^{n - k}, \quad k \in \{0, 1, \ldots, n\}\end{align}

に\(n = 1\)を適用すると、次を得る。

\begin{align}\mathrm{Pr}\{ Y = k\} &= \begin{pmatrix}1 \\ k\end{pmatrix} p^k (1-p)^{1 - k}\\ &= 1\cdot p^{\delta_{1k}} (1-p)^{\delta_{0k}}\\ &= p^{\delta_{1k}} (1-p)^{\delta_{0k}}, \quad k \in \{0, 1\},\end{align}

ここに\(\delta_{ij}\)はクロネッカーのデルタである。上式の右辺は次のベルヌーイ分布の確率質量関数と同値である

。\begin{align}\mathrm{Pr}\{X_i= 1\} &= p,\quad \mathrm{Pr}\{ X_i = 0\} = 1 - p.\end{align}

パラメータ\(n=1\)の二項分布\(\mathrm{Bi(1, p)}\)はベルヌーイ分布\(\mathrm{Bernoulli}(p)\)であることが分かる。