統計学

連続分布の積率母関数【統計学】

  1. HOME >
  2. 統計学 >

連続分布の積率母関数【統計学】

スポンサーリンク

ここでは積率母関数を定義し、様々な分布の積率母関数を導出していく。

積率母関数と積率(モーメント)との関係も述べる。

離散分布の積率母関数については、離散分布の積率母関数を参照されたい。

連続確率変数の積率母関数

連続確率変数に対する積率母関数は、離散分布の積率母関数の(1)式と同様に次のように定義される。

定義1 積率母関数

確率密度関数\(f(x)\)をもつ連続確率変数\(X\)の積率母関数は、任意の実数\(t\)に対して、次で定義される。\begin{align}\label{eq1}M_X(t)=\mathrm{E}[e^{t X}] = \int_{-\infty}^{\infty}e^{t x}f(x)dx.\tag{1}\end{align}

確率変数\(X\)のモーメント\(\mu_i<\infty, i=1,2, \ldots\)が存在し、\(f(x)\)を\eqref{eq1}の積分が有限であることを仮定すると、\(e^{t x}\)をべき級数に展開し項別に積分を行えば、\(M_X(t)\)は

\begin{align}M_X(t) &= \int_{-\infty}^{\infty}\left[1+t x+\cfrac{t^2 x^2}{2!}+\cfrac{t^3x^3}{3!}+\cdots\right]f(x)dx\\\label{eq2}&=\int_{-\infty}^{\infty}f(x)dx +t\int_{-\infty}^{\infty} xf(x)dx+t^2\int_{-\infty}^{\infty}x^2f(x)dx+\cdots \\&=1+t\mu_1+\cfrac{t^2}{2!}\mu_2+\cfrac{t^3}{3!}\mu_3+\cdots.\tag{2}\end{align}

となり、離散分布の積率母関数の(2)式と同じ形となることがわかる。また、連続確率変数\(X\)の関数\(g(X)\)の積率母関数は、\(e^{t x}\)を\(e^{t g(x)}\)で置き換えることで定義される。

定義2 連続確率変数の積率母関数の一般化

\begin{align}\label{eq3}M_{g(X)}(t)=\mathrm{E}[e^{t g(X)}] = \int_{-\infty}^{\infty}e^{t g(x)}f(x)dx.\tag{3}\end{align}

この定義から、連続確率変数\(X\)の関数\(g(X)\)のモーメントを積率母関数を用いて計算することが可能である。

次に、連続確率変数の積率母関数の定義から積率母関数の重要な性質を述べる。\(c\)を任意の定数、\(h(X)\)は確率変数\(X\)の関数であり、その積率母関数は存在することを仮定する。このとき、\eqref{eq3}の関数\(g(X)\)を\(g(X)=ch(X)\)とおくことで、

\begin{align}M_{g(X)}(t) &= M_{ch(t)}(t) = \int_{-\infty}^{\infty}e^{t ch(x)}f(x)dx = M_{h(X)}(ct)\end{align}

を得る。また\(g(X) = h(X)+c\)とすると

\begin{align}M_{g(X)}(t) &= M_{h(X)+c}(t)\\&= \int_{-\infty}^{\infty}e^{t\bigl\{h(x)+c\bigr\}}f(x)dx\\&= e^{t c}\int_{-\infty}^{\infty}e^{t h(x)}f(x)dx\\&=e^{t c}M_{h(X)}(t)\end{align}

を得る。ここで、\eqref{eq3}の定義と同様の記号に揃えるために、\(h(X)\)を\(g(X)\)とすると次の補題を得る。

補題1 積率母関数の性質

\(c\)を任意の定数、\(g(X)\)を積率母関数が存在する確率変数\(X\)の任意の関数とすると \begin{gather}M_{cg(X)}(t) = M_{g(X)}(ct),\\\label{eq4}\tag{4}\\M_{g(X)+c}(t)=e^{ct}M_{g(X)}(t)\end{gather}が成り立つ。

\eqref{eq4}は、任意の定数\(c\)と確率変数\(X\)の関数\(g(X)\)との積と和の積率母関数はいずれも\(g(X)\)の積率母関数で表現できることを意味する。

連続分布の積率母関数

連続一様分布

確率変数\(X\)が連続一様分布に従うとき、\(a<b\)に対して、\(X\)の確率関数は次で与えられる。

\begin{align}f(x) = \left\{\begin{array}{cc}\cfrac{1}{b-a}, & a\leq x\leq b,\\0, & otherwise\end{array}\right.\end{align}

連続一様分布に従う確率変数の積率母関数を導出する。連続確率変数の積率母関数の定義より、\(X\)の積率母関数\(M_X(t)\)は

\begin{align}M_X(t) &= \int_{a}^b e^{t x}\cfrac{1}{b-1}dx\\&= \cfrac{1}{b-a}\left[\cfrac{e^{t x}}{t}\right]_a^b\\&=\cfrac{e^{t b}-e^{t a}}{t(b-a)}\end{align}

である。積率母関数からモーメントを導出するために、\(e^{t a}\)と\(e^{t b}\)をテイラー展開により次のように表現する。

\begin{align}e^{t a} &= \sum_{i=0}^{\infty}\cfrac{(t a)^i}{i!} ,\\e^{t b}&= \sum_{i=0}^{\infty}\cfrac{(t b)^i}{i!}.\end{align}

これを用いると、\(X\)の1次モーメントは

\begin{align}\mu_1 &=\left. \cfrac{dM_X(t)}{dt}\right|_{t=0}\\&=\left.\cfrac{d}{dt} \cfrac{e^{t b}-e^{t a}}{t(b-a)}\right|_{t=0}\\&=\left.\cfrac{d}{dt} \cfrac{\sum_{i=0}^{\infty}(t b)^i/i!- \sum_{i=0}^{\infty}(t a)^i/i!}{t(b-a)}\right|_{t=0}\\&=\left.\cfrac{d}{dt} \cfrac{\sum_{i=0}^{\infty}(b^i-a^i)t^i/i!}{t(b-a)}\right|_{t=0}\\&=\left.\cfrac{d}{dt}\left[1+\cfrac{b^2-a^2}{2!(b-a)}t+\cfrac{b^3-a^3}{3!(b-a)}t^2+\cdots\right]\right|_{t=0}\\&=\left.\cfrac{b^2-a^2}{2!(b-a)}+2\cfrac{b^3-a^3}{3!(b-a)}t+\cdots\right|_{t=0}\\&=\cfrac{a+b}{2}\end{align}

であり2次モーメントは

\begin{align}\mu_2&=\left.\cfrac{d^2}{dt^2}M_X(t)\right|_{t=0}\\&=\left.\cfrac{d}{dt}\left[\cfrac{b^2-a^2}{2!(b-a)}+2\cfrac{b^3-a^3}{3!(b-a)}t+\cdots\right]\right|_{t=0}\\&=\left. 2\cfrac{b^3-a^3}{3!(b-a)}+6\cfrac{b^4-a^4}{4!(b-a)}t+\cdots\right|_{t=0}\\&=\cfrac{a^2+ab+b^2}{3}\end{align}

である。故に\(X\)の期待値と分散は、それぞれ

\begin{align}\mathrm{E}[X]&=\mu_1=\cfrac{a+b}{2},\\\mathrm{Var}[X]&=\mu_2-\mu_1^2\\&=\cfrac{a^2+ab+b^2}{3}-\cfrac{a^2+2ab+b^2}{4}\\&=\cfrac{(a-b)^2}{12}\end{align}

である。

正規分布

確率変数\(X\)が正規分布に従うとき、実数\(\mu\)、\(\sigma^2>0\)に対して、\(X\)の確率関数は次で与えられる。

\begin{align}f(x)=\cfrac{1}{\sqrt{2\pi\sigma^2}}\exp\left\{-\cfrac{(x-\mu)^2}{2\sigma^2}\right\}, \ \ -\infty<x<\infty .\end{align}

正規分布に従う確率変数の積率母関数を導出する。\(X\)の積率母関数\(M_X(t)\)を求めるために補題1を利用する。\(g(X)=X-\mu\)の積率母関数は次で与えられる。

\begin{align}M_{g(X)}(t) &= M_{X-\mu}(t)\\\label{eq5}&=e^{-\mu t}M_X(t)\tag{5}\end{align}

したがって\(X-\mu\)の積率母関数を求めることで、\(X\)の積率母関数を求めることができる。\(X-\mu\)の積率母関数は

\begin{align}M_{X-\mu}(t) &= \int_{-\infty}^{\infty}e^{t(x-\mu)}\cfrac{1}{\sqrt{2\pi\sigma^2}}\exp\left\{-\cfrac{(x-\mu)^2}{2\sigma^2}\right\}dx\\&=\int_{-\infty}^{\infty}\cfrac{1}{\sqrt{2\pi\sigma^2}}\exp\left\{-\cfrac{(x-\mu)^2-2\sigma^2t(x-\mu)}{2\sigma^2}\right\}dx\\&=e^{\frac{1}{2}\sigma^{2}t^2}\int_{-\infty}^{\infty}\cfrac{1}{\sqrt{2\pi\sigma^2}}\exp\left[-\cfrac{\bigl\{x-(\mu+\sigma^2t)\bigr\}^2}{2\sigma^2}\right]dx\\\label{eq6}&=e^{\frac{1}{2}\sigma^{2}t^2}\tag{6}\end{align}

となる。\eqref{eq5}の右辺は、3行目の被積分関数が平均\(\mu+\sigma^2t\)、分散\(\sigma^2\)の正規分布であり、\(-\infty < x< \infty\)の範囲で積分をすると\(1\)となることからいえる。よって、\eqref{eq6}を\eqref{eq5}に代入することで、\(X\)の積率母関数は次となる。

\begin{align}M_X(t)&=e^{\mu t+\frac{1}{2}\sigma^2t^2}.\end{align}

また\(X\)の1次モーメントは

\begin{align}\mu_1&=\left.\cfrac{dM_X(t)}{dt}\right|_{t=0}\\&=\left.\cfrac{d}{dt}e^{\mu t+\frac{1}{2}\sigma^2t^2}\right|_{t=0}\\&=\left. (\mu+\sigma^{2}t)e^{\mu t+\frac{1}{2}\sigma^2t^2}\right|_{t=0}\\&=\mu\end{align}

であり、2次モーメントは

\begin{align}\mu_2&=\left.\cfrac{d^2M_X(t)}{dt^2}\right|_{t=0}\\&=\left.\cfrac{d}{t}(\mu+\sigma^{2}t)e^{\mu t+\frac{1}{2}\sigma^2t^2}\right|_{t=0}\\&=\left. \sigma^{2}e^{\mu t+\frac{1}{2}\sigma^2t^2}+(\mu+\sigma^{2}t)^2e^{\mu t+\frac{1}{2}\sigma^{2}t^2}\right|_{t=0}\\&=\sigma^{2}+\mu^2\end{align}

である。故に\(X\)の期待値と分散は、それぞれ

\begin{align}\mathrm{E}[X]&=\mu_1=\mu,\\\mathrm{Var}[X]&=\mu_2-\mu_1^2\\&=\sigma^2+\mu^2-\mu^2\\&=\sigma^2\end{align}

である。

ガンマ分布

確率変数\(X\)がガンマ分布に従うとき、実数\(k > 0\)、\(\theta>0\)に対して、\(X\)の確率関数は次で与えられる。

\begin{align}f(x) = \left\{\begin{array}{cc}\cfrac{1}{\Gamma(k)\theta^{k}}x^{k-1}e^{-\frac{x}{\theta}}, & x\geq 0, \\0,&x <0.\end{array}\right.\end{align}

ガンマ分布に従う確率変数の積率母関数を導出する。\(X\)の積率母関数\(M_X(t)\)は

\begin{align}M_X(t) &= \int_{0}^{\infty} e^{tx}\cfrac{1}{\Gamma(k)\theta^{k}}x^{k-1}e^{-\frac{x}{\theta}}dx\\\label{eq7}&= \cfrac{1}{\Gamma(k)\theta^{k}}\int_{0}^{\infty} x^{k-1}e^{-\left(\frac{1}{\theta}-t\right)x}dx\tag{7}\end{align}

となり、ここでガンマ関数に変数変換を行うことで、\(\mathrm{Re}, b>0\)を満たす複素数\(b\)に対し

\begin{align} \label{eq8}\int_0^{\infty}u^{b-1}e^{-au}du = \cfrac{\Gamma(b)}{a^{b}}\tag{8}\end{align}

という関係が成り立つことより、\eqref{eq7}は次で表される。

\begin{align}\cfrac{1}{\Gamma(k)\theta^{k}}\int_{0}^{\infty} x^{k-1}e^{-\left(\frac{1}{\theta}-t\right)x}dx&= \cfrac{1}{\Gamma(k)\theta^{k}}\cfrac{\Gamma(k)}{(1/\theta-t)^k}\\&=(1-\theta t)^{-k}.\end{align}

また、\(X\)の1次モーメントは

\begin{align}\mu_1&=\left.\cfrac{dM_X(t)}{dt}\right|_{t=0}\\&=\left.\cfrac{d}{dt}(1-\theta t)^{-k}\right|_{t=0}\\&=\left.\theta k(1-\theta t)^{-k-1}\right|_{t=0}\\&=\theta k\end{align}

であり、2次モーメントは

\begin{align}\mu_2&=\left.\cfrac{d^2M_X(t)}{dt^2}\right|_{t=0}\\&=\left.\cfrac{d}{dt}\theta k(1-\theta t)^{-k-1}\right|_{t=0}\\&=\left.\theta^2 k(k+1)(1-\theta t)^{-k-2}\right|_{t=0}\\&=\theta^2 k(k+1)\end{align}

である。故に\(X\)の期待値と分散は、それぞれ

\begin{align}\mathrm{E}[X] &= \mu_1 = \theta k,\\\mathrm{Var}[X]&=\mu_2-\mu_1^2\\&=\theta^2 k(k+1) - (\theta k)^2\\&=\theta^2 k\end{align}

である。

指数分布

確率変数\(X\)がガンマ分布に従うとき、\(\lambda>0\)に対して、\(X\)の確率関数は次で与えられる。

\begin{align}f(x) = \left\{\begin{array}{cc}\lambda e^{-\lambda x}, & x\geq 0,\\0,&x <0.\end{array}\right.\end{align}

指数分布に従う確率変数の積率母関数を導出する。\(X\)の積率母関数\(M_X(t)\)は

\begin{align}M_X(t)&=\int_0^{\infty}e^{tx}\lambda e^{-\lambda x}dx\\&=\lambda\int_0^{\infty}e^{-(\lambda -t)x}dx\\&=\left[-(\lambda-t)^{-1} e^{-(\lambda-t)x}\right]_0^{\infty}\\&=(1-t/\lambda)^{-1}\end{align}

である。また、\(X\)の1次モーメントは

\begin{align}\mu_1&=\left.\cfrac{dM_X(t)}{dt}\right|_{t=0}\\&=\left.\cfrac{d}{dt}(1-t/\lambda)^{-1}\right|_{t=0}\\&=\left.\lambda^{-1}(1-t/\lambda)^{-2}\right|_{t=0}\\&=\lambda^{-1}\end{align}

であり、2次モーメントは

\begin{align}\mu_2&=\left.\cfrac{d^2M_X(t)}{dt^2}\right|_{t=0}\\&=\left.\cfrac{d}{dt}\lambda^{-1}(1-t/\lambda)^{-2}\right|_{t=0}\\&=\left.2\lambda^{-2}(1-t/\lambda)^{-3}\right|_{t=0}\\&=2\lambda^{-2}\end{align}

である。故に\(X\)の期待値と分散は

\begin{align}\mathrm{E}[X]&=\mu_1=\lambda^{-1},\\\mathrm{Var}[X]&=\mu_2-\mu_1^2\\&=2\lambda^{-2}-(\lambda^{-1})^2\\&=\lambda^{-2}\end{align}

である。

カイ2乗分布

確率変数\(X\)がカイ2乗分布に従うとき、\(k\in\{1,2,\ldots\}\)に対して、\(X\)の確率密度関数は次で与えられる。

\begin{align}f(x) = \left\{\begin{array}{cc}\cfrac{x^{\frac{k}{2}-1}e^{-\frac{x}{2}}}{2^{\frac{k}{2}}\Gamma(\frac{k}{2})},& x\geq 0,\\0,&x<0.\end{array}\right.\end{align}

カイ2乗分布に従う確率変数の積率母関数を導出する。\(X\)の積率母関数\(M_X(t)\)は、\eqref{eq8}を用いることで

\begin{align}M_X(t) &= \int_{0}^{\infty}e^{tx}\cfrac{x^{\frac{k}{2}-1}e^{-\frac{x}{2}}}{2^{\frac{k}{2}}\Gamma(\frac{k}{2})}dx\\&=\cfrac{1}{2^{\frac{k}{2}}\Gamma(\frac{k}{2})}\int_{0}^{\infty}x^{\frac{k}{2}-1}e^{-\frac{1}{2}(1-2t)x}\\&=\cfrac{1}{2^{\frac{k}{2}}\Gamma(\frac{k}{2})}\cfrac{\Gamma(\frac{k}{2})}{\bigl\{(1-2t)/2\bigr\}^{\frac{k}{2}}}\\&=(1-2t)^{-\frac{k}{2}}\end{align}

となる。また、\(X\)の1次モーメントは

\begin{align}\mu_1&=\left.\cfrac{dM_X(t)}{dt}\right|_{t=0}\\&=\left.\cfrac{d}{dt}(1-2t)^{-\frac{k}{2}}\right|_{t=0}\\&=\left. k(1-2t)^{-\frac{k}{2}-1}\right|_{t=0}\\&=k\end{align}

であり、2次モーメントは

\begin{align}\mu_2&=\left.\cfrac{d^2M_X(t)}{dt^2}\right|_{t=0}\\&=\left.\cfrac{d}{dt}k(1-2t)^{-\frac{k}{2}-1}\right|_{t=0}\\&=\left. k(k+2)(1-2t)^{-\frac{k}{2}-2}\right|_{t=0}\\&=k(k+2)\end{align}

である。故に、\(X\)の期待値と分散は、それぞれ

\begin{align}\mathrm{E}[X]&=\mu_1=k,\\\mathrm{Var}[X]&=\mu_2-\mu_1^2\\&=k(k+2)-k^2\\&=2k\end{align}

である。

ベータ分布

確率変数\(X\)がベータ分布に従うとき、実数\(\alpha >0\)と\(\beta>0\)に対して、\(X\)の確率密度関数は次で与えられる。

\begin{align}f(x)=\left\{\begin{array}{cc}\cfrac{x^{\alpha-1}(1-x)^{\beta-1}}{B(\alpha, \beta)},&  0\leq x \leq 1,\\0,&otherwise.\end{array}\right.\end{align}

ベータ分布に従う確率変数の積率母関数を導出する。\(X\)の積率母関数\(M_X(t)\)は

\begin{align}M_X(t)&=\int_{0}^{1}e^{tx}\cfrac{x^{\alpha-1}(1-x)^{\beta-1}}{B(\alpha, \beta)}dx\\&=\cfrac{1}{B(\alpha, \beta)}\int_0^{1}\left\{\sum_{i=0}^{\infty}\cfrac{(tx)^i}{i!}\right\} x^{\alpha-1}(1-x)^{\beta-1}dx\\\label{eq9}&=\cfrac{1}{B(\alpha, \beta)}\sum_{i=0}^{\infty}\cfrac{t^i}{i!}\int_0^{1} x^{\alpha+i-1}(1-x)^{\beta-1}dx\tag{9}\end{align}

となる。ここでベータ関数は、\(\mathrm{Re}\ (y)>0, \mathrm{Re}\ z>0\)を満たす複素数\(y, z\)に対して

\begin{align}B(y,z) = \int_0^1u^{y-1}(1-u)^{z-1}du\end{align}

で定義されることから、\eqref{eq9}は次となる。

\begin{align}&\cfrac{1}{B(\alpha, \beta)}\sum_{i=0}^{\infty}\cfrac{t^i}{i!}\int_0^{1} x^{\alpha+i-1}(1-x)^{\beta-1}dx\\&=\cfrac{1}{B(\alpha, \beta)}\sum_{i=0}^{\infty}\cfrac{t^i}{i!}B(\alpha+i, \beta)\\&=1+\sum_{i=1}^{\infty}\left\{\cfrac{B(\alpha+i, \beta)}{B(\alpha,\beta)}\right\}\cfrac{t^i}{i!}\\&=1+\sum_{i=1}^{\infty}\left\{\cfrac{\Gamma(\alpha+i)\Gamma(\beta)/\Gamma(\alpha+\beta+i)}{\Gamma(\alpha)\Gamma(\beta)/\Gamma(\alpha+\beta)}\right\}\cfrac{t^i}{i!}\\&=1+\sum_{i=1}^{\infty}\left\{\cfrac{\Gamma(\alpha+i)\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\alpha+\beta+i)}\right\}\cfrac{t^i}{i!}\\&=1+\sum_{i=1}^{\infty}\left\{\cfrac{\Gamma(\alpha)\prod_{j=0}^{i-1}(\alpha+j)\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\alpha+\beta)\prod_{j=0}^{i-1}(\alpha+\beta+j)}\right\}\cfrac{t^i}{i!}\\&=1+\sum_{i=1}^{\infty}\left(\prod_{j=0}^{i-1}\cfrac{\alpha+j}{\alpha+\beta+j}\right)\cfrac{t^i}{i!}.\end{align}

また、\(X\)の1次モーメントは

\begin{align}\mu_1&=\left.\cfrac{dM_X(t)}{dt}\right|_{t=0}\\&=\left.\cfrac{d}{dt}\left[1+\sum_{i=1}^{\infty}\left(\prod_{j=0}^{i-1}\cfrac{\alpha+j}{\alpha+\beta+j}\right)\cfrac{t^i}{i!}\right]\right|_{t=0}\\&=\left.\sum_{i=1}^{\infty}\left(\prod_{j=0}^{i-1}\cfrac{\alpha+j}{\alpha+\beta+j}\right)\cfrac{it^{i-1}}{i!}\right|_{t=0}\\&=\cfrac{\alpha}{\alpha+\beta}\end{align}

であり、2次モーメントは

\begin{align}\mu_2&=\left.\cfrac{d^2M_X(t)}{dt^2}\right|_{t=0}\\&=\left.\right|_{t=0}\cfrac{d}{dt}\left.\sum_{i=1}^{\infty}\left(\prod_{j=0}^{i-1}\cfrac{\alpha+j}{\alpha+\beta+j}\right)\cfrac{it^{i-1}}{i!}\right|_{t=0}\\&=\left.\right|_{t=0}\\&=\left.\sum_{i=1}^{\infty}\left(\prod_{j=0}^{i-1}\cfrac{\alpha+j}{\alpha+\beta+j}\right)\cfrac{i(i-1)t^{i-2}}{i!}\right|_{t=0}\\&=\cfrac{\alpha(\alpha+1)}{(\alpha+\beta)(\alpha+\beta+1)}\end{align}

である。\(X\)の期待値と分散は、それぞれ

\begin{align}\mathrm{E}[X] &= \mu_1 = \cfrac{\alpha}{\alpha+\beta},\\\mathrm{Var}[X] &=\mu_2-\mu_1^2\\&=\cfrac{\alpha(\alpha+1)}{(\alpha+\beta)(\alpha+\beta+1)}-\left(\cfrac{\alpha}{\alpha+\beta}\right)^2\\&=\cfrac{\alpha\bigl\{(\alpha+1)(\alpha+\beta) -\alpha(\alpha+\beta+1)\bigr\}}{(\alpha+\beta)^2(\alpha+\beta+1)}\\&=\cfrac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)}\end{align}

である。

スポンサーリンク

  • この記事を書いた人
  • 最新記事

usagi-san

統計学とゲームとかをメインに解説していくよ。 数式とかプログラミングコードにミスがあったり質問があったりする場合はコメントで受け付けます。すぐに対応します。

-統計学
-

© 2022 ウサギさんの統計学サロン Powered by AFFINGER5