統計学

【統計学】期待値の性質・多変数分布のモーメント

  1. HOME >
  2. 統計学 >

【統計学】期待値の性質・多変数分布のモーメント

スポンサーリンク

多変数分布のモーメントに関する様々な性質をみていく。

多変数分布のモーメントの定義を与えて、和や積などの様々な性質を導出する。

また、独立な確率変数の和の期待値や分散をどのように表現できるかみていく。

多変数分布のモーメント

多変数分布のモーメントを定義する。ここでは、連続分布の場合のみ考える。

定義1 多変数分布のモーメント

多変数分布のモーメント

連続確率変数\(X_1, \ldots, X_n\)は確率密度関数\(f(x_1, \ldots, x_n)\)をもつとする。また、\(X_1, \ldots, X_n\)の任意の関数を\(h(X_1, \ldots, X_n)\)とする。このとき、\(h(X_1, \ldots, X_n)\)のモーメントは次で定義される。

\begin{align}\label{eq1} \mathrm{E}[h(X_1, \ldots, X_n)] = \int_{-\infty}^{\infty}\cdots \int_{-\infty}^{\infty} h(x_1, \ldots, x_n) f(x_1, \ldots, x_n) dx_1 \cdots dx_n.\tag{1}\end{align}

上の定義より、\eqref{eq1}が単変量の場合の連続分布のモーメントが多変数へと拡張されていることが確認できる。\(h(X_1, \ldots, X_n)\)は確率変数\(X_1, \ldots, X_n\)から構成される任意の関数であり、これにより周辺分布の各期待値\(\mathrm{E}[X_i]\ , i=1, \ldots, n\)や分散\(\mathrm{Var}[X_i] = \mathrm{E}[(X_i - \mathrm{E}[X_i])^2],\ i=1,\ldots, n\)などが定義されることがわかる。

また、確率変数\(X_1, \ldots, X_n\)から成る任意の関数の\(k\)乗のモーメントや積率母関数にも興味がある。定義1より、任意の関数\(g(X_1, \ldots, X_n)\)の\(k\)乗のモーメントは次のように書ける。

\begin{align} \mathrm{E}[g^k(X_1, \ldots, X_n)] = \int_{-\infty}^{\infty}\cdots \int_{-\infty}^{\infty} g^k(x_1, \ldots, x_n) f(x_1, \ldots, x_n) dx_1 \cdots dx_n.\end{align}

\(g(X_1, \ldots, X_n)\)の積率母関数は次のように書ける。

\begin{align}\label{eq2} M_g(t) = \mathrm{E}[e^{tg(X_1, \ldots, X_n)}] = \int_{-\infty}^{\infty} \cdots \int_{-\infty}^{\infty} e^{tg(x_1, \ldots, x_n)} f(x_1, \ldots, x_n) dx_1\cdots dx_n\tag{2}\end{align}

期待値の性質

任意の定数を\(c\)とする。\eqref{eq1}の多変数分布のモーメントの定義より、\(h(X_1, \ldots, X_n) = cg(X_1, \ldots, X_n)\)と置くことで次の性質を得る。

\begin{align}\mathrm{E}\bigl[cg(X_1, \ldots, X_n)\bigr] = c\mathrm{E}\bigl[g(X_1, \ldots, X_n)\bigr]\end{align}

また、任意の関数\(g_1(X_1, \ldots, X_n)\)と\(g_2(X_1, \ldots, X_n)\)に対して次の和の性質が容易に成り立つことが分かる。

\begin{align}\mathrm{E}\bigl[g_1(X_1, \ldots, X_n) + g_2(X_1, \ldots, X_n)\bigr] = \mathrm{E}\bigl[g_1(X_1, \ldots, X_n) \bigr]+ \mathrm{E}\bigl[g_2(X_1, \ldots, X_n)\bigr].\end{align}

次に、積の性質を紹介する。\(g_1(X_1, \ldots, X_n)\)と\(g_2(X_1, \ldots, X_n)\)が独立に分布する場合、確率変数\(g_1\)と\(g_2\)の確率密度関数をそれぞれ\(f_1(g_1)\)、\(f_2(g_2)\)とすれば、積のモーメントは次のように表される。

\begin{align}\label{eq3}\mathrm{E}[g_1g_2] = \int_{-\infty}^{\infty}\int_{-\infty}^{\infty}g_1g_2 f_1(g_1)f_2(g_2)dg_1dg_2.\tag{3}\end{align}

ここで、\eqref{eq2}の式は確率変数\(g_1\)と\(g_2\)自身に定義されるため、確率変数\(X_1, \ldots, X_n\)に対して定義されるものではないことに注意する必要がある。よって\eqref{eq3}は次のように変形できる。

\begin{align}\mathrm{E}[g_1g_2] &= \int_{-\infty}^{\infty} g_1f_1(g_1)dg_1 \int_{-\infty}^{\infty}g_2 f_2(g_2) dg_2.\end{align}

したがって、確率変数\(g_1\)と\(g_2\)が独立であるならば

\begin{align}\mathrm{E}[g_1g_2]= \mathrm{E}[g_1] \mathrm{E}[g_2].\end{align}

これらの結果を以下にまとめる。

期待値の性質

期待値の性質

確率変数\(X_1, \ldots, X_n\)から成る任意の関数\(g\)、\(g_1\)、\(g_2\)が与えられているとする。これらの確率変数\(g\)、\(g_1\)、\(g_2\)に対して次が成り立つ。

\begin{align}\mathrm{E}[cg] &= c\mathrm{E}[g],\\\label{eq4}\mathrm{E}[g_1 +g_2] &= \mathrm{E}[g_1] + \mathrm{E}[g_2].\tag{4}\end{align}

また、\(g_1\)と\(g_2\)が独立であるとき

\begin{align} \label{eq5}\mathrm{E}[g_1g_2] &= \mathrm{E}[g_1]\mathrm{E}[g_2], \tag{5}\end{align}

ここに\(c\)は任意の定数である。

独立な確率変数の和のモーメント・積率母関数

次に、多変数分布のモーメントの計算の具体例として、独立な確率変数の和のモーメントを計算していく。

確率変数\(X_1, \ldots, X_n\)はそれぞれ平均\(\mu_1 \ldots, \mu_n\)、分散\(\sigma_1^2 ,\ \ldots, \sigma_n^2\)をもつとし、互いに独立であるとする。このとき次の独立な確率変数の和からなる確率変数\(W\)を考える。

\begin{align}W = \sum_{i=1}^n X_i.\end{align}

\eqref{eq4}の和の性質より、\(W\)の平均は次となる。

\begin{align}\mu &= \mathrm{E}[W] \\ &= \mathrm{E}\left[\sum_{i=1}^n X_i\right] \\&= \sum_{i=1}^n \mathrm{E}[X_i] \\&= \sum_{i=1}^n \mu_i.\end{align}

この結果より、\(W-\mu \)は次のように表される。

\begin{align} W- \mu = \sum_{i=1}^n(X_i - \mu_i).\end{align}

よって

\begin{align} (W - \mu)^2 &= \sum_{i,j=1}^n (X_i-\mu_i)(X_j - \mu_j)\end{align}

となり、\eqref{eq4}の和の性質より\(W\)の分散は次のように期待値の和に分解できる。

\begin{align}\mathrm{Var}[W] &= \mathrm{E}\bigl[(W- \mu)^2\bigr]\\ &= \mathrm{E}\left[ \sum_{i,j=1}^n (X_i-\mu_i)(X_j - \mu_j) \right]\\\label{eq6} &= \sum_{i=1}^n\mathrm{E}\bigl[(X_i - \mu_i)^2\bigr] + \sum_{i>j}(X_i - \mu_i)(X_j - \mu_j).\tag{6}\end{align}

ここで、確率変数\(X_1, \ldots, X_n\)はそれぞれ独立であることより、\eqref{eq5}の積の性質より

\begin{align}\mathrm{E}\bigl[(X_i - \mu_i)(X_j - \mu_j)\bigr] &= \mathrm{E}[X_i-\mu_i]\mathrm{E}[X_j-\mu_j]\\&= 0\cdot0\\&= 0, \ \ i\neq j\end{align}

を得る。故に\eqref{eq6}は次となる。

\begin{align}&\sum_{i=1}^n\mathrm{E}\bigl[(X_i - \mu_i)^2\bigr] + \sum_{i>j}(X_i - \mu_i)(X_j - \mu_j)\\ &=\sum_{i=1}^n \mathrm{E}\bigl[(X_i - \mu_i)^2\bigr] + \sum_{i>j}0\\&= \sum_{i=1}^n\sigma_i^2\end{align}

次に、積率母関数を導出する。積率母関数の定義より、\(W)\)の積率母関数は次で表される。

\begin{align}M_{W}(t) &= \mathrm{E}[e^{tW}]\\&= \mathrm{E}\left[e^{t\sum_{i=1}^nX_i}\right]\\&= \mathrm{E}\left[\prod_{i=1}^n e^{tX_i}\right]. \end{align}

今、\(g_i = e^{tX_i},\ i=1, \ldots, n\)と置くと、\(g_i)\)はそれぞれ独立であるため、上式の積率母関数は

\begin{align}M_{W}(t) &= \prod_{i=1}^n \mathrm{E}[e^{tX_i}]\\&=\prod_{i=1}^n M_{X_i}(t)\end{align}

となる。したがって、以下の性質を得る。

独立な確率変数の和のモーメント

独立な確率変数の和のモーメント

確率変数\(X_1, \ldots, X_n\)はそれぞれ平均\(\mu_1 \ldots, \mu_n\)、分散\(\sigma_1^2 ,\ \ldots, \sigma_n^2\)をもつとし、互いに独立であるとする。独立な確率変数の和\(W=\sum_{i=1}^n X_i\)の期待値と分散はそれぞれ次で表される。

\begin{align}\mathrm{E}[W] &= \sum_{i=1}^n\mu_i,\\ \mathrm{Var}[W]&= \sum_{i=1}^n\sigma_i^2.\end{align}

上の独立な確率変数の和の性質より、独立な確率変数の和の期待値と分散はそれぞれ確率変数の期待値の和と分散の和であることが分かる。この結果より和の分布の期待値と分散が、それを構成する確率変数の期待値と分散により容易に計算することが可能である。

独立な確率変数の和の積率母関数

独立な確率変数の和の積率母関数

独立な確率変数\(X_1, \ldots, X_n\)の和\(W=\sum_{i=1}^n X_i\)の積率母関数は次のように、それぞれの確率変数の積率母関数の積で表される。

\begin{align}M_{W}(t) = \prod_{i=1}^n M_{X_i}(t)\end{align}

上の性質も任意の分布に対して成り立つため、確率変数の和の積率母関数の計算に非常に役立つ。すべての確率変数が独立に従っているならば、それらの和の積率母関数はそれぞれの積率母関数の積として表現できる。

スポンサーリンク

  • この記事を書いた人
  • 最新記事

usagi-san

統計学とゲームとかをメインに解説していくよ。 数式とかプログラミングコードにミスがあったり質問があったりする場合はコメントで受け付けます。すぐに対応します。

-統計学
-

© 2022 ウサギさんの統計学サロン Powered by AFFINGER5