標準偏差の不偏推定量について解説する。
不偏推定量やバイアスの定義から、母集団分布が正規分布であるときの標準偏差の不偏推定量を構成する流れを紹介する。
不偏推定量については次の記事を参照されたい。
-
【統計学】一致推定量・統計量の一致性
統計量における推定量の1つである一致推定量についてみていく。 推定量の一致性はZ検定などの大標本においてきわめて重要である。 この記事では、一致推定量の定義を与えて種々の推定量(標本平均や標本分散)が ...
続きを見る
統計学の入門書におすすめ!
¥3,080 (2022/06/27 19:34時点 | Amazon調べ)
ポチップ ¥1,980 (2022/06/27 19:37時点 | Amazon調べ)
ポチップ
不偏推定量
不偏推定量の定義を以下にまとめる。
不偏推定量
\(x\)をパラメータ\(\theta\)をもつ母集団の標本とし、\(\hat{\theta}\)を\(\theta\)の推定量とする。推定量\(\hat{\theta}\)が次を満たすとき、\(\hat{\theta}\)は不偏性をもつという。
\begin{align} \mathrm{E}_{X|\theta}[\hat{\theta}] = \theta.\end{align}
標準偏差の不偏推定量
標準偏差の不偏推定量は以下の通り。
標準偏差の不偏推定量
\(X_1, X_2,\ldots, X_n,\ i.i.d.\sim N(\mu, \sigma^2)\)について標準偏差\(\sigma^2\)の不偏推定量は次で与えられる。\begin{align} \label{eq1} D&= \sqrt{\cfrac{n - 1}{2}} \cfrac{ \Gamma[(n - 2) / 2]}{\Gamma[(n - 1) / 2] }S , \tag{1}\end{align}ここに\(S^2\)は次の不偏標本分散である。
\begin{align} S^2&= \cfrac{1}{n - 1}\sum_{i=1}^n(X_i- \bar{X})^2.\end{align}
不偏標本分散の平方根が標準偏差の不偏推定量とはならないことに注意が必要である。
証明 標準偏差の不偏推定量を導出するために、次の標本分散を定義する。
\begin{align}S^2&= \cfrac{1}{n - 1}\sum_{i=1}^n(X_i- \bar{X})^2. \end{align}
標本分散の分布より\(V =( n-1) S^2 / \sigma^2 \sim\chi_{n - 1}^2\)であることから
\begin{align} \mathrm{E}[V^{1/2}] &= \int_0^{\infty} v^{1/ 2} \cfrac{v^{(n- 1) / 2 - 1} e^{- v / 2}}{2^{(n - 1) / 2} \Gamma[(n - 1) / 2]} dv \\ &= \cfrac{1}{2^{(n - 1) / 2} \Gamma[(n - 1) / 2]} \int_0^{\infty} v^{n / 2 - 1} e^{- v / 2} dv \\ &= \cfrac{1}{2^{(n - 1) / 2} \Gamma[(n - 1) / 2]} \cfrac{\Gamma(n/ 2)}{2^{- n / 2}} \\ &=\sqrt{2}\cfrac{\Gamma(n / 2)}{\Gamma[(n - 1) / 2]}. \end{align}よって\begin{align} &\mathrm{E}[V^{1/ 2}] = \sqrt{2}\cfrac{\Gamma(n / 2)}{\Gamma[(n - 1) / 2]} \\ &\Leftrightarrow \mathrm{E}\left[\left\{ \cfrac{(n - 1)S^2}{ \sigma^2}\right\}^{1/ 2}\right] = \sqrt{2} \cfrac{\Gamma(n / 2)}{\Gamma[(n - 1) / 2]} \\ &\Leftrightarrow \mathrm{E}[S] =\sqrt{\cfrac{2}{n - 1}}\cfrac{\Gamma(n / 2)}{ \Gamma[(n - 1) / 2]}\sigma. \end{align}
ゆえに右辺の\(\sigma\)の係数の逆数を\(S\)に掛けた確率変数を\(D\)とおくと、次のように期待値は\(\sigma\)に一致する。
\begin{align}\mathrm{E}[D] &= \mathrm{E}\left[\sqrt{\cfrac{n - 1}{2}}\cfrac{\Gamma[(n - 1) / 2]}{\Gamma(n / 2) }S \right] \\ &=\sqrt{\cfrac{n - 1}{2}}\cfrac{\Gamma[(n - 1) / 2]}{\Gamma(n / 2) }\mathrm{E}[S] \\ &=\sqrt{\cfrac{n - 1}{2}}\cfrac{\Gamma[(n - 1) / 2]}{\Gamma(n / 2) }\sqrt{\cfrac{2}{n - 1}}\cfrac{\Gamma(n / 2)}{ \Gamma[(n - 1) / 2]}\sigma \\ &= \sigma.\end{align}
\eqref{eq1}の標準偏差の不偏推定量が得られた。