多変量正規分布

偏相関係数の公式

  1. HOME >
  2. 多変量正規分布 >

偏相関係数の公式

スポンサーリンク

この記事では、偏相関係数が逐次的に計算されることを具体例を用いて説明する。

最終的に、以前に書いた記事条件付き分布の定義2の偏相関係数が漸化式によって計算されることを示す。

3変量のときの条件付き分布

偏相関係数を考えるにあたって、いくつかの変数に対しの条件付き分布をみていく。条件付き分布は、固定した変数の集合によって決定される。以降、この関係が非常に重要になってくる。次の特殊な場合を考える。

\begin{align}\label{eq1}\rho_{12\cdot3} = \cfrac{\sigma_{12\cdot3}}{\sqrt{\sigma_{11\cdot3}}\sqrt{\sigma_{22\cdot3}}}\tag{1}\end{align}今、\begin{align}\mathrm{Var}\left[\left.\begin{pmatrix}X_1\\X_2\end{pmatrix}\right|x_3\right]=\begin{pmatrix}\sigma_{11}-\sigma_{13}\sigma_{33}^{-1}\sigma_{31}&\sigma_{12}-\sigma_{13}\sigma_{33}^{-1}\sigma_{32}\\\sigma_{21}-\sigma_{23}\sigma_{33}^{-1}\sigma_{31}&\sigma_{22}-\sigma_{23}\sigma_{33}^{-1}\sigma_{32}\end{pmatrix}\end{align}

であることより

\begin{align}\rho_{12\cdot3} &= \cfrac{\sigma_{12\cdot3}}{\sqrt{\sigma_{11\cdot3}}\sqrt{\sigma_{22\cdot3}}}\\&=\cfrac{\sigma_1\sigma_2(\rho_{12}-\rho_{13}\rho_{23})}{\sqrt{\sigma_{11}(1-\rho_{13}^2)}\sqrt{\sigma_{22}(1-\rho_{23}^2)}}\\&=\cfrac{\sigma_{12}-\sigma_{13}\sigma_{33}^{-1}\sigma_{32}}{\sqrt{\sigma_{11}-\sigma_{13}\sigma_{33}^{-1}\sigma_{31}}\sqrt{\sigma_{22}-\sigma_{23}\sigma_{33}^{-1}\sigma_{32}}}\\&=\cfrac{\rho_{12}}{\sqrt{1-\rho_{13}^2}\sqrt{1-\rho_{23}^2}}\end{align}

これは\(p=3, q=2\)のときであり、条件付き分布の定義2よりいえる。

偏相関係数の漸化式の一般化

ここで、次にこの結果の一般化を行う。\(\boldsymbol{X}\)を次で与える。

\begin{align}\label{eq2}\boldsymbol{X}=\begin{pmatrix}\boldsymbol{X}^{(1)}\\\boldsymbol{X}^{(2)}\\\boldsymbol{X}^{(3)}\end{pmatrix}\tag{2}\end{align}

ここに\(\boldsymbol{X}^{(1)}\)は\(p_1\)個、\(\boldsymbol{X}^{(2)}\)は\(p_2\)個、\(\boldsymbol{X}^{(3)}\)は\(p_3\)個の要素から成るとする。\(\boldsymbol{X}^{(2)}=\boldsymbol{x}^{(3)}\)を与えた時の\(\boldsymbol{X}^{(1)}\)と\(\boldsymbol{X}^{(2)}\)の条件付き分布を考える。さらに\(\boldsymbol{X}^{(2)}=\boldsymbol{x}^{(2)}\)と\(\boldsymbol{X}^{(2)}=\boldsymbol{x}^{(3)}\)を与えた時の\(\boldsymbol{X}^{(1)}\)の条件付き分布も考えていく。\(\boldsymbol{X}^{(2)}=\boldsymbol{x}^{(2)}\)と\(\boldsymbol{X}^{(2)}=\boldsymbol{x}^{(3)}\)を与えた時の\(\boldsymbol{X}^{(1)}\)の条件付き密度関数を求めるために、次の事実を用いる。

\begin{align}f(\boldsymbol{x}^{(1)}|\boldsymbol{x}^{(2)}, \boldsymbol{x}^{(3)})&=\cfrac{f(\boldsymbol{x}^{(1)}, \boldsymbol{x}^{(2)}, \boldsymbol{x}^{(3)})}{f(\boldsymbol{x}^{(2)}, \boldsymbol{x}^{(3)})}\\&=\cfrac{\left.f(\boldsymbol{x}^{(1)}, \boldsymbol{x}^{(2)}, \boldsymbol{x}^{(3)}) \right/f(\boldsymbol{x}^{(3)})}{\left.f(\boldsymbol{x}^{(2)}, \boldsymbol{x}^{(3)})\right/f(\boldsymbol{x}^{(3)})}\\&=\cfrac{f(\boldsymbol{x}^{(1)},\boldsymbol{x}^{(2)}|\boldsymbol{x}^{(3)}) }{f(\boldsymbol{x}^{(1)}|\boldsymbol{x}^{(3)})}\end{align}

正規性を仮定した場合、\(\boldsymbol{X}\)の共分散行列を

\begin{align}\label{eq3}\boldsymbol{\Sigma}=\begin{pmatrix}\boldsymbol{\Sigma}_{11}&\boldsymbol{\Sigma}_{12}&\boldsymbol{\Sigma}_{13}\\\boldsymbol{\Sigma}_{21}&\boldsymbol{\Sigma}_{22}&\boldsymbol{\Sigma}_{23}\\\boldsymbol{\Sigma}_{31}&\boldsymbol{\Sigma}_{32}&\boldsymbol{\Sigma}_{33}\end{pmatrix}\tag{3}\end{align}

で与えると\(\boldsymbol{X}^{(3)}=\boldsymbol{x}^{(3)}\)を与えた時の条件付き共分散行列はである。

\begin{align}\mathrm{Var}\left[\left.\begin{pmatrix}\boldsymbol{X}^{(1)}\\\boldsymbol{X}^{(2)}\end{pmatrix}\right|\boldsymbol{x}^{(3)}\right]&=\begin{pmatrix}\boldsymbol{\Sigma}_{11}&\boldsymbol{\Sigma}_{12}\\\boldsymbol{\Sigma}_{21}&\boldsymbol{\Sigma}_{22}\end{pmatrix}-\begin{pmatrix}\boldsymbol{\Sigma}_{13}\\\boldsymbol{\Sigma}_{23}\end{pmatrix}\boldsymbol{\Sigma}_{33}^{-1}\begin{pmatrix}\boldsymbol{\Sigma}_{31}&\boldsymbol{\Sigma}_{32}\end{pmatrix}\\\label{eq4}&=\begin{pmatrix}\boldsymbol{\Sigma}_{11\cdot3}&\boldsymbol{\Sigma}_{12\cdot3}\\\boldsymbol{\Sigma}_{21\cdot3}&\boldsymbol{\Sigma}_{22\cdot3}\end{pmatrix}.\tag{4}\end{align}

\(\boldsymbol{X}^{(2)}=\boldsymbol{x}^{(2)}\)と\(\boldsymbol{X}^{(3)}=\boldsymbol{x}^{(3)}\)を与えた時の条件付き共分散行列は、\(\boldsymbol{X}^{(3)}=\boldsymbol{x}^{(3)}\)を与えた時の条件付き共分散行列から求められる。

\begin{align}\label{eq5}\mathrm{Var}[\boldsymbol{X}^{(1)}|\boldsymbol{x}^{(2)},\boldsymbol{x}^{(3)}]=\boldsymbol{\Sigma}_{11\cdot3}-\boldsymbol{\Sigma}_{12\cdot3}(\boldsymbol{\Sigma}_{22\cdot3})^{-1}\boldsymbol{\Sigma}_{21\cdot3}\tag{5}\end{align}

この結果から\(\sigma_{ij\cdot p_1+p_2+1, \ldots, p},\ i,j=1,\ldots, p_1+p_2\)から\(\sigma_{ij\cdot p_1+1,\ldots,p},\ i,j=1,\ldots,p_1\)を求めることが可能となる。

特に\(p_1=q\)、\(p_2=1\)、\(p_3=p-q-1\)のとき、\(\boldsymbol{X}^{(3)}=\boldsymbol{x}^{(3)}\)を与えた時の条件付き共分散行列は

\begin{align}\mathrm{Var}\left[\left.\begin{pmatrix}\boldsymbol{X}^{(1)}\\\boldsymbol{X}^{(2)}\end{pmatrix}\right|\boldsymbol{x}^{(3)}\right]&=\begin{pmatrix}\boldsymbol{\Sigma}_{11}&\boldsymbol{\sigma}_{12}\\\boldsymbol{\sigma}_{21}&\sigma_{q+1,q+1}\end{pmatrix}-\begin{pmatrix}\boldsymbol{\Sigma}_{13}\\\boldsymbol{\sigma}_{23}\end{pmatrix}\boldsymbol{\Sigma}_{33}^{-1}\begin{pmatrix}\boldsymbol{\Sigma}_{31}&\boldsymbol{\sigma}_{32}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{\Sigma}_{11}-\boldsymbol{\Sigma}_{13}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\Sigma}_{31} & \boldsymbol{\sigma}_{12}-\boldsymbol{\Sigma}_{13}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\sigma}_{32}\\\boldsymbol{\sigma}_{12}-\boldsymbol{\Sigma}_{23}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\Sigma}_{31}&\sigma_{q+1,q+1}-\boldsymbol{\Sigma}_{23}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\Sigma}_{32}\end{pmatrix}\end{align}

であり\eqref{eq5}に代入することで次を得る。

\begin{align}\mathrm{Var}[\boldsymbol{X}^{(1)}|\boldsymbol{x}^{(2)},\boldsymbol{x}^{(3)}]&=\boldsymbol{\Sigma}_{11}-\boldsymbol{\Sigma}_{13}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\Sigma}_{31}-(\boldsymbol{\sigma}_{12}-\boldsymbol{\Sigma}_{13}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\sigma}_{32})\\&\ \ \ \ \cdot(\sigma_{q+1,q+1}-\boldsymbol{\sigma}_{23}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\sigma}_{32})(\boldsymbol{\sigma}_{21}-\boldsymbol{\sigma}_{23}\boldsymbol{\Sigma}_{33}^{-1}\boldsymbol{\Sigma}_{31}).\\&=\bigl(\sigma_{ij\cdot q+2,\ldots,p}-\sigma_{i,q+1\cdot q+2,\ldots,p}\sigma_{j,q+1\cdot q+2,\ldots,p}/\sigma_{q+1,q+1\cdot q+1,\ldots,p}\bigr).\end{align}

したがって、上の行列の\(i\)行目、\(j\)列目の成分は次となる。

\begin{align}\label{eq6}\sigma_{ij\cdot q+1, \ldots, p}=\sigma_{ij\cdot q+2,\ldots, p}-\cfrac{\sigma_{i,q+1\cdot q+2,\ldots,p}\sigma_{j,q+1\cdot q+2,\ldots,p}}{\sigma_{q+1, q+1\cdot q+2,\ldots,p}},\ \ i,j=1,\ldots, q.\tag{6}\end{align}

\eqref{eq6}の\(i=j\)の場合について次が成り立つ。

\begin{align}\sigma_{ii\cdot q+1,\ldots,p} &=\sigma_{ii\cdot q+2,\ldots,p} - \cfrac{\sigma_{i,q+1\cdot q+2,\ldots,p}^2}{\sigma_{q+1,q+1\cdot q+2,\ldots,p}}\\&=\sigma_{ii\cdot q+2,\ldots,p}\left(1-\cfrac{\sigma_{i,q+1\cdot q+2,\ldots,p}^2}{\sigma_{ii\cdot q+2,\ldots,p}\sigma_{q+1,q+1\cdot q+2,\ldots,p}}\right) \\\label{eq7}&=\sigma_{ii\cdot q+2,\ldots,p}(1-\rho_{i,q+1\cdot q+2,\ldots,p}^2),\tag{7}\end{align}

したがって次の公式を得る。

\begin{align}&\rho_{ij\cdot q+1,\ldots,p}\\ &=\cfrac{\sigma_{ij\cdot q+1,\ldots,p}}{\sqrt{\sigma_{ii\cdot q+1, \ldots,p}}\sqrt{\sigma_{jj\cdot q+1, \ldots,p}}}\\&=\cfrac{\sigma_{ij\cdot q+2,\ldots,p}-\sigma_{i,q+1 \cdot q+2,\ldots,p}\sigma_{j,q+1\cdot q+2,\ldots,p}/\sigma_{q+1, q+1\cdot q+2,\ldots,p}}{\sqrt{\sigma_{ii\cdot  q+2,\ldots,p}(1-\rho_{i,q+1\cdot q+2,\ldots,p})}\sqrt{\sigma_{jj\cdot  q+2,\ldots,p}(1-\rho_{j,q+1\cdot q+2,\ldots,p})}} \\&=\Biggl\{\sqrt{\sigma_{ii\cdot q+2,\ldots,p}\sigma_{jj\cdot q+2,\ldots,p}}\Biggl(\cfrac{\sigma_{ij\cdot q+2,\ldots,p}}{\sqrt{\sigma_{ii\cdot q+2,\ldots,p}\sigma_{jj\cdot q+2,\ldots,p}}}\\&\ \ \ \ -\cfrac{\sigma_{i,q+1 \cdot q+2,\ldots,p}\sigma_{j,q+1\cdot q+2, \ldots,p}}{\sqrt{\sigma_{ii\cdot q+2,\ldots,p}\sigma_{q+1,q+1\cdot q+2,\ldots,p}}\sqrt{\sigma_{jj\cdot q+2,\ldots,p}\sigma_{q+1,q+1\cdot q+2,\ldots,p}}}\Biggr)\Biggr\}\\&\ \ \ \ \left/\sqrt{\sigma_{ii\cdot q+2,\ldots,p}(1-\rho_{i,q+1\cdot q+2,\ldots,p}}\sqrt{\sigma_{jj\cdot q+2,\ldots,p}(1-\rho_{j,q+1\cdot q+2,\ldots,p}}\right.\\\label{eq8}&=\cfrac{\rho_{ij\cdot q+2,\ldots,p}-\rho_{i,q+1\cdot q+2,\ldots,p}\rho_{j,q+1\cdot q+2,\ldots,p}}{\sqrt{1-\rho_{i,q+1\cdot q+2,\ldots,p}^2}\sqrt{1-\rho_{j,q+1\cdot q+2,\ldots,p}^2}}\tag{8}\end{align}

この漸化式を用いて\(\{\rho_{ij}\}\)から\(\{\rho_{ij\cdot p}\},\{\rho_{ij\cdot p-1,p}\},\ldots\rho_{12\cdot3,\ldots,p}\)を逐次的に計算することが可能である。

スポンサーリンク

  • この記事を書いた人
  • 最新記事

usagi-san

統計学とゲームとかをメインに解説していくよ。 数式とかプログラミングコードにミスがあったり質問があったりする場合はコメントで受け付けます。すぐに対応します。

-多変量正規分布
-, ,

© 2022 ウサギさんの統計学サロン Powered by AFFINGER5