ブロック行列について#1

ここではブロック行列、およびその性質についてみていく。行列をブロックで分割することで2以上の集合に対応する共分散行列を視覚的に解釈しやすくなる。

ブロック行列の定義

\(m\times n\)行列\(\boldsymbol{A}\)を次のように分割する。

\begin{align}\boldsymbol{A}_{11} &= (a_{ij})\ \ \ \ i = 1,\ldots, p, \ \ j = 1,\ldots, q,\\\boldsymbol{A}_{12} &= (a_{ij}), \ \ \ \ i = 1,\ldots,p,\ \ j= q+1,\ldots, n,\\\boldsymbol{A}_{21} &= (a_{ij}),\ \ \ \ i = p+1,\ldots,m,\ \ j = 1,\ldots,q,\\\boldsymbol{A}_{22} &= (a_{ij}),\ \ \ \ i = p+1,\ldots, m,\ \ j = q+1,\ldots, n.\end{align}

したがって行列\(\boldsymbol{A}\)は次で表現される。

\begin{align}\label{eq1}\boldsymbol{A} &= \begin{pmatrix}\boldsymbol{A}_{11} & \boldsymbol{A}_{12}\\\boldsymbol{A}_{21} & \boldsymbol{A}_{22} \end{pmatrix}.\tag{1}\end{align}

ブロック行列の性質

\(\boldsymbol{B}\)も\(\boldsymbol{A}\)と同様に\(\boldsymbol{B}_{ij}, i,j=1,2\)に分割されているとする。このとき次が成り立つ。

\begin{align}\label{eq2}\boldsymbol{A} + \boldsymbol{B}&=\begin{pmatrix}\boldsymbol{A}_{11} + \boldsymbol{B}_{11} &\boldsymbol{A}_{12} + \boldsymbol{B}_{12}\\\boldsymbol{A}_{21} + \boldsymbol{B}_{21}&\boldsymbol{A}_{22} + \boldsymbol{B}_{22} \end{pmatrix}\tag{2}\end{align}

次に\(n\times r\)行列\(\boldsymbol{C}\)を次で定義する。

\begin{align}\label{eq3}\boldsymbol{C} &= \begin{pmatrix}\boldsymbol{C}_{11} & \boldsymbol{C}_{12}\\\boldsymbol{C}_{21}&\boldsymbol{C}_{22}\end{pmatrix}\tag{3}\end{align}

ここに\(\boldsymbol{C}_{11}\)と\(\boldsymbol{C}_{12}\)は\(q\)行をもち、\(\boldsymbol{C}_{22}\)と\(\boldsymbol{C}_{21}\)は\(s\)列をもつとする。このとき次が成り立つ。

\begin{align}\label{eq4}\boldsymbol{AC} &= \begin{pmatrix}\boldsymbol{A}_{11} & \boldsymbol{A}_{12}\\\boldsymbol{A}_{21}&\boldsymbol{A}_{22}\end{pmatrix}\begin{pmatrix}\boldsymbol{C}_{11}&\boldsymbol{C}_{12}\\\boldsymbol{C}_{21}&\boldsymbol{C}_{22}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{A}_{11}\boldsymbol{C}_{11}+\boldsymbol{A}_{12}\boldsymbol{C}_{21} & \boldsymbol{A}_{11}\boldsymbol{C}_{12}+\boldsymbol{A}_{12}\boldsymbol{C}_{22}\\\boldsymbol{A}_{21}\boldsymbol{C}_{11}+\boldsymbol{A}_{22}\boldsymbol{C}_{21}&\boldsymbol{A}_{21}\boldsymbol{C}_{12}+\boldsymbol{A}_{22}\boldsymbol{C}_{22}\end{pmatrix}.\tag{4}\end{align}

これらは\(\boldsymbol{AC}\)最初の\(p\)行と最初の\(s\)列を考えることで確認できる。この\(ij\)成分は

\begin{align}\label{eq5}\sum_{k=1}^n a_{ik}c_{kj},\ \ \ \ i\geq p, \ \ j\geq s.\tag{5}\end{align}

である。さらにこの和は次で表現される。

\begin{align}\label{eq6} \sum_{k=1}^q a_{ik}c_{kj}\sum_{k=q+1}^na_{ik}c_{kj}.\tag{6}\end{align}

最初の和は\(\boldsymbol{A}_{11}\boldsymbol{C}_{11}\)の\(ij\)成分である。2つ目の和は\(\boldsymbol{A}_{12}\boldsymbol{C}_{21}\)の\(ij\)成分である。故に\eqref{eq5}の和は\(\boldsymbol{A}_{11}\boldsymbol{C}_{11}+\boldsymbol{A}_{12}\boldsymbol{C}_{21}\)の\(ij\)成分である。同様にして\(\boldsymbol{AC}\)の他のブロック行列についても同じ形で表現されることが確認できる。

ちなみに行列\(\boldsymbol{A}\)が\eqref{eq1}の形で書けるとき、\(\boldsymbol{A}\)の転置は次で表される。

\begin{align}\label{eq7}\boldsymbol{A}^T &= \begin{pmatrix}\boldsymbol{A}_{11}^T & \boldsymbol{A}_{21}^T\\\boldsymbol{A}_{12}^T & \boldsymbol{A}_{22}^T\end{pmatrix}\tag{7}\end{align}

\(\boldsymbol{A}_{12}=\boldsymbol{0}, \boldsymbol{A}_{21}=\boldsymbol{0}\)のとき、正定値行列\(\boldsymbol{A}\)と正方行列\(\boldsymbol{A}_{11}\)に対して次が成り立つ。

\begin{align}\label{eq8}\boldsymbol{A}^{-1}=\begin{pmatrix}\boldsymbol{A}_{11}^{-1}&\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}^{-1}\end{pmatrix}\tag{8}\end{align}

右辺の行列中のブロック行列\(\boldsymbol{A}_{11}\)と\(\boldsymbol{A}_{22}\)は正則行列であることより、上式の逆行列が存在する。また次の方法によって、上の式が\(\boldsymbol{A}\)の逆行列であることを確認することもできる。

\begin{align}\label{eq9}\begin{pmatrix}\boldsymbol{A}_{11} & \boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{pmatrix}\begin{pmatrix}\boldsymbol{A}_{11}^{-1}&\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}^{-1}\end{pmatrix}=\begin{pmatrix}\boldsymbol{I}&\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{I}\end{pmatrix}\tag{9}\end{align}

\eqref{eq9}は単位行列\(\boldsymbol{I}_p\)のブロック行列表記である。

ブロック行列の行列式

上で定義された\(\boldsymbol{A}\)に対して次の行列式が成り立つ。

\begin{align}\label{eq10}\begin{vmatrix}\boldsymbol{A}_{11} &\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{vmatrix} = \begin{vmatrix}\boldsymbol{A}_{11} & \boldsymbol{0} \\\boldsymbol{0} & \boldsymbol{I}\end{vmatrix}\cdot\begin{vmatrix}\boldsymbol{I} & \boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{vmatrix}=|\boldsymbol{A}_{11}|\cdot|\boldsymbol{A}_{22}|\tag{10}\end{align}

\eqref{eq10}の中央の行列式に関する計算は、最後の列に関する余因子展開を行うことで右辺を導くことができる。つまり次のようにして余因子展開を行う。

\begin{align}\begin{vmatrix}\boldsymbol{A}_{11} & \boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{I}\end{vmatrix}&=a_{p1}A_{p1} + \cdots + a_{pq}A_{pq}+0A_{p,q+1}+\cdots+1A_{pp}\\&=0+\cdots +0+0\cdots+A_{pp}\\&=\begin{vmatrix}a_{11} &\cdots &a_{1q} &0 & \cdots &0\\\vdots &&\vdots&\vdots&&\vdots\\a_{q1} &\cdots&a_{qq}&0&\cdots&0\\0&\cdots&0&1&\cdots&0\\\vdots&&\vdots&\vdots&&\vdots\\0&\cdots&0&0&\cdots&1\end{vmatrix}\\&=a_{p1}A_{p1}+\cdots a_{pq}A_{pq}+\cdots+0A_{p,q+1}+\cdots+1A_{p-1,p-1}\\&=0+\cdots0+0+\cdots+A_{p-1,p-1}\\&=\begin{vmatrix}a_{11} & \cdots &a_{1q}&0&\cdots&0\\\vdots&&\vdots&\vdots&&\vdots\\a_{q1}&\cdots&a_{qq}&0&\cdots&0\\0&\cdots&0&1&\cdots&0\\\vdots&&\vdots&\vdots&&\vdots\\0&\cdots&0&0&\cdots&1\end{vmatrix}\\&=\cdots=\begin{vmatrix}a_{11}&\cdots&a_{1q}\\\vdots&&\vdots\\a_{q1}&\cdots&a_{qq}\end{vmatrix}\\&=|\boldsymbol{A}_{11}|.\end{align}

同様にして、

\begin{align}\begin{vmatrix}\boldsymbol{I} & \boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{vmatrix}=|\boldsymbol{A}_{22}|\end{align}

を得る。

行列\(\boldsymbol{A}_1\)を\(q\times p\)のランク\(q\)であるとき、\eqref{eq11}の正則行列に対して\eqref{eq11}を満たす\(p-q\times p\)の行列\(\boldsymbol{A}_2\)が存在する。

\begin{align}\label{eq11}\boldsymbol{A}=\begin{pmatrix}\boldsymbol{A}_1\\\boldsymbol{A}_2\end{pmatrix}.\tag{11}\end{align}

これは\(\boldsymbol{A}_1\)の最初の\(q\)列を構成する\(\boldsymbol{A}_{11}\)が正則行列となるように\(\boldsymbol{A}\)の列を並べ（\(q\times q\)行列 \(\boldsymbol{A}_1\)の余因子が\(0\)であってはならない）、\(\boldsymbol{A}_2\)を\((\boldsymbol{0}\ \ \boldsymbol{I})\)とすることで確かめられる。すなわち\(\boldsymbol{A}\)は次となる。

\begin{align}\label{eq12}|\boldsymbol{A}|=\begin{vmatrix}\boldsymbol{A}_{11} & \boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{I}\end{vmatrix}=|\boldsymbol{A}_{11}|\tag{12}\end{align}

であり、これは\(0\)（非正則行列）ではない。

定理1　

正方行列\(\boldsymbol{A}\)を、\(\boldsymbol{A}_{22}\)が正方行列となるように\eqref{eq1}で分割されたものとする。\(\boldsymbol{A}_{22}\)が正則行列であるとき\begin{align}\label{eq13}\boldsymbol{B} = \begin{pmatrix}\boldsymbol{I}&-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\\\boldsymbol{0}&\boldsymbol{I}\end{pmatrix},\ \ \ \ \boldsymbol{C}=\begin{pmatrix}\boldsymbol{I}&\boldsymbol{0}\\-\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}&\boldsymbol{I}\end{pmatrix}\tag{13}\end{align}とする。このとき\begin{align}\label{eq14}\boldsymbol{BA} =\begin{pmatrix}\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}&\boldsymbol{0}\\\boldsymbol{A}_{21}&\boldsymbol{A}_{22}\end{pmatrix},\ \ \ \ \boldsymbol{AC}=\begin{pmatrix}\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}&\boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{pmatrix},\tag{14}\end{align}\begin{align}\label{eq15}\boldsymbol{BAC} = \begin{pmatrix}\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}&\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{pmatrix}\tag{15}\end{align}が成り立つ。\(\boldsymbol{A}\)が対称行列であるとき、\(\boldsymbol{C}=\boldsymbol{B}^T\)である。

定理2　ブロック行列の行列式

正方行列\(\boldsymbol{A}\)を\(\boldsymbol{A}_{22}\)が正方行列となるように\eqref{eq1}で分割されたものとする。\(\boldsymbol{A}_{22}\)が正則行列であるとき\begin{align}\label{eq16}|\boldsymbol{A}|=|\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}|\cdot|\boldsymbol{A}_{22}|.\tag{16}\end{align}

証明　\eqref{eq14}、\eqref{eq15}より\(|\boldsymbol{BAC}|\)は

\begin{align} |\boldsymbol{BAC}| &= |\boldsymbol{B}|\cdot|\boldsymbol{A}|\cdot|\boldsymbol{C}|\\&=1\cdot|\boldsymbol{A}|\cdot 1\\&=|\boldsymbol{A}|\\&\Leftrightarrow \begin{vmatrix}\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}&\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}\end{vmatrix}=|\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}|\cdot|\boldsymbol{A}_{22}|\end{align}

である。□

系1　ブロック行列の行列式（\(\boldsymbol{A}_{12}\)が列ベクトルのとき）

正則行列\(\boldsymbol{C}\)に対して\begin{align}\label{eq17}\begin{vmatrix}\boldsymbol{C} & \boldsymbol{y}\\\boldsymbol{y}^T&1\end{vmatrix}=|\boldsymbol{C}-\boldsymbol{yy}^T|=\begin{vmatrix}1&\boldsymbol{y}^T\\\boldsymbol{y}&\boldsymbol{C}\end{vmatrix}=|\boldsymbol{C}|(1-\boldsymbol{y}^T\boldsymbol{C}\boldsymbol{y}).\tag{17}\end{align}