ブロック行列について#2

表記や添え字は同じなので、前回の記事から読むことをお勧めします。

逆行列

定理1　ブロック行列の逆行列

正則行列\(\boldsymbol{A}\)を、ブロック行列について#1の(1)式の\(\boldsymbol{A}_{22}\)が正方行列になるように分割されているとする。\(\boldsymbol{A}_{22}\)が正則行列であるとき、\(\boldsymbol{A}_{11\cdot2} = \boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\)とする。このとき次が成り立つ。\begin{align}\label{eq1}\boldsymbol{A}=\begin{pmatrix}\boldsymbol{A}_{11\cdot2}^{-1} & -\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\\ -\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1} & \boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1}\end{pmatrix}.\tag{1}\end{align}

証明　ブロック行列について#1の定理1より

\begin{align}\label{eq2}\boldsymbol{A}=\boldsymbol{B}^{-1}\begin{pmatrix}\boldsymbol{A}_{11\cdot2} & \boldsymbol{0}\\\boldsymbol{0} & \boldsymbol{A}_{22}\end{pmatrix}\boldsymbol{C}^{-1}.\tag{2}\end{align}

故に

\begin{align}\boldsymbol{A}^{-1} &= \boldsymbol{C}\begin{pmatrix}\boldsymbol{A}_{11\cdot2} & \boldsymbol{0}\\\boldsymbol{0} & \boldsymbol{A}_{22}\end{pmatrix}^{-1}\boldsymbol{B}\\&=\begin{pmatrix}\boldsymbol{I} & \boldsymbol{0}\\ -\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21} & \boldsymbol{I}\end{pmatrix}\begin{pmatrix}\boldsymbol{A}_{11\cdot2}^{-1} & \boldsymbol{0}\\\boldsymbol{0} & \boldsymbol{A}_{22}^{-1}\end{pmatrix}\begin{pmatrix}\boldsymbol{I} & -\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\\\boldsymbol{0} & \boldsymbol{I}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{A}_{11\cdot2}^{-1} & \boldsymbol{0}\\-\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1} & \boldsymbol{A}_{22}^{-1}\end{pmatrix}\begin{pmatrix}\boldsymbol{I} & -\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\\\boldsymbol{0} & \boldsymbol{I}\end{pmatrix}\\\label{eq3}&=\begin{pmatrix}\boldsymbol{A}_{11\cdot2}^{-1} & -\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\\ -\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1} & \boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1}\end{pmatrix}.□\tag{3}\end{align}

定理2　シューア補行列の逆行列

正則行列\(\boldsymbol{A}\)を、ブロック行列について#1の(1)式の\(\boldsymbol{A}_{22}\)が正方行列になるように分割されているとする。\(\boldsymbol{A}_{22}\)が正則行列であるとき\begin{align}\label{eq4} (\boldsymbol{A}_{22}-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12})^{-1}=\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}(\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21})^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1}\tag{4}\end{align}が成り立つ。

証明　\eqref{eq4}の右辺は

\begin{align}&\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}(\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21})^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1}\\&=\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1}\end{align}

であることから、定理1より\(\boldsymbol{A}^{-1}\)の右下のブロックは、\eqref{eq4}の右辺である。ここで、ブロック行列について#1の定理1と同様に、行列\(\boldsymbol{B}\)と\(\boldsymbol{C}\)を次で定義する。

\begin{align}\boldsymbol{B} = \begin{pmatrix}\boldsymbol{I}&\boldsymbol{0}\\-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1}&\boldsymbol{I}\end{pmatrix},\ \ \ \ \boldsymbol{C}=\begin{pmatrix}\boldsymbol{I}&-\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{I}\end{pmatrix}\end{align}

このとき

\begin{align}\boldsymbol{BAC}&=\begin{pmatrix}\boldsymbol{I}&\boldsymbol{0}\\-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1}&\boldsymbol{I}\end{pmatrix}\begin{pmatrix}\boldsymbol{A}_{11}&\boldsymbol{A}_{12}\\\boldsymbol{A}_{21}&\boldsymbol{A}_{22}\end{pmatrix}\begin{pmatrix}\boldsymbol{I}&-\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{I}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{A}_{11}&\boldsymbol{A}_{12}\\\boldsymbol{0} & \boldsymbol{A}_{22}-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\end{pmatrix}\begin{pmatrix}\boldsymbol{I}&-\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{I}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{A}_{11}&\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22}-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\end{pmatrix}\end{align}

である。\eqref{eq3}と同様に、逆行列は

\begin{align}\boldsymbol{A}^{-1}&=\begin{pmatrix}\boldsymbol{I}&-\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\\\boldsymbol{0}&\boldsymbol{I}\end{pmatrix}\begin{pmatrix}\boldsymbol{A}_{11}^{-1}&\boldsymbol{0}\\\boldsymbol{0}&\boldsymbol{A}_{22\cdot1}^{-1}\end{pmatrix}\begin{pmatrix}\boldsymbol{I}&\boldsymbol{0}\\-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1} &\boldsymbol{I}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{A}_{11}^{-1}+\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22\cdot1}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1} & -\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22\cdot1}^{-1}\\ -\boldsymbol{A}_{22\cdot1}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1} & \boldsymbol{A}_{22\cdot1}^{-1}\end{pmatrix}\end{align}

となる。よって、この行列の右下のブロック\(\boldsymbol{A}_{22\cdot1}^{-1} = (\boldsymbol{A}_{22}-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12})^{-1}\)は、\eqref{eq4}の右辺であることから

\begin{align}(\boldsymbol{A}_{22}-\boldsymbol{A}_{21}\boldsymbol{A}_{11}^{-1}\boldsymbol{A}_{12})^{-1}=\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}(\boldsymbol{A}_{11}-\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21})^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1}\end{align}

が示された□

2次形式

系1　2次形式のブロック表記

\(\boldsymbol{x}^T= (\boldsymbol{x}^{(1)T}, \boldsymbol{x}^{(2)T})\)のとき\begin{align}\label{eq5}\boldsymbol{x}^T\boldsymbol{A}^{-1}\boldsymbol{x} = (\boldsymbol{x}^{(1)} - \boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{x}^{(2)})^T\boldsymbol{A}_{11\cdot2}^{-1}(\boldsymbol{x}^{(1)} - \boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{x}^{(2)})+\boldsymbol{x}^{(2)T}\boldsymbol{A}_{22}^{-1}\boldsymbol{x}^{(2)}\tag{5}.\end{align}が成り立つ。

証明　定理１より

\begin{align}\boldsymbol{x}^T\boldsymbol{A}^{-1}\boldsymbol{x}&=\begin{pmatrix}\boldsymbol{x}^{(1)T} & \boldsymbol{x}^{(2)T}\end{pmatrix}\begin{pmatrix}\boldsymbol{A}_{11\cdot2}^{-1} & -\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\\ -\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1} & \boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1}\end{pmatrix}\begin{pmatrix}\boldsymbol{x}^{(1)}\\\boldsymbol{x}^{(2)}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{x}^{(1)T}\boldsymbol{A}_{11\cdot2}^{-1}-\boldsymbol{x}^{(2)T}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1} & -\boldsymbol{x}^{(1)T}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{x}^{(2)T}(\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1})\end{pmatrix}\begin{pmatrix}\boldsymbol{x}^{(1)}\\\boldsymbol{x}^{(2)}\end{pmatrix}\\\label{eq6}&=\boldsymbol{x}^{(1)T}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{x}^{(1)} -\boldsymbol{x}^{(1)T}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}\boldsymbol{x}^{(2)}\\&\ \ \ \ -\boldsymbol{x}^{(2)T}\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{x}^{(1)} + \boldsymbol{x}^{(2)T}(\boldsymbol{A}_{22}^{-1}\boldsymbol{A}_{21}\boldsymbol{A}_{11\cdot2}^{-1}\boldsymbol{A}_{12}\boldsymbol{A}_{22}^{-1}+\boldsymbol{A}_{22}^{-1})\boldsymbol{x}^{(2)}\tag{6}\end{align}

である。これは\eqref{eq5}の右辺と等しい。□

正定値行列との関係

定理3　正定値であるブロック行列

\(\boldsymbol{U}\)を\(p\times m\)行列とする。\(\boldsymbol{I}_p-\boldsymbol{UU}^T\)、\(\boldsymbol{I}_m-\boldsymbol{U}^T\boldsymbol{U}\)\begin{align}\label{eq7}\begin{pmatrix}\boldsymbol{I}_p&\boldsymbol{U}\\\boldsymbol{U}^T&\boldsymbol{I}_m\end{pmatrix}\tag{7}\end{align}の3つが正定値行列である条件は同じである。

証明　\(p\)次元列ベクトル\(\boldsymbol{v}\)と\(m\)次元列ベクトル\(\boldsymbol{w}\)に対して、次を得る。

\begin{align}&\begin{pmatrix}\boldsymbol{v}^T & \boldsymbol{w}^T\end{pmatrix}\begin{pmatrix}\boldsymbol{I}_p & \boldsymbol{U}\\\boldsymbol{U}^T&\boldsymbol{I}_m\end{pmatrix}\begin{pmatrix}\boldsymbol{v}\\\boldsymbol{w}\end{pmatrix}\\&=\begin{pmatrix}\boldsymbol{v}^T+\boldsymbol{w}^T\boldsymbol{U}^T & \boldsymbol{v}^T\boldsymbol{U}+\boldsymbol{w}^T\end{pmatrix}\begin{pmatrix}\boldsymbol{v}\\\boldsymbol{w}\end{pmatrix}\\&=\boldsymbol{v}^T\boldsymbol{v}+\boldsymbol{v}^T\boldsymbol{Uw}+\boldsymbol{w}^T\boldsymbol{U}^T\boldsymbol{v}+\boldsymbol{w}^T\boldsymbol{w}\\\label{eq8}&=\boldsymbol{v}^T(\boldsymbol{I}_p-\boldsymbol{UU}^T)\boldsymbol{v} + (\boldsymbol{U}^T\boldsymbol{v}+\boldsymbol{w})^T(\boldsymbol{U}^T\boldsymbol{v}+\boldsymbol{w})\tag{8}.\end{align}

\eqref{eq8}の右辺の第2項は2次形式であることから、非負である。\(\boldsymbol{v}\neq\boldsymbol{0}\)に対して、\(\boldsymbol{I}_p-\boldsymbol{UU}^T\)が正定値行列であるときに、第1項は正となる。また、\eqref{eq8}における\(\boldsymbol{v}\)と\(\boldsymbol{w}\)に関する式変形を逆転すると、\eqref{eq8}は

\begin{align}&\boldsymbol{v}^T\boldsymbol{v}+\boldsymbol{v}^T\boldsymbol{Uw}+\boldsymbol{w}^T\boldsymbol{U}^T\boldsymbol{v}+\boldsymbol{w}^T\boldsymbol{w}\\&=\boldsymbol{w}^T(\boldsymbol{I}_m-\boldsymbol{U}^T\boldsymbol{U})\boldsymbol{w}+(\boldsymbol{Uw}+\boldsymbol{v})^T(\boldsymbol{Uw}+\boldsymbol{v})\end{align}

となる。上の式の右辺について、第2項は非負であり、\(\boldsymbol{I}_m-\boldsymbol{U}^T\boldsymbol{U}\)が正定値行列であるとき、\(\boldsymbol{w}\neq\boldsymbol{0}\)に対して、第1項は正である。□

ブロック行列について#2

逆行列

定理1 ブロック行列の逆行列

定理2 シューア補行列の逆行列