線形代数

正定値行列について#1

線形代数

スポンサーリンク

定理1 正則行列に対する正定値行列の性質

\(\boldsymbol{C}\)が正定値行列、\(\boldsymbol{B}\)が正則行列であるとき、\(\boldsymbol{B}^T\boldsymbol{CB}\)は正則行列である。

系1 正定値行列の逆行列

\(\boldsymbol{C}\)が正定値行列であるとき、\(\boldsymbol{C}^{-1}\)は正定値行列である。

証明 \(\boldsymbol{C}\)は正則行列でなければならない、反例として\(\boldsymbol{C}\)が正則行列ではないとき、すなわち\(\boldsymbol{Cx}=\boldsymbol{0}\)の解が\(\boldsymbol{x}=\boldsymbol{0}\)以外存在するとき、\(\boldsymbol{x}\neq\boldsymbol{0}\)のもと\(\boldsymbol{Cx}=\boldsymbol{0}\)であるとする。この\(\boldsymbol{x}\)に対して\(\boldsymbol{x}'\boldsymbol{Cx}=\boldsymbol{0}\)である。しかし正定値行列である仮定と矛盾する。定理1の\(\boldsymbol{B}\)を\(\boldsymbol{C}^{-1}\)とする。このとき\(\boldsymbol{B}^T\boldsymbol{CB}=(\boldsymbol{C}^{-1})^T\boldsymbol{CC}^{-1}=(\boldsymbol{C}^{-1})^T\)であり、\((\boldsymbol{C}^{-1})^T\)は正定値行列である。\(\boldsymbol{CC}^{-1}=\boldsymbol{I}\)を転置することで次を得る。\begin{align}&(\boldsymbol{CC}^{-1})^T=(\boldsymbol{C}^{-1})^T\boldsymbol{C}^T=(\boldsymbol{C}^{-1})^T\boldsymbol{C}=\boldsymbol{I}\\&\ \ \ \ \Leftrightarrow (\boldsymbol{C}^{-1})^T=\boldsymbol{C}^{-1}.\end{align}よって\((\boldsymbol{C}^{-1})^T=\boldsymbol{C}^{-1}\)は正定値行列である。□

定理2 正則行列の上三角化

\(\boldsymbol{A}\)が正則行列であるとき、\(\boldsymbol{FA}=\boldsymbol{F}^*\)が正則行列かつ上三角行列となるような正則行列かつ下三角行列である行列\(\boldsymbol{F}\)が存在する。

証明 \(\boldsymbol{A}=\boldsymbol{A}_1\)とする。再帰的に\(\boldsymbol{A}_g=(a_{ij}^{(g)})=\boldsymbol{F}_{g-1}\boldsymbol{A}_{g-1}, g=2, \ldots, p\)と定義する。ここに\(\boldsymbol{F}_{g-1}=(f_{ij}^{(g-1)})\)は次に対応する成分をもつ。

\begin{align}f_{jj}^{(g-1)}&=1, \ \ \ \ \ \ \ \ j=1, \ldots , p,\\f_{i,g-1}^{(g-1)}&=-\cfrac{a_{i,g-1}^{(g-1)}}{a_{g-1.g-1}^{(g-1)}}, \ \ \ \ \ \ \ \ \ i=g, \ldots, p,\\f_{ij}^{(g-1)}&=0, \ \ \ \ \ \ \ \ otherwise.\end{align}\begin{align}\boldsymbol{F}_{g-1}&=\begin{pmatrix}1&0&0&0&\cdots&0\\0&1&0&0&\cdots&0\\0&0&1&0&\cdots&0\\-\cfrac{a_{g,g-1}^{(g-1)}}{a_{g-1,g-1}^{(g-1)}}&0&0&1&\cdots&0\\\vdots&\vdots&\vdots&\vdots&&\vdots\\-\cfrac{a_{p,g-1}^{(g-1)}}{a_{g-1,g-1}^{(g-1)}}&0&0&0&\cdots&1\end{pmatrix}\end{align}

次に、\(\boldsymbol{A}=\boldsymbol{A}_1\)から\(\boldsymbol{F}_{g-1}\boldsymbol{F}_{g-1}\)を\(g=2, \ldots, p\)について求める。

\begin{align}\boldsymbol{A}_2&=\boldsymbol{F}_1\boldsymbol{A}_1\\&=\begin{pmatrix}1&0&0&0&\cdots&0\\-\cfrac{a_{2,1}^{(1)}}{a_{1,1}^{(1)}}&1&0&0&\cdots&0\\-\cfrac{a_{3,1}^{(1)}}{a_{1,1}^{(1)}}&0&1&0&\cdots&0\\\vdots&\vdots&\vdots&&\vdots\\-\cfrac{a_{p,1}^{(1)}}{a_{1,1}^{(1)}}&0&0&0&\cdots&1\end{pmatrix}\begin{pmatrix}a_{11}^{(1)}&a_{12}^{(1)}&\cdots&a_{1p}^{(1)}\\a_{21}^{(1)}&a_{22}^{(1)}&\cdots&a_{2p}^{(1)}\\\vdots&\vdots&&\vdots\\a_{p1}^{(1)}&a_{p2}^{(1)}&\cdots&a_{pp}^{(1)}\end{pmatrix}\\&=\begin{pmatrix}a_{11}^{(1)}&a_{12}^{(1)}&\cdots&a_{1p}^{(1)}\\0&-\cfrac{a_{2,1}^{(1)}a_{12}^{(1)}}{a_{1,1}^{(1)}}+a_{22}^{(1)}&\cdots&-\cfrac{a_{2,1}^{(1)}a_{1p}^{(1)}}{a_{1,1}^{(1)}}+a_{2p}^{(1)}\\\vdots&\vdots&&\vdots\\0&-\cfrac{a_{p,1}^{(1)}a_{12}^{(1)}}{a_{1,1}^{(1)}}+a_{p2}^{(1)}&\cdots&-\cfrac{a_{p,1}^{(1)}a_{1p}^{(1)}}{a_{1,1}^{(1)}}+a_{pp}^{(1)}\end{pmatrix}.\end{align}

同様にして、

\begin{align}\boldsymbol{A}_3&=\boldsymbol{F}_2\boldsymbol{A}_2\\&=\begin{pmatrix}1&0&0&0&0&\cdots&0\\0&1&0&0&0&\cdots&0\\0&-\cfrac{a_{3,2}^{(2)}}{a_{2,2}^{(2)}}&1&0&0&\cdots&0\\0&-\cfrac{a_{4,2}^{(2)}}{a_{2,2}^{(2)}}&0&1&0&\cdots&0\\\vdots&\vdots&\vdots&\vdots&\vdots&\vdots\\0&-\cfrac{a_{p,2}^{(2)}}{a_{2,2}^{(2)}}&0&0&0&\cdots&1\end{pmatrix}\begin{pmatrix}a_{11}^{(2)}&a_{12}^{(2)}&\cdots&a_{1p}^{(2)}\\0&a_{22}^{(2)}&\cdots&a_{2p}^{(2)}\\\vdots&\vdots&&\vdots\\0&a_{p2}^{(2)}&\cdots&a_{pp}^{(2)}\end{pmatrix}\\&=\begin{pmatrix}a_{11}^{(2)}&a_{12}^{(2)}&a_{13}^{(2)}&\cdots&a_{1p}^{(2)}\\0&a_{22}^{(2)}&a_{23}^{(2)}&\cdots&a_{2p}^{(2)}\\0&0&-\cfrac{a_{3,2}^{(2)}a_{23}^{(2)}}{a_{2,2}^{(2)}}+a_{33}^{(2)}&\cdots&-\cfrac{a_{3,2}^{(2)}a_{2p}^{(2)}}{a_{2,2}^{(2)}}+a_{3p}^{(2)}\\\vdots&\vdots&&\vdots&&\vdots\\0&0&-\cfrac{a_{p,2}^{(2)}a_{23}^{(2)}}{a_{2,2}^{(2)}}+a_{p3^{(2)}}&\cdots&-\cfrac{a_{p,2}^{(2)}a_{2p}^{(2)}}{a_{2,2}^{(2)}}+a_{pp}^{(2)}\end{pmatrix}.\end{align}

以下同様に\(g=2, \ldots, p\)について\(\boldsymbol{A}_g\)を求める。

\begin{align}\boldsymbol{A}_p &=\boldsymbol{F}_{p-1}\boldsymbol{A}_{p-1}\\&=\begin{pmatrix}a_{11}^{(p-1)}&a_{12}^{(p-1)}&a_{12}^{(p-1)}&\cdots&a_{1,p-1}^{(p-1)}&a_{1p}^{(p-1)}\\0&a_{22}^{(p-1)}&a_{23}^{(p-1)}&\cdots&a_{2,p-1}^{(p-1)}&a_{2p}^{(p-1)}\\0&0&a_{33}^{(p-1)}&\cdots&a_{3,p-1}^{(p-1)}&a_{3p}^{(p-1)}\\\vdots&\vdots&\vdots&&\vdots&\vdots\\0&0&0&\cdots&a_{p-1,p-1}^{(p-1)}&a_{p-1,p}^{(p-1)}\\0&0&0&\cdots&0&-\cfrac{1_{p,p-1}^{(p-1)}a_{p-1,p}^{(p-1)}}{a_{p-1,p-1}^{(p-1)}}+a_{pp}^{(p-1)}\end{pmatrix}\\&\ \ \ \ \Leftrightarrow\boldsymbol{A}_{p}=\begin{pmatrix}a_{11}^{(1)}&a_{12}^{(p)}&a_{13}^{(p)}&\cdots&a_{1,p-1}^{(p)}&a_{1p}^{(p)}\\0 &a_{22}^{(2)}&a_{23}^{(p)}&\cdots&a_{2,p-1}^{(p)}&a_{2p}^{(p)}\\0&0&a_{33}^{(3)}&\cdots &a_{3,p-1}^{(p)}&a_{3p}^{(p)}\\\vdots&\vdots&\vdots&&\vdots&\vdots\\0&0&0&\cdots&a_{p-1,p-1}^{(p)}&a_{p-1,p}^{(p)}\\0&0&0&\cdots&0&a_{pp}^{(p)}\end{pmatrix}.\end{align}

この結果を次にまとめる。

\begin{align}a_{ij}^{(g)}&=0,\qquad\qquad i= j+1,\ldots, p,\qquad j = 1, \ldots, g-1,\\a_{ij}^{(g)}&=a_{ij}^{(g-1)},\qquad\qquad,i=1,\ldots,g-1,\qquad j = 1,\ldots,p,\\a_{ij}^{(g)}&=a_{ij}^{(g-1)}+f_{i,g-1}^{(g-1)}a_{g-1,j}^{(g-1)}=a_{ij}^{(g-1)}-\cfrac{a_{i,g-1}^{(g-1)}a_{g-1,j}^{(g-1)}}{a_{g-1,g-1}^{(g-1)}},\ \ i , j= g, \ldots, p.\end{align}

\(\boldsymbol{F} = \boldsymbol{F}_{p−1},\ldots,\boldsymbol{F}_1\)は下三角行列であり、最初の\(g−1\)列目の対角成分より下に位置する\(\boldsymbol{A}_g\)の 要素は\(0\)である。特に\(\boldsymbol{A}^∗ = \boldsymbol{FA}(=\boldsymbol{F}_{p−1}\boldsymbol{A}_{g−1})\)は上三角行列である。\(|\boldsymbol{A}| = 0\)また、\(|\boldsymbol{F}_{g−1}| = 1\) より、帰納的に\(|A_{g−1}| \neq 0\) が容易にいえる。故に、\(a^{(1)}_{11},\ldots, a_{g-2,g-2}^{(g−2)}\)は\(0\) をとはならない。\(\boldsymbol{A}_{g−1}\)において\(a^{(g−2)}_{g−2,g−2}\)が\(0\) となると行列式が\(0\)となり、\(|\boldsymbol{A}_{g−1}|\neq0\)と矛盾する。さらに 、\(\boldsymbol{A}_{g−1}\)の残りの\(p−g\) 列は\(a^{(g−1)}_{g−1,g−1}\neq0\)となるように値をとる。よって、\(f-{(g−1)}_{i,g−1}\)はwell definedである。□

系2 正定値行列の対角化

\(\boldsymbol{A}\)が正定値行列であるとき、\(\boldsymbol{FAF}^T\)が対角行列かつ正定値行列であるような下三角行列かつ正則行列である\(\boldsymbol{F}\)が存在する。

証明 定理2より、\(\boldsymbol{FA}\)が上三角行列かつ正則行列であるような下三角行列\(\boldsymbol{F}\)が存在する。よって2つの上(下)三角行列の積は上(下)三角行列となることより、\(\boldsymbol{FAF}^T\)は上三角行列である、\(\boldsymbol{F}\)は正則行列なので系1より、\(\boldsymbol{FAF}^T\)は正定値行列となり対象行列である。したがって\(\boldsymbol{FAF}^T\)は対角行列である。□

スポンサーリンク

  • この記事を書いた人
  • 最新記事

usagi-san

統計学とゲームとかをメインに解説していくよ。 数式とかプログラミングコードにミスがあったり質問があったりする場合はコメントで受け付けます。すぐに対応します。

-線形代数
-,

© 2022 ウサギさんの統計学サロン Powered by AFFINGER5