極分解

Summarize Timeline Top Qs Fact Check

${\displaystyle A}$を階数 ${\displaystyle r}$ の ${\displaystyle n}$次正方行列とする。ただし、行列の要素は体 ${\displaystyle K}$ の元であり、${\displaystyle K}$ は実数体 ${\displaystyle \mathbb {R} ^{n}}$ または複素数体 ${\displaystyle \mathbb {C} ^{n}}$ のいずれかであるとする。このとき、

${\displaystyle A=U\Lambda V^{*}}$

という ${\displaystyle A}$ の分解が存在する。 ここで ${\displaystyle U}$および${\displaystyle V}$はn次の直交行列またはユニタリ行列であり、${\displaystyle V^{*}}$は${\displaystyle V}$の随伴行列(${\displaystyle V}$を転置し、さらに各要素をその複素共役で置換えた行列）とする。

${\displaystyle K=\mathbb {R} ^{n}}$の場合は、${\displaystyle V^{*}}$は${\displaystyle V}$の転置行列 ${\displaystyle V^{T}}$に等しい。この場合、${\displaystyle \Lambda }$は実対角行列であり、各対角要素は非負の実数である(つまり 0 の場合もあり得る)。

${\displaystyle K=\mathbb {C} ^{n}}$の場合は、${\displaystyle \Lambda }$は複素対角行列であり、各対角要素は任意の値を取り得る(つまり 0 の場合もあり得る)。

上式は、

${\displaystyle U^{*}AV=\Lambda }$

と書き直すこともできる。これは ${\displaystyle A}$が2つのユニタリ行列によって対角化可能なことを表している。

いくつかのケースに分けて証明を行う。

(1) ${\displaystyle A}$が正則な実${\displaystyle n}$次正方行列の場合 ===

${\displaystyle AA^{T}=X}$

と置く。${\displaystyle A^{T}}$は${\displaystyle A}$の転置行列である。${\displaystyle X^{T}=(AA^{T})^{T}=(A^{T})^{T}A^{T}=X}$であるから${\displaystyle X}$は正則な対称行列である。対称行列${\displaystyle X}$は適当な直交行列${\displaystyle U_{1}}$によって${\displaystyle U_{1}X{U_{1}}^{T}}$が実対角行列となるようにできる。この実対角行列を${\displaystyle T}$と置く。${\displaystyle T}$も正則行列であり、各対角要素は 0 ではない。

${\displaystyle T=U_{1}X{U_{1}}^{T}=U_{1}AA^{T}{U_{1}}^{T}=(U_{1}A)(U_{1}A)^{T}}$

であるから${\displaystyle B=U_{1}A}$と置けば、

${\displaystyle T=BB^{T}}$

である。行列${\displaystyle B}$は正則な実${\displaystyle n}$次正方行列である。その成分表示を次のように表すことにする。

${\displaystyle B={\begin{bmatrix}b_{1,1}&\cdots &b_{1,n}\\\vdots &\ddots &\vdots \\b_{n,1}&\cdots &b_{n,n}\end{bmatrix}}={\begin{bmatrix}b_{1}\\\vdots \\b_{n}\end{bmatrix}}}$

ここで ${\displaystyle b_{i}}$は${\displaystyle B}$の第${\displaystyle i}$行が成す行ベクトルとする。つまり、

${\displaystyle b_{i}=(b_{i,1}\cdots b_{i,j}\cdots b_{i,n})}$

である。${\displaystyle b_{i}}$を用いれば、${\displaystyle T}$は次のように表される。

${\displaystyle T=BB^{T}={\begin{bmatrix}(b_{1},b_{1})&\cdots &0&\cdots &0\\\vdots &\ddots &\vdots &&\vdots \\0&\cdots &(b_{i},b_{i})&\cdots &0\\\vdots &&\vdots &\ddots &\vdots \\0&\cdots &0&\cdots &(b_{n},b_{n})\end{bmatrix}}}$

ここで ${\displaystyle (b_{i},b_{j})}$は行ベクトル${\displaystyle b_{i}}$と${\displaystyle b_{j}}$の内積である。${\displaystyle T}$の各対角成分 ${\displaystyle (b_{i},b_{i})\;(1\leq i\leq n)}$ は 0 ではないので、${\displaystyle b_{i}\;(1\leq i\leq n)}$も零ベクトルではない。${\displaystyle (b_{i},b_{j})=0\;(i\neq j)}$であるから${\displaystyle B}$の異なる行ベクトルは直交している。ただし、${\displaystyle (b_{i},b_{i})}$ は必ずしも 1 ではないので、${\displaystyle B}$ は直交行列ではない。そこで、

${\displaystyle U_{2}={\begin{bmatrix}b_{1}\,/\,|b_{1}|\\\vdots \\b_{i}\,/\,|b_{i}|\\\vdots \\b_{n}\,/\,|b_{n}|\end{bmatrix}}}$

と定義すれば、${\displaystyle U_{2}}$ は直交行列になる。ただし ${\displaystyle |b_{i}|={\sqrt {(b_{i},b_{i})}}}$ である。

${\displaystyle B{U_{2}}^{T}=U_{1}A{U_{2}}^{T}={\begin{bmatrix}|b_{1}|&\cdots &0&\cdots &0\\\vdots &\ddots &\vdots &&\vdots \\0&\cdots &|b_{i}|&\cdots &0\\\vdots &&\vdots &\ddots &\vdots \\0&\cdots &0&\cdots &|b_{n}|\end{bmatrix}}}$

であるから、${\displaystyle B{U_{2}}^{T}=U_{1}A{U_{2}}^{T}}$は実対角行列であり、これを${\displaystyle \Lambda }$と置けば、${\displaystyle A}$は、直交行列 ${\displaystyle U_{1},\;U_{2}}$によって、

${\displaystyle U_{1}A{U_{2}}^{T}=\Lambda }$

と対角化できることが分かる。

(2) ${\displaystyle A}$が正則な複素${\displaystyle n}$次正方行列の場合

${\displaystyle AA^{*}=X}$

と置く。${\displaystyle A^{*}}$は${\displaystyle A}$の随伴行列である。${\displaystyle X^{*}=(AA^{*})^{*}=(A^{*})^{*}A^{*}=X}$であるから${\displaystyle X}$は正則なエルミート行列である。エルミート行列${\displaystyle X}$は適当なユニタリ行列${\displaystyle U_{1}}$によって${\displaystyle U_{1}X{U_{1}}^{*}}$が実対角行列となるようにできる。この実対角行列を${\displaystyle T}$と置く。${\displaystyle T}$も正則行列であり、各対角要素は 0 ではない。

${\displaystyle T=U_{1}X{U_{1}}^{*}=U_{1}AA^{*}{U_{1}}^{*}=(U_{1}A)(U_{1}A)^{*}}$

であるから${\displaystyle B=U_{1}A}$と置けば、

${\displaystyle T=BB^{*}}$

である。行列${\displaystyle B}$は正則な複素${\displaystyle n}$次正方行列である。その成分表示を次のように表すことにする。

${\displaystyle B={\begin{bmatrix}b_{1,1}&\cdots &b_{1,n}\\\vdots &\ddots &\vdots \\b_{n,1}&\cdots &b_{n,n}\end{bmatrix}}={\begin{bmatrix}b_{1}\\\vdots \\b_{n}\end{bmatrix}}}$

ここで ${\displaystyle b_{i}}$は${\displaystyle B}$の第${\displaystyle i}$行が成す行ベクトルとする。つまり、

${\displaystyle b_{i}=(b_{i,1}\cdots b_{i,j}\cdots b_{i,n})}$

である。${\displaystyle b_{i}}$を用いれば、${\displaystyle T}$は次のように表される。

${\displaystyle T=BB^{*}={\begin{bmatrix}(b_{1},b_{1})&\cdots &0&\cdots &0\\\vdots &\ddots &\vdots &&\vdots \\0&\cdots &(b_{i},b_{i})&\cdots &0\\\vdots &&\vdots &\ddots &\vdots \\0&\cdots &0&\cdots &(b_{n},b_{n})\end{bmatrix}}}$

${\displaystyle T}$の各対角成分 ${\displaystyle (b_{i},b_{i})\;(1\leq i\leq n)}$ は 0 ではないので、${\displaystyle b_{i}\;(1\leq i\leq n)}$も零ベクトルではない。${\displaystyle (b_{i},b_{j})=0\;(i\neq j)}$であるから${\displaystyle B}$の異なる行ベクトルは直交している。ただし、${\displaystyle (b_{i},b_{i})}$ は必ずしも 1 ではないので、${\displaystyle B}$ はユニタリ行列ではない。そこで、

${\displaystyle U_{2}={\begin{bmatrix}b_{1}\,/\,|b_{1}|\\\vdots \\b_{i}\,/\,|b_{i}|\\\vdots \\b_{n}\,/\,|b_{n}|\end{bmatrix}}}$

と定義すれば、${\displaystyle U_{2}}$ はユニタリ行列になる。

${\displaystyle B{U_{2}}^{*}=U_{1}A{U_{2}}^{*}={\begin{bmatrix}|b_{1}|&\cdots &0&\cdots &0\\\vdots &\ddots &\vdots &&\vdots \\0&\cdots &|b_{i}|&\cdots &0\\\vdots &&\vdots &\ddots &\vdots \\0&\cdots &0&\cdots &|b_{n}|\end{bmatrix}}}$

であるから、${\displaystyle B{U_{2}}^{*}=U_{1}A{U_{2}}^{*}}$は実対角行列であり、これを${\displaystyle \Lambda }$と置けば、${\displaystyle A}$は、ユニタリ行列 ${\displaystyle U_{1},\;U_{2}}$によって、

${\displaystyle U_{1}A{U_{2}}^{*}=\Lambda }$

と対角化できることが分かる。

${\displaystyle U_{3}={\begin{bmatrix}e^{i\,\theta _{1}}&\cdots &0&\cdots &0\\\vdots &\ddots &\vdots &&\vdots \\0&\cdots &e^{i\,\theta _{i}}&\cdots &0\\\vdots &&\vdots &\ddots &\vdots \\0&\cdots &0&\cdots &e^{i\,\theta _{n}}\end{bmatrix}}}$

と置けば、${\displaystyle U_{3}}$ はユニタリ行列である。ただし、各${\displaystyle \theta _{i}}$は複素数の位相を表す実数であり、${\displaystyle 0\leq \theta _{i}<2\,\pi }$とする。

${\displaystyle U_{1}A{U_{2}}^{*}U_{3}=U_{1}A({U_{3}}^{*}U_{2})^{*}=\Lambda U_{3}}$

と置けば、${\displaystyle {U_{3}}^{*}U_{2}}$ はユニタリ行列であり、${\displaystyle \Lambda U_{3}}$ は複素対角行列である。これらを、それぞれ改めて ${\displaystyle U_{2}}$、${\displaystyle \Lambda }$ と書き直すことにすれば、

${\displaystyle U_{1}A{U_{2}}^{*}=\Lambda }$

と複素対角行列に対角化できることが分かる。

(3) ${\displaystyle A}$が階数${\displaystyle r}$の複素${\displaystyle n}$次正方行列の場合

階数${\displaystyle r}$が${\displaystyle n}$に等しい場合は、(2)と同じになるので、${\displaystyle r\,<\,n}$の場合とする。

${\displaystyle AA^{*}=X}$

と置く。${\displaystyle X^{*}=(AA^{*})^{*}=(A^{*})^{*}A^{*}=X}$であるから${\displaystyle X}$はエルミート行列であり、その階数は${\displaystyle A}$と同じく${\displaystyle r}$となる(証明略)。エルミート行列${\displaystyle X}$は適当なユニタリ行列${\displaystyle U_{1}}$によって${\displaystyle U_{1}X{U_{1}}^{*}}$が実対角行列となるようにできる。この実対角行列を${\displaystyle T}$と置く。正則行列を乗じても行列の階数は変わらないので、${\displaystyle T}$も階数${\displaystyle r}$の行列であり、各対角要素のうち 0 ではないものは ${\displaystyle r}$個である。行列の基本変形のうち、2つの行を入換える変形は、ユニタリ行列${\displaystyle P_{i,j}}$を左から乗ずる操作であるから、${\displaystyle U_{1}}$を適切に選べば ${\displaystyle T}$は次の形式にできる。

${\displaystyle T={\begin{bmatrix}t_{1}&\cdots &0&&\cdots &0\\\vdots &\ddots &\vdots &&&\vdots \\0&\cdots &t_{r}&0&\cdots &0\\0&\cdots &0&0&\cdots &0\\\vdots &&\vdots &&\ddots &\vdots \\0&\cdots &0&&\cdots &0\end{bmatrix}}}$

対角要素${\displaystyle t_{1}}$ ～ ${\displaystyle t_{r}}$は 0 ではなく、値の降順に並んでいるものとする。

${\displaystyle T=U_{1}X{U_{1}}^{*}=U_{1}AA^{*}{U_{1}}^{*}=(U_{1}A)(U_{1}A)^{*}}$

であるから${\displaystyle B=U_{1}A}$と置けば、

${\displaystyle T=BB^{*}}$

である。行列${\displaystyle B}$の成分表示を次のように表すことにする。

${\displaystyle B={\begin{bmatrix}b_{1,1}&\cdots &b_{1,n}\\\vdots &\ddots &\vdots \\b_{n,1}&\cdots &b_{n,n}\end{bmatrix}}={\begin{bmatrix}b_{1}\\\vdots \\b_{n}\end{bmatrix}}}$

ここで ${\displaystyle b_{i}}$は${\displaystyle B}$の第${\displaystyle i}$行が成す行ベクトルとする。つまり、

${\displaystyle b_{i}=(b_{i,1}\cdots b_{i,j}\cdots b_{i,n})}$

である。${\displaystyle b_{i}}$を用いれば、${\displaystyle T}$は次のように表される。

${\displaystyle T=BB^{*}={\begin{bmatrix}(b_{1},b_{1})&\cdots &0&&\cdots &0\\\vdots &\ddots &\vdots &&&\vdots \\0&\cdots &(b_{r},b_{r})&0&\cdots &0\\0&\cdots &0&0&\cdots &0\\\vdots &&\vdots &&\ddots &\vdots \\0&\cdots &0&&\cdots &0\end{bmatrix}}}$

${\displaystyle T}$の対角成分 ${\displaystyle (b_{i},b_{i})\;(1\leq i\leq r)}$ は 0 ではないので、${\displaystyle b_{i}\;(1\leq i\leq r)}$も零ベクトルではない。 一方、${\displaystyle (b_{i},b_{i})\;(r+1\leq i\leq n)}$ は 0 であるので、${\displaystyle b_{i}\;(r+1\leq i\leq n)}$は零ベクトルでなければならない。

${\displaystyle b_{1}}$ ～ ${\displaystyle b_{r}}$の異なる行ベクトルは直交している。これらはn次元ベクトルであるから、これらと直交し、さらに互いに直交する${\displaystyle n-r}$個のn次元ベクトルが存在する。これらを${\displaystyle c_{1}}$ ～ ${\displaystyle c_{n-r}}$とする。なお、これらは${\displaystyle (c_{i},c_{i})=1}$と規格化されているものとする(グラム・シュミットの正規直交化法参照)。

${\displaystyle U_{2}={\begin{bmatrix}b_{1}\,/\,|b_{1}|\\\vdots \\b_{r}\,/\,|b_{r}|\\c_{1}\\\vdots \\c_{n-r}\end{bmatrix}}}$

と定義すれば、${\displaystyle U_{2}}$ はユニタリ行列になる。

${\displaystyle B{U_{2}}^{*}=U_{1}A{U_{2}}^{*}={\begin{bmatrix}|b_{1}|&\cdots &0&&\cdots &0\\\vdots &\ddots &\vdots &&&\vdots \\0&\cdots &|b_{r}|&0&\cdots &0\\0&\cdots &0&0&\cdots &0\\\vdots &&\vdots &&\ddots &\vdots \\0&\cdots &0&&\cdots &0\end{bmatrix}}}$

であるから、${\displaystyle B{U_{2}}^{*}=U_{1}A{U_{2}}^{*}}$は実対角行列であり、これを${\displaystyle \Lambda }$と置けば、${\displaystyle A}$は、ユニタリ行列 ${\displaystyle U_{1},\;U_{2}}$によって、

${\displaystyle U_{1}A{U_{2}}^{*}=\Lambda }$

と対角化できることが分かる。(2)と同様の方法で、${\displaystyle \Lambda }$を複素対角行列とすることもできる。

Summarize Timeline Top Qs Fact Check

複素n次正方行列${\displaystyle A}$が正規であるとは、

${\displaystyle AA^{*}=A^{*}A}$

が成り立つことを言い、この場合${\displaystyle A}$を正規行列と呼ぶ。${\displaystyle X=AA^{*}=A^{*}A}$ と置けば、

${\displaystyle X^{*}=(AA^{*})^{*}=(A^{*})^{*}A^{*}=X}$

であるから、${\displaystyle X}$ はエルミート行列である。 また、${\displaystyle A}$がエルミート行列であれば、

${\displaystyle A=A^{*}}$

であるから、${\displaystyle A}$は正規行列である。

正規行列に関しては、次のスペクトル定理が成り立つ。

スペクトル定理

行列${\displaystyle A}$が正規行列であるための必要十分条件は、それが対角行列 ${\displaystyle \Lambda }$ とユニタリ行列${\displaystyle U}$ により、${\displaystyle A=U\Lambda U^{*}}$なる形に書けることである。ただし、対角行列${\displaystyle \Lambda }$の各成分 ${\displaystyle \lambda }$は ${\displaystyle A}$の固有値であり、${\displaystyle U}$の各列は${\displaystyle A}$の固有ベクトルで与えられ、${\displaystyle \Lambda }$の対角線上に並ぶ固有値の順番と${\displaystyle U}$の列に並ぶ固有ベクトルの順番は対応する。

(1) 十分性

${\displaystyle A=U\Lambda U^{*}}$であれば、

${\displaystyle AA^{*}=U\Lambda U^{*}(U\Lambda U^{*})^{*}=U\Lambda U^{*}U{\Lambda }^{*}U^{*}=U\Lambda {\Lambda }^{*}U^{*}}$

${\displaystyle A^{*}A=(U\Lambda U^{*})^{*}U\Lambda U^{*}=U{\Lambda }^{*}U^{*}U\Lambda U^{*}=U{\Lambda }^{*}\Lambda U^{*}}$

従って${\displaystyle AA^{*}=A^{*}A}$であるから${\displaystyle A}$は正規行列である。

(2) 必要性

極分解定理の証明(3)で示したように、${\displaystyle A}$は、適当なユニタリ行列 ${\displaystyle U_{1},\;U_{2}}$によって、

${\displaystyle U_{1}A{U_{2}}^{*}=\Lambda }$

と対角化できる。${\displaystyle \Lambda }$は複素n次対角行列である。

${\displaystyle A={U_{1}}^{*}\Lambda {U_{2}}}$

であるから、${\displaystyle A}$は正規行列であるとすれば、

${\displaystyle AA^{*}={U_{1}}^{*}\Lambda {U_{2}}({U_{1}}^{*}\Lambda {U_{2}})^{*}={U_{1}}^{*}\Lambda {U_{2}}{U_{2}}^{*}{\Lambda }^{*}{U_{1}}={U_{1}}^{*}\Lambda {\Lambda }^{*}{U_{1}}={U_{1}}^{*}T{U_{1}}}$

${\displaystyle A^{*}A=({U_{1}}^{*}\Lambda {U_{2}})^{*}{U_{1}}^{*}\Lambda {U_{2}}={U_{2}}^{*}{\Lambda }^{*}{U_{1}}{U_{1}}^{*}{\Lambda }{U_{2}}={U_{2}}^{*}{\Lambda }^{*}\Lambda {U_{2}}={U_{2}}^{*}T{U_{2}}}$

ただし、${\displaystyle T=\Lambda {\Lambda }^{*}={\Lambda }^{*}\Lambda }$である。

${\displaystyle X={U_{1}}^{*}T{U_{1}}={U_{2}}^{*}T{U_{2}}}$

であるから、

${\displaystyle T={U_{1}}{U_{2}}^{*}T{U_{2}}{U_{1}}^{*}}$

${\displaystyle U_{3}={U_{1}}{U_{2}}^{*}}$と置けば、

${\displaystyle T={U_{3}}T{U_{3}}^{*}}$

つまり、${\displaystyle U_{3}}$は${\displaystyle T}$を変えないユニタリ行列である。 ${\displaystyle T}$の対角要素が全て異なる値を持つ場合は、このような${\displaystyle U_{3}}$は恒等変換${\displaystyle I}$以外にはない。従って、

${\displaystyle U_{3}={U_{1}}{U_{2}}^{*}=I}$

${\displaystyle {U_{1}}={U_{2}}}$

となって、

${\displaystyle A={U_{1}}^{*}\Lambda {U_{1}}}$

が成り立つ。

極分解を必ずしも正方行列ではない実${\displaystyle m\times n}$行列または複素${\displaystyle m\times n}$行列の場合まで拡張したものが特異値分解である。この場合、一般に、行列の階数 rがmまたはnより小さくても、この分解は存在する^[1][2]。