線形代数の初学者のための道案内
線形代数のイメージを知る

2022/5/13 線形代数学

「線形代数学」は大学以降の数学の基盤になる基礎的な分野で，多くの理系大学生が１年生で習うことになります．

線形代数学は純粋数学だけではなく，統計学や機械学習など実践的な数学でも広く用いられる分野です．

そのため，とくに理論系の学科の人は線形代数でコケてしまうと２年生以降がかなり厳しくなってしまいます．

この記事では，

  • これから線形代数を学ぶ
  • 名前を聞いたことはあるがよく知らない
  • 以前学んだがよく分からなかった

といった方に向けて理論系の学科で目標とされることの多いJordan標準形あたりまでの線形代数学の全体像を解説していきます．

オススメの入門書

以下は初学者向けのオススメの教科書です．この記事の著者も数学教室の集団授業で使っています．

手を動かしてまなぶ 線形代数

[藤岡敦 著/裳華房]

線形代数の入門書で，説明も非常に丁寧なので初学者にも読み進めやすい教科書です．

数学で初めて出会った概念で詰まった時には，具体例を考えることで理解できるようになることはよくあります．

特に線形代数は高校数学で扱ってきた数学よりも抽象度がやや増すので，いきなり抽象的に理解するよりも「具体例を理解→抽象化」という学び方が効果的です．

本書は具体例と例題が豊富で，実際に手を動かしながらイメージを掴んで抽象的に理解することを目指しています．

また，続巻も発行されていますが，この第１巻だけでも正方行列の対角化(固有値・固有ベクトル)まで学ぶことができます．

行列と列ベクトル

線形代数は行列とベクトルを用いて話が進められます．

多変数の「比例」

実数$a$に対して$y=ax$が成り立つとき，「$y$は$x$に比例する」といい，$a$を比例係数というのでした．

様々にある関数の中でも，$f(x)=ax$で定まる比例の関数$f$は非常に分かりやすい関数のため，他の関数よりも比較的容易に理解することができます．

この意味で，中学数学でも最初に習う関数が比例の関数であることは妥当でしょう．

さて，「比例」を少し拡張してみましょう．

たとえば，２つの等式

    \begin{align*} \begin{cases} y_1=x_1+2x_2+3x_3\\ y_2=4x_1+5x_2+6x_3 \end{cases} \end{align*}

を考えます．比例の世界では$x$と$y$が１つずつでしたが，

  • $x$が$x_1$, $x_2$, $x_3$の３つになり，
  • $y$が$y_1$と$y_2$の２つになりました．

比例の世界では$x$に値を代入すれば$y$の値が分かったように，$x_1$, $x_2$, $x_3$に値を代入すれば$y_1$, $y_2$の値が分かるという状況です．

線形代数の世界では，これを

    \begin{align*} \bmat{y_1\\y_2} =\bmat{1&2&3\\4&5&6}\bmat{x_1\\x_2\\x_3} \end{align*}

のように表します．

  • 左辺を$\m{y}:=\bmat{y_1\\y_2}$
  • 右辺の係数部分を$A:=\bmat{1&2&3\\4&5&6}$
  • 右辺の変数部分を$\m{x}:=\bmat{x_1\\x_2\\x_3}$

とおくと，上の等式は$\m{y}=A\m{x}$と表すことができ，あたかも「$A$を『比例定数』として$\m{y}$は$\m{x}$に『比例』している」と捉えることができます．

$A$のように数を長方形に並べたものを行列といい，$\m{x}$, $\m{y}$のように数を縦に並べたものを列ベクトルという．

線形代数学はこれら行列とベクトルをベースに組み立てられる分野で，「多変数の比例」を考える分野ということができます．

ベクトル

高校数学でも学ぶように，列ベクトルは「矢印」として図示することができます．

例えば，$\m{a}:=\bmat{2\\3}$, $\m{b}:=\bmat{-1\\2}$, $\m{c}:=\bmat{-3\\-3}$は以下のように図示できますね．

Rendered by QuickLaTeX.com

このように，成分が２つの列ベクトルは縦と横の２本の軸を用いた$xy$座標上に図示することができます．

同様に成分が３つの列ベクトルは３本の軸を用いた$xyz$座標上に図示することができ，さらに一般に次のように定義されます．

$n$個の実数成分からなる列ベクトルの集合を$\R^n$と表し，$\R^n$を実$n$次元空間という．

一般に実数の集合(=実$1$次元空間)は$\R$で表します．

また，列ベクトルの各成分の和を考えると「ベクトルを繋げてできるベクトル」となり，これをベクトルの和と定義します．

Rendered by QuickLaTeX.com

このイメージも高校数学で学ぶベクトルと同じですね．

行列

ベクトルは図示できることが分かりましたが，行列はどのように考えられるでしょうか？ここで

    \begin{align*} \bmat{y_1\\y_2} =\bmat{1&2&3\\4&5&6}\bmat{x_1\\x_2\\x_3} \end{align*}

を思い出すと，この式は「$\bmat{x_1\\x_2\\x_3}$を与えることで，$\bmat{y_1\\y_2}$が得られる」と捉えることができますね．

例えば，ベクトル$\bmat{2\\3\\-1}$は行列$\bmat{1&2&3\\4&5&6}$によって

    \begin{align*} \bmat{1&2&3\\4&5&6}\bmat{2\\3\\-1} =\bmat{1\cdot2+2\cdot3+3\cdot(-1)\\4\cdot2+5\cdot3+6\cdot(-1)} =\bmat{5\\17} \end{align*}

に移されます．

Rendered by QuickLaTeX.com

このように，行列$\bmat{1&2&3\\4&5&6}$は３次元のベクトル$\bmat{x_1\\x_2\\x_3}$を２次元のベクトル$\bmat{y_1\\y_2}$に変換するもの，と捉えることができます．

縦$m$行，横$n$列の大きさの行列

    \begin{align*} \bmat{a_{11}&a_{12}&\dots&a_{1n}\\ a_{21}&a_{22}&\dots&a_{2n}\\ \vdots&\vdots&\ddots&\vdots\\ a_{m1}&a_{m2}&\dots&a_{mn}} \end{align*}

を$m\times n$次行列といい，とくに$n\times n$次行列を$n$次正方行列という．

また，行列の第$i$行，第$j$列の成分(上の行列における$a_{ij}$)を第$(i,j)$成分という．

実数成分の$m\times n$次行列全部の集合を$\Mat_{m,n}(\R)$などと表し，実数成分の$n$次正方行列全部の集合を$\Mat_{n}(\R)$などと表します．

例えば，いま考えていた行列については$\bmat{1&2&3\\4&5&6}\in\Mat_{23}(\R)$で，例えば

  • $(1,1)$成分は$1$
  • $(2,1)$成分は$4$
  • $(2,3)$成分は$6$

というわけですね．

【線形代数１｜線形代数は「多変数バージョンの比例」という話】

行列の計算

実数に足し算，掛け算があるように，行列にも足し算，掛け算を考えたいのですが，どのように足し算と掛け算を定義すると都合が良いでしょうか？

結論から書くと，次のように定義することになります．

[行列の和]　行列$A=\bmat{a_{11}&\dots&a_{1n}\\\vdots&\ddots&\vdots\\a_{m1}&\dots&a_{mn}}\in\Mat_{mn}(\R)$, $B=\bmat{b_{11}&\dots&b_{1n}\\\vdots&\ddots&\vdots\\b_{m1}&\dots&b_{mn}}\in\Mat_{mn}(\R)$の和$A+B$を

    \begin{align*} A+B=\bmat{a_{11}+b_{11}&\dots&a_{1n}+b_{1n}\\\vdots&\ddots&\vdots\\a_{m1}+b_{m1}&\dots&a_{mn}+b_{mn}} \end{align*}

と定義する(このとき，$A+B\in\Mat_{mn}(\R)$となる)．

[行列の積]　行列$A=\bmat{a_{11}&\dots&a_{1m}\\\vdots&\ddots&\vdots\\a_{\ell1}&\dots&a_{\ell m}}\in\Mat_{\ell m}(\R)$, $B=\bmat{b_{11}&\dots&b_{1n}\\\vdots&\ddots&\vdots\\b_{m1}&\dots&b_{mn}}\in\Mat_{mn}(\R)$の積$AB$を

    \begin{align*} AB=\bmat{\sum_{k=1}^{m} a_{1k}b_{k1}&\dots&\sum_{k=1}^{m} a_{1k}b_{kn}\\\vdots&\ddots&\vdots\\\sum_{k=1}^{m} a_{\ell k}b_{k1}&\dots&\sum_{k=1}^{m} a_{\ell k}b_{kn}} \end{align*}

と定義する(このとき，$A+B\in\Mat_{\ell n}(\R)$となる)．

和は各成分ごとに和をとっただけですが，積の方はなかなかよく分かりませんね．

どうしてこのように和と積を定義すると都合が良いのか，以下でみていきましょう．

行列の和

行列の和$A+B$に対して，一般に次が成り立ちます．

$m\times n$行列$A$, $B$と$n$次ベクトル$\m{x}$に対して

    \begin{align*} (A+B)\m{x}=A\m{x}+B\m{x} \end{align*}

が成り立つ．

例えば，$A=\bmat{1&2\\-3&1}$, $B=\bmat{-2&0\\3&1}$, $\m{x}=\bmat{x\\y}$とすると

    \begin{align*} A\m{x}+B\m{x} =&\bmat{1&2\\-3&1}\bmat{x\\y}+\bmat{-2&0\\3&1}\bmat{x\\y} \\=&\bmat{1x+2y\\-3x+y}+\bmat{-2x+0y\\3x+y} =\bmat{-x+2y\\2y}, \\(A+B)\m{x} =&\bra{\bmat{1&2\\-3&1}+\bmat{-2&0\\3&1}}\bmat{x\\y} =\bmat{-1&2\\0&2}\bmat{x\\y} \\=&\bmat{-x+2y\\0x+2y} =\bmat{-x+2y\\2y} \end{align*}

となって，確かに$(A+B)\m{x}=A\m{x}+B\m{x}$が成り立っていることが見てとれますね．

行列の積

和の場合と同様に，積の場合には

    \begin{align*} (AB)\m{x}=A(B\m{x}) \end{align*}

という結合法則のような式が成り立っていて欲しいと考えます．つまり，

  • 行列$A$と$B$をかけて$\m{x}$にかけた$(AB)\m{x}$
  • 行列$B$を$\m{x}$にかけて行列$A$をかけた$A(B\m{x})$

が等しくなっていて欲しいわけですね．

行列とベクトルの積については先ほど書いたように，$B\in\Mat_{mn}(\R)$に左から$\m{x}\in\R^n$をかけて$B\m{x}\in\R^m$となり，$B\m{x}$にさらに左から$A\in\Mat_{\ell m}(\R)$をかけて$A(B\m{x})\in\R^{\ell}$となりますね：

    \begin{align*} \begin{matrix} \R^n & \to & \R^m & \to & \R^\ell \\ \rotatebox[origin=c]{90}{$\in$} & & \rotatebox[origin=c]{90}{$\in$} & & \rotatebox[origin=c]{90}{$\in$} \\ \m{x} & \mapsto & B\m{x} & \mapsto & A(B\m{x}) \end{matrix} \end{align*}

たとえば，$A=\bmat{2&2\\-3&1}$, $B=\bmat{-2&0\\3&1}$, $\m{x}=\bmat{x\\y}$とすると

    \begin{align*} A(B\m{x}) =&A\bra{\bmat{-2&0\\3&1}\bmat{x\\y}} =A\bmat{-2x\\3x+y} \\=&\bmat{2&2\\-3&1}\bmat{-2x\\3x+y} =\bmat{2(-2x)+2(3x+y)\\-3(-2x)+(3x+y)} \\=&\bmat{2x+2y\\9x+y} =\bmat{2&2\\9&1}\bmat{x\\y} =\bmat{2&2\\9&1}\m{x} \end{align*}

となります．これが任意の$\m{x}$に対して$(A+B)\m{x}$に一致しているなら，$A+B=\bmat{2&2\\9&1}$になっているはずです．

これがいつでも成り立っているように行列の積を定義しようとすると，先ほど書いたようになるわけですね．

ただし，行列の積については実は交換法則が成り立ちません．すなわち，積$AB$と$BA$は必ずしも一致しません．

【線形代数２｜行列の計算の基本！行列の積はなぜこうなる？】

連立１次方程式と線形独立性

線形代数は連立１次方程式を拠り所として理論が構築されています．

次に，連立１次方程式と行列の関係について説明します．

連立方程式と行列

連立方程式を考えます．例えば，$x$, $y$, $z$の連立方程式

    \begin{align*} \begin{cases} x+2y+3z=1\\ 4x+5y+6z=2\\ 7x+8y+9z=3 \end{cases} \end{align*}

は上でみたように，行列とベクトルを用いて

    \begin{align*} \bmat{1&2&3\\4&5&6\\7&8&9}\bmat{x\\y\\z}=\bmat{1\\2\\3} \end{align*}

と表せます．このように，行列$A$，変数ベクトル$\m{x}$，ベクトル$\m{c}$を用いて，$A\m{x}=\m{c}$と表される等式は連立方程式となります．

さて，連立方程式の解が存在するかどうかを考えたいとき，どのように考えれば良いでしょうか？

もちろん，この連立方程式を実際に解くことによっても解の存在は確かめられますが，別の方法を考えてみましょう．

この連立方程式は

    \begin{align*} x\bmat{1\\4\\7}+y\bmat{2\\5\\8}+z\bmat{3\\6\\9}=\bmat{1\\2\\3} \end{align*}

と表すことができるので，

  • $\m{a}_1:=\bmat{1\\4\\7}$を$x$倍したベクトル
  • $\m{a}_2:=\bmat{2\\5\\8}$を$y$倍したベクトル
  • $\m{a}_3:=\bmat{3\\6\\9}$を$z$倍したベクトル

を繋ぎ合わせてベクトル$\m{c}:=\bmat{1\\2\\3}$になる，と解釈できます．

一般に，ベクトル$\m{a}_1,\dots,\m{a}_n$に対して，$c_1\m{a}_1+\dots+c_n\m{a}_n$と表されるベクトルを$\m{a}_1,\dots,\m{a}_n$の線形結合といいます．

したがって，$A=[\m{a}_1,\dots,\m{a}_n]$と表すと，「連立方程式$A\m{x}=\m{c}$を解く問題は$\m{a}_1,\dots,\m{a}_n$の線形結合で$\m{c}$を表す問題」と考えることができます．

【線形代数３｜連立１次方程式の掃き出し法と行列の基本変形】

線形独立と逆行列

$0$でない実数$a$に対しては逆数が存在し，これを$a^{-1}$や$\dfrac{1}{a}$などと表すのでした．

正方行列に対してはこの逆数に相当する逆行列があり，正方行列$A$の逆行列を$A^{-1}$と表します．

ただ，零行列$O$(成分が全て$0$の行列)でなくても行列に逆行列が存在するとは限らないところが実数の場合と異なり，逆行列をもつ行列のことを正則行列といいます．

１変数の場合の１次方程式$ax=c$ ($a\neq0$)は両辺に$a^{-1}$をかければ$x=\dfrac{c}{a}$となって解$x$が分かります．

これと同様に，正方行列$A$が逆行列$A^{-1}$を持つなら，連立方程式$A\m{x}=\m{c}$の両辺に左から$A^{-1}$をかけることで

    \begin{align*} \m{x}=A^{-1}\m{c} \end{align*}

と解$\m{x}$が得られます．

さて，例えば$A=\bmat{1&0&1\\0&1&1\\0&0&0}$, $\m{x}=\bmat{x\\y\\z}$, $\m{c}=\bmat{c_1\\c_2\\c_3}$に対して，連立方程式$A\m{x}=\m{c}$を考えます．

先ほど説明したように，この連立方程式$A\m{x}=\m{c}$はベクトル$\m{a}_1:=\bmat{1\\0\\0}$, $\m{a}_2:=\bmat{0\\1\\0}$, $\m{a}_3:=\bmat{1\\1\\0}$の線形結合で$\m{c}$を表す問題なのでした．

そのため，$\m{a}_1$, $\m{a}_2$, $\m{a}_3$がバラバラの方向を向いていてくれるほど，$\m{a}_1$, $\m{a}_2$, $\m{a}_3$の線型結合で表せるベクトルが増えますから，よりたくさんの$\m{c}$に対して連立方程式$A\m{x}=\m{c}$は解を持ちそうです．

しかし，いま$\m{a}_3=\m{a}_1+\m{a}_2$なので，$\m{a}_1$と$\m{a}_2$さえあれば，$\m{a}_3$はあってもなくても線形結合で表せるベクトルは変わりません．

そのため，「遊んでいる」$\m{a}_3$分だけ線型結合で表せるベクトルが減ってしまうわけです．

実際に連立方程式$A\m{x}=\m{c}$で等式を並べれば

    \begin{align*} \begin{cases} x+0+z=c_1\\ 0+y+z=c_2\\ 0+0+0=c_3 \end{cases} \end{align*}

なので，これが解を持つには$c_3=0$でなければなりません．

このように$\m{a}_1$, $\m{a}_2$, $\m{a}_3$の「バラバラさ」が足りないと，連立方程式$A\m{x}=\m{c}$が解を持つためには$\m{c}$に制限をかけることになります．

一般に$A=[\m{a}_1,\dots,\m{a}_n]$とするとき，ベクトル$\m{a}_1,\dots,\m{a}_n$が「どのベクトルも他のベクトルたちの線形結合で表せない(=バラバラに違う方向を向いた)」状態であってくれれば，$\m{x}$の連立方程式$A\m{x}=\m{c}$は様々な$\m{c}$に対して解をもちそうです．

このように「ベクトル$\m{a}_1,\dots,\m{a}_n$がバラバラに違う方向を向いていること」を$\m{a}_1,\dots,\m{a}_n$が線形独立であるといいます．

$\m{a}_1,\dots,\m{a}_n$が線形独立であることの定義を厳密に述べれば，「$c_1\m{a}_1+\dots+c_n\m{a}_n=\m{0}$を満たす$(c_1,\dots,c_n)$は$c_1=\dots=c_n=0$の場合に限る」となりますが，ここでは深く立ち入らないことにします．

さて，「行列$A=[\m{a}_1,\dots,\m{a}_n]$について，ベクトル$\m{a}_1,\dots,\m{a}_n$がバラバラなほど，多くの$\m{c}$に対して連立方程式$A\m{x}=\m{c}$が解をもちそう」という予想について，実は以下の定理が成り立ちます．

$n$次正方行列$A=[\m{a}_1,\dots,\m{a}_n]$に対して，次は同値である．

  • $\m{a}_1,\dots,\m{a}_n$が線形独立である．
  • 任意の$\m{c}\in\R^n$に対して，$\m{x}$の連立方程式$A\m{x}=\m{c}$は解$\m{x}=A^{-1}\m{c}$をもつ．
  • $A$は正則である(逆行列を持つ)．

このように，行列$A$の列ベクトルの線形独立性と，連立方程式$A\m{x}=\m{c}$の解の存在は密接に関わっています．

【線形代数４｜正則の条件を簡単に！基本変形と行列の積の話】
【線形代数５｜行列のランクと，行列が逆行列をもつための条件】
【線形代数６｜連立１次方程式が解をもつ条件と解の自由度】
【線形代数７｜線型独立のイメージと線型独立であるための条件】

行列式

次に，列ベクトル$\m{a}_1,\dots,\m{a}_n$が線形独立であるかどうかを判定する方法を，連立方程式の考え方とは別の方法で考えましょう．

２次正方行列の場合

まず，２次正方行列$A$を

    \begin{align*} A=\bmat{a&b\\c&d}=[\m{a}_1,\m{a}_2] \end{align*}

とします．

上でみたように，$A$が正則であることと$\m{a}_1$と$\m{a}_2$が線形独立であるということは同値です．

さらに$\m{a}_1$と$\m{a}_2$が線形独立であるということは，言い換えれば$\m{a}_1$と$\m{a}_2$が「バラバラに違う方向を向いている」ということなので，$\m{a}_1$と$\m{a}_2$が張る以下の平行四辺形の面積が０でないことは同値です．

Rendered by QuickLaTeX.com

$\m{a}_1=\bmat{a\\c}$, $\m{a}_2=\bmat{b\\d}$なので，この平行四辺形の面積は$|ad-bc|$ですから，$A$が正則であることと$ad-bc\neq0$であることは同値となります．

このことについて，以下のように定義します．

$A=\bmat{a&b\\c&d}$に対して，$ad-bc$を$A$の行列式といい，$|A|$と表します．

よって，$A=\bmat{a&b\\c&d}$の正則性を判定したければ，$ad-bc$の値が０か否かをみれば良いことになり，単なる行列成分の四則演算だけで正方行列の正則性が判定できることが分かりました．

これはありがたいですね．

３次以上の正方行列の場合

では，３次行列

    \begin{align*} A=\bmat{a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33}} =[\m{a}_1,\m{a}_2,\m{a}_3] \end{align*}

についてはどう考えればよいでしょうか？

結論を言えば，列ベクトル$\m{a}_1$, $\m{a}_2$, $\m{a}_3$が張る以下のような平行六面体の(符号付きの)体積を$|A|$とすれば，$|A|$が0か否かをみれば$\m{a}_1$, $\m{a}_2$, $\m{a}_3$の線形独立性が分かりますね．

Rendered by QuickLaTeX.com

さて，この平行六面体の(符号付きの)体積は

    \begin{align*} &a_{11}a_{22}a_{33}+a_{12}a_{23}a_{31}+a_{13}a_{21}a_{32} \\&-a_{13}a_{22}a_{31}-a_{12}a_{21}a_{33}-a_{11}a_{23}a_{32} \end{align*}

で表されることが分かるので，これを$A=\bmat{a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33}}$の行列式$|A|$と定義することになります．

同様に$n$次正方行列$A=[\m{a}_1,\dots,\m{a}_n]$では，$A$の行列式$|A|$を$\m{a}_1,\dots,\m{a}_n$の張る平行多面体の$n$次元体積で定義します．これにより，やはり行列式$|A|$が０か否かで$\m{a}_1,\dots,\m{a}_n$の線形独立性が判定できます．

しかし，我々は$n$次元体積をイメージすることが難しく，この$n$次元の平行多面体の体積を求めようとするのは少し難があります．

そこで，結果としては$n$次元の平行多面体の体積に一致するが，体積を持ち出さずに$|A|$を定義する方法を採ります．

普通，$A=[\m{a}_1,\dots,\m{a}_n]$の行列式は置換を用いて定義されるため，何をやっているのかよく分からなくなってしまいがちですが，実は列ベクトル$\m{a}_1,\dots,\m{a}_n$の張る$n$次元の平行多面体の体積に一致する量を定義したいだけなのです．

【線形代数８｜正方行列の正則性を判定できる行列式のイメージ】
【線形代数９｜行列式を定義するための置換の性質を理解する】
【線形代数10｜「行列式」は線形代数の要！定義と性質を解説】

線形空間と線形写像

さて，ここまでで空間$\R^n$と行列$A$について考えてきましたが，これを一般化することを考えます．

結論から言えば，

  • $\R^n$を一般化したものを線形空間
  • 行列を一般化したものを線形写像

といいます．

線形空間

例えば，実数係数の２次以下の整式(多項式または単項式)の集合

    \begin{align*} \R[x]_2:=\set{a_0+a_1x+a_2x^2}{a_0,a_1,a_2\in\R} \end{align*}

を考えます．このとき，$a_0+a_1x+a_2x^2,b_0+b_1x+b_2x^2\in\R[x]_2$, $\alpha\in\R$に対して，自然な計算により

    \begin{align*} &(a_0+a_1x+a_2x^2)+(b_0+b_1x+b_2x^2) \\&=(a_0+b_0)+(a_1+b_1)x+(a_2+b_2)x^2, \\&\alpha(a_0+a_1x+a_2x^2) \\&=(\alpha a_0)+(\alpha a_1)x+(\alpha a_2)x^2 \end{align*}

となります．これらはいずれも実数係数の２次以下の整式なので，$\R[x]_2$に属します．

このように，集合$V$に

  • 和
  • $\R$倍

が定義されていて，(ここで詳しくは書きませんが)さらにいくつかの条件を満たすとき，$V$を$\R$上の線形空間といいます．

ここまで考えてきた$\R^n$や，いまみた$\R[x]_2$などは$\R$上の線形空間の例です．

この意味で，線形空間は$\R^n$の拡張ということができます．

線形写像

$n$行の行列$A$は，任意の$\m{a},\m{b}\in\R^n$, $\alpha\in\R$に対して

  • $A(\m{a}+\m{b})=A\m{a}+A\m{b}$
  • $A(\alpha\m{a})=\alpha (A\m{a})$

を満たします．このように$\R$上の線形空間$U$, $V$に対して，写像$f:U\to V$が任意の$\m{u},\m{u}’\in U$, $\alpha\in\R$に対して

  • $f(\m{u}+\m{u}’)=f(\m{u})+f(\m{u}’)$
  • $f(\alpha\m{u})=\alpha f(\m{u})$

を満たすとき，$f$を線形写像といいます．すなわち，

  • 和を$f$で移した$f(\m{u}+\m{u’})$と，$f$で移したものの和$f(\m{u})+f(\m{u’})$が等しい
  • $\R$倍を$f$で移した$f(\alpha\m{u})$と，$f$で移したものの$\R$倍$\alpha f(\m{u})$が等しい

という２つの性質を満たす$\R$上の線形空間の間の写像を線形写像というわけです．

例えば，左から行列$A$をかける写像を$f$とすると，上で見たことから

    \begin{align*} &f(\m{a}+\m{b})=A(\m{a}+\m{b})=A\m{a}+A\m{b}=f(\m{a})+f(\m{b}), \\&f(\alpha \m{a})=A(\alpha \m{a})=\alpha (A\m{a})=\alpha f(\m{a}) \end{align*}

となって，$f$は線形写像であると分かります．

この意味で，線形写像は行列の拡張ということができます．

線形空間の同型

先ほど，$a_0+a_1x+a_2x^2,b_0+b_1x+b_2x^2\in\R[x]_2$, $\alpha\in\R$に対して

    \begin{align*} &(a_0+a_1x+a_2x^2)+(b_0+b_1x+b_2x^2) \\&=(a_0+b_0)+(a_1+b_1)x+(a_2+b_2)x^2, \\&\alpha(a_0+a_1x+a_2x^2) \\&=(\alpha a_0)+(\alpha a_1)x+(\alpha a_2)x^2 \end{align*}

が成り立つことをみましたが，これは係数に注目すると$\R^3$での

    \begin{align*} &\bmat{a_0\\a_1\\a_2}+\bmat{b_0\\b_1\\b_2}=\bmat{a_0+b_0\\a_1+b_1\\a_0+b_0}, \\&\alpha\bmat{a_0\\a_1\\a_2}=\bmat{\alpha a_2\\\alpha a_1\\\alpha a_0} \end{align*}

という計算と対応していることが分かります．

すなわち，$a_0+a_1x+a_2x^2$と$\bmat{a_0\\a_1\\a_2}$を同じものとみなすことにより，$\R[x]_2$と$\R^3$は和とスカラー倍も含めて全く同じものとして同一視することができます．

このように，線形空間$U$, $V$が同一視できるとき，$U$と$V$は同型であるといい，$U\cong V$と表します．

線形空間$V$に対して，有限個の$\m{v}_1,\dots,\m{v}_n\in V$が存在して，任意の$\m{v}\in V$が

    \begin{align*} \m{v}=c_1\m{v}_1+c_2\m{v}_2+\dots+c_n\m{v}_n \end{align*}

と表されるとき，$V$は有限次元といいます．有限次元ベクトル空間については，次の定理が非常に重要です．

任意の$\R$上の有限次元ベクトル空間$V$に対して，ある$n\in\N$が存在して，$V\cong\R^n$となる．

「線形空間は和と$\R$倍が定義され，いくつかの性質を満たすもの」で，$\R^n$や$\R[x]_2$などはそのうちの１つだと説明しましたが，実は見た目が全く違う線形空間$V$でも，$V$が有限次元でさえあれば，ある次元の$\R^n$と同一視できるというわけです．

$\R^n$はこれまで学んできた分かりやすい空間ですから，有限次元の線形空間$V$が分かりにくい空間であれば，全て$\R^n$に置き換えて考えればよいということになります．

表現行列

$U$と$V$を有限次元線形空間とし，$f:U\to V$を線形写像とします．

いまみたように，$U$と$V$はある次元の$\R^n$と同一視できるので，$U\cong\R^m$, $V\cong\R^k$とすると，線形写像$f:U\to V$は線形写像$f:\R^m\to\R^k$と同一視できることになりますね．

また，実は任意の線形写像$f:\R^m\to\R^k$は，ある$k\times m$次行列$A$によって，$f(\m{a})=A\m{a}$と表すことができます．

ここで，$\m{a}\in\R^m$に左から$k\times m$次行列$A$をかけると$\R^k$の元になることに注意しておきます．

これらのことから，線形写像$f:U\to V$はある行列$A$を左からかける写像と同一視できます．

このように線形写像が同一視できるような行列のことを$f$の表現行列といいます．

固有値と固有ベクトル

一般に，正方行列$A$に対して，一般に$A$の冪べき$A^n$を直接計算により求めるのは，現実的ではありませんが，固有値と固有ベクトルを考えることによって，$A^n$を簡単に求められる場合があります．

このような行列の冪の計算は，固有値と固有ベクトルを考える大きな目的の１つです．

ベクトルの平行

例えば，$\R^3$のベクトル$\m{a}:=\bmat{1\\2\\3}$, $\m{b}:=\bmat{2\\4\\6}$は$\m{b}=2\m{a}$を満たします．

Rendered by QuickLaTeX.com

このように，２つのベクトル$\m{a}$と$\m{b}$がともに零ベクトル(成分が全て０のベクトル)でなく，一方の定数倍が他方に一致するとき，$\m{a}$と$\m{b}$は平行であるといいます．

さて，これまで$\R$成分の行列やベクトルを主に扱ってきましたが，成分が複素数の行列やベクトルを扱うこともよくあります．

「複素数の集合」は$\C$で表すので，$\C^n$は複素数成分の$n$次列ベクトルの集合を表します．ただ，成分が$\R$から$\C$になっても，これまで説明したことは本質的に変わりません．

いまみた$\R^n$の平行と同様に，$\m{a},\m{b}\in\C^n$がともに零ベクトルでなく，$\m{a}=\lambda\m{b}$となる$\lambda\in\C$が存在するとき，$\m{a}$と$\m{b}$は平行であるといいます．

固有値と固有ベクトル

$n$次正方行列$A$と$\m{a}\in\C^n$を考えます．

このとき，$\m{a}$と$A\m{a}$は「平行」であるとは限りませんが，たまたま$\m{v}$と$A\m{v}$が平行になることもあります．

このとき，ある$\lambda\in\C$が存在して

    \begin{align*} A\m{a}=\lambda\m{a} \end{align*}

が成り立ちますが，このときの$\lambda$を$A$の固有値といい，$\m{a}$を$A$の固有値$\lambda$に属する固有ベクトルといいます．

すなわち，うまく$\m{v}$を選んで$A\m{v}$と$\m{v}$が平行，または$A\m{v}=\m{0}$となるとき$\m{v}$を固有値といい，そのときの伸び率$\lambda$を固有値というわけですね．

Rendered by QuickLaTeX.com

対角化

正方行列の第$(k,k)$成分を対角成分といい，対角成分以外の成分が０の行列を対角行列といいます．

たとえば，$A=\bmat{2&0&0\\0&1&0\\0&0&-3}$とすると，行列の積の定義から

    \begin{align*} &A^2=\bmat{2&0&0\\0&1&0\\0&0&-3}\bmat{2&0&0\\0&1&0\\0&0&-3}=\bmat{4&0&0\\0&1&0\\0&0&9}, \\&A^3=A^2 A=\bmat{4&0&0\\0&1&0\\0&0&9}\bmat{2&0&0\\0&1&0\\0&0&-3}=\bmat{8&0&0\\0&1&0\\0&0&-27}, \\&A^4=A^3 A=\bmat{8&0&0\\0&1&0\\0&0&-27}\bmat{2&0&0\\0&1&0\\0&0&-3}=\bmat{16&0&0\\0&1&0\\0&0&81} \end{align*}

となります．これを続ければ，

    \begin{align*} A^n=\bmat{2^n&0&0\\0&1^n&0\\0&0&(-3)^n} \end{align*}

であることが推察できますね．

一般に行列の積の計算は煩雑になりますが，対角行列は冪が簡単に計算できるのがが対角行列の特徴です．

そこで，もし正則行列$P$によって$B:=P^{-1}AP$が対角行列になったとしましょう．このとき，両辺を$m$乗すると，

    \begin{align*} B^{m} =&(P^{-1}AP)^{m} \\=&(P^{-1}AP)(P^{-1}AP)\dots(P^{-1}AP) \\=&P^{-1}A(PP^{-1})A(PP^{-1})A\dots A(PP^{-1})AP \\=&P^{-1}A^{m}P \end{align*}

が成り立ち，これより$PB^{m}P^{-1}=A^{m}$が成り立ちます．

$B$は対角行列なので$B^{m}$は容易に計算でき，あとは$PB^{m}P^{-1}$を計算することにより，$A^{m}$が得られます．

このように，正方行列$A$に対して$P^{-1}AP$が対角行列となるような正則行列$P$が存在するとき，$A$は対角化可能であるといいます．

よって，我々は正方行列を対角化する正則行列$P$を見つける方法が知りたいわけですね．

そして，これについては以下の基本定理が成り立ちます．

$n$次正方行列$A$が異なる$n$個の固有値$\lambda_1,\dots,\lambda_n$をもつとき，$A$は対角化可能である．とくに$\m{v}_i$を固有値$\lambda_i$に属する固有ベクトルとする($i=1,\dots,n$)と，$P=[\m{v}_1,\dots,\m{v}_n]$により以下が成り立つ．

    \begin{align*} P^{-1}AP=\bmat{\lambda_1&0&\dots&0\\0&\lambda_2&\ddots&\vdots\\\vdots&\ddots&\ddots&0\\0&\dots&0&\lambda_n}. \end{align*}

このように，固有値と固有ベクトルを求めることによって，対角化できる場合があります．

【線形代数16｜「固有値」「固有ベクトル」「対角化」とは？】
【線形代数17｜固有値と固有ベクトルは２ステップで求める！】

Jordan標準形

全ての複素正方行列が対角化可能であるとは限りませんが，対角化可能でない場合でも対角行列の拡張であるJordan標準形にすることはいつでもできます．

以下ように

  • 対角成分が$\lambda$
  • 第$(k,k-1)$成分が１

の行列を，固有値$\lambda$の$n$次Jordan細胞といい，$J_{n}(\lambda)$で表します：

    \begin{align*} J_{n}(\lambda) =\bmat{\lambda&1&0&\dots&0\\ 0&\lambda&\ddots&\ddots&\vdots\\ \vdots&\ddots&\ddots&\ddots&0\\ \vdots&\ddots&\ddots&\lambda&1\\ 0&\dots&\dots&0&\lambda}. \end{align*}

そして，このJordan細胞を対角成分に並べてできる行列をJordan標準形といいます．

    \begin{align*} \bmat{J_{n_1}(\lambda_1)&O&\dots&O\\O&J_{n_2}(\lambda_2)&\ddots&\vdots\\\vdots&\ddots&\ddots&O\\O&\dots&O&J_{n_k}(\lambda_k)} \end{align*}

対角行列はJordan細胞の字数が全て１のJordan標準形なので，対角行列もJordan標準形ですね．

対角行列ほどではありませんが，Jordan標準形も冪の計算がしやすい行列なので，「準対角化」といった気持ちになりますね．

参考文献

以下は参考文献です．

手を動かしてまなぶ 線形代数

[藤岡敦 著/裳華房]

線形代数の入門書で，説明も非常に丁寧なので初学者にも読み進めやすい教科書です．

数学で初めて出会った概念で詰まった時には，具体例を考えることで理解できるようになることはよくあります．

特に線形代数は高校数学で扱ってきた数学よりも抽象度がやや増すので，いきなり抽象的に理解するよりも「具体例を理解→抽象化」という学び方が効果的です．

本書は具体例と例題が豊富で，実際に手を動かしながらイメージを掴んで抽象的に理解することを目指しています．

また，続巻も発行されていますが，この第１巻だけでも正方行列の対角化(固有値・固有ベクトル)まで学ぶことができます．