対角化たいかくかdiagonalizationの基本きほん

Basics of diagonalization対角化たいかくか

1導入どうにゅう

この講義こうぎで中心ちゅうしんに置おく発想はっそうは、対角化たいかくかdiagonalizationは行列ぎょうれつmatrixをただ変形へんけいする技術ぎじゅつではなく、固有ベクトルeigenvectorを基底きていbasisに選択せんたくし直なおして線型変換せんけいへんかんlinear transformationの本質ほんしつを明示めいじすることである。

対角行列たいかくぎょうれつdiagonal matrixは、各座標方向かくざひょうほうこうに倍率ばいりつを掛かけるだけの単純たんじゅんな変換へんかんである。したがって複雑ふくざつな行列ぎょうれつmatrixであっても、適切てきせつな基底きていbasisを採用さいようすると対角行列たいかくぎょうれつdiagonal matrixになるなら、その変換へんかんの構造こうぞうstructureは理解りかいしやすくなる。

1Introduction

The key point of this lecture is that diagonalization対角化たいかくか is not merely a technique for rewriting a matrix行列ぎょうれつ. It is the process of choosing an eigenbasis固有基底こゆうきてい so that the essential action of a linear transformation線型変換せんけいへんかん becomes visible.

A diagonal matrix対角行列たいかくぎょうれつ only multiplies each coordinate direction by a scalar. Therefore, if a complicated matrix becomes diagonal after choosing a better basis基底きてい, the structure of the transformation becomes much easier to understand.

2用語ようごと定義ていぎ

対角化可能たいかくかかのうDiagonalizable とは、ある正則行列せいそくぎょうれつ $$P$$P を用もちいて

と表示ひょうじでき、$$D$$D が対角行列たいかくぎょうれつdiagonal matrixになることである。

この式しきで保存ほぞんされるのは、線型写像せんけいしゃぞうlinear mapそのものの作用さようである。変かわるのは、その作用さようを読よむための座標表示ざひょうひょうじである。$A$A は標準基底ひょうじゅんきていstandard basisでの表示ひょうじ、$D$D は固有基底こゆうきていでの表示ひょうじであり、$P$P は固有基底こゆうきていの座標ざひょうから標準座標ひょうじゅんざひょうへ戻もどす行列ぎょうれつmatrixである。

固有基底こゆうきていEigenbasis とは、固有ベクトルeigenvectorだけからなる基底きていbasisである。

2Terms and definitions

A matrix $A$A is diagonalizable対角化可能たいかくかかのう if there is an invertible matrix $P$P such that

and $D$D is diagonal.

This equation preserves the underlying linear map線型写像せんけいしゃぞう. What changes is the coordinate representation used to read that map. The matrix $A$A is the representation in the standard basis, $D$D is the representation in an eigenbasis, and $P$P converts coordinates in the eigenbasis back to standard coordinates.

An eigenbasis固有基底こゆうきてい is a basis基底きてい consisting entirely of eigenvectors固有こゆうベクトル.

3方針ほうしん

まず、固有ベクトルeigenvectorが基底きていbasisを構成こうせいできると行列ぎょうれつmatrixが対角行列たいかくぎょうれつdiagonal matrixになることを確認かくにんする。対角化たいかくかdiagonalizationは基底変更きていへんこうの応用おうようであり、同おなじ線型写像せんけいしゃぞうlinear mapを固有基底こゆうきていで表示ひょうじし直なおす操作そうさoperationである。そのあと、対角化たいかくかdiagonalizationできるための条件じょうけんを幾何的重複度きかてきちょうふくどと代数的重複度だいすうてきちょうふくどで整理せいりし、冪べき・漸化式ぜんかしき・微分方程式びぶんほうていしきへの応用おうようへ接続せつぞくする。

3Plan

First we show that if eigenvectors form a basis, then the matrix representation becomes diagonal. Diagonalization is a change of basis applied to a linear map: the same transformation is rewritten in an eigenbasis. Then we express diagonalizability using geometric and algebraic multiplicities, and finally connect diagonalization to powers, recurrence relations, and differential equations.

4直感的ちょっかんてきな説明せつめい

標準的ひょうじゅんてきな座標系ざひょうけいでは変換へんかんの構造こうぞうstructureが複雑ふくざつであっても、その変換へんかんが自然しぜんに伸縮しんしゅくさせる方向ほうこうへ座標軸ざひょうじくを調整ちょうせいすれば、変換へんかんは単純たんじゅんに記述きじゅつできる。この「座標軸ざひょうじくを固有方向こゆうほうこうに合あわせる」ことが対角化たいかくかdiagonalizationである。

4Intuitive explanation

In standard coordinates, a transformation may mix coordinate directions in a complicated way. If we rotate or change the coordinate axes so that they align with the natural directions of stretching, the transformation becomes simple. Aligning the coordinate axes with eigendirections固有方向こゆうほうこう is the idea of diagonalization対角化たいかくか.

5厳密げんみつな説明せつめい

5.11. 固有ベクトルeigenvectorを並ならべる

一次独立いちじどくりつlinear independenceな固有ベクトルeigenvector $$v_1,\text{[PARSE ERROR: Undefined("Command("dots")")]},v_n$$v_1,\dots,v_n があり、それぞれの固有値こゆうちeigenvalueを $${\lambda }_1,\text{[PARSE ERROR: Undefined("Command("dots")")]},{\lambda }_n$$\lambda_1,\dots,\lambda_n とする。

このとき

とおけば

である。なぜなら、$$P$$P の第だい $$j$$j 列れつcolumnは $$v_j$$v_j で、$$AP$$AP の第だい $$j$$j 列れつcolumnは $$A{v}_j={\lambda }_j{v}_j$$Av_j=\lambda_j v_j、また $$PD$$PD の第だい $$j$$j 列れつcolumnも $${\lambda }_j{v}_j$$\lambda_j v_j となるためである。したがって $$P$$P が正則せいそくなら

となる。

たとえば

では、$\lambda =3$\lambda=3 の固有ベクトルeigenvectorとして $v_1=\left(\begin{array}{c}1\\ 0\end{array}\right)$v_1=\begin{pmatrix}1\\0\end{pmatrix}、$\lambda =2$\lambda=2 の固有ベクトルeigenvectorとして $v_2=\left(\begin{array}{c}-1\\ 1\end{array}\right)$v_2=\begin{pmatrix}-1\\1\end{pmatrix} を取とれる。したがって

と置おくと、

である。この具体例ぐたいれいで変かわっているのは座標軸ざひょうじくであり、線型変換せんけいへんかんlinear transformationそのものではない。固有方向こゆうほうこうを座標軸ざひょうじくに選えらぶと、変換へんかんは「第だい 1 軸じくを 3 倍ばい、第だい 2 軸じくを 2 倍ばい」という対角行列たいかくぎょうれつdiagonal matrixとして読よめる。

5.22. 対角化たいかくかdiagonalizationの条件じょうけん

行列ぎょうれつmatrix $$A$$A が対角化可能たいかくかかのうであるためには、空間くうかんの次元じげんdimensionだけ一次独立いちじどくりつlinear independenceな固有ベクトルeigenvectorを確保かくほできることが必要ひつようである。

固有値こゆうちeigenvalueがすべて異ことなれば、その固有ベクトルeigenvectorは自動的じどうてきに一次独立いちじどくりつlinear independenceなので、対角化たいかくかdiagonalizationできる。

より本質的ほんしつてきには、

である。特性多項式とくせいたこうしきcharacteristic polynomialが対象たいしょうの体たいの上うえで一次式いちじしきに分解ぶんかいするとき、各かく固有値こゆうちeigenvalue $$\lambda$$\lambda について

が全すべて成立せいりつすることと、$$A$$A が対角化可能たいかくかかのうであることは同値どうちequivalentである。固有値こゆうちeigenvalueが全すべて異ことなることは十分条件じゅうぶんじょうけんであり、必要条件ひつようじょうけんではない。

5.33. 対角化たいかくかdiagonalizationの利点りてん

対角化たいかくかdiagonalizationできると

となり、行列ぎょうれつmatrixの冪べきや反復はんぷくが扱あつかいやすくなる。$$D^n$$D^n は対角成分たいかくせいぶんを各自かくじ $$n$$n 乗じょうするだけで済すむためである。

さらに、連立れんりつ微分方程式びぶんほうていしき

では

を考察こうさつする。$$A=PD{P}^{-1}$$A=PDP^{-1} なら

となり、$$e^{tD}$$e^{tD} は対角成分たいかくせいぶん $$e^{t{\lambda }_i}$$e^{t\lambda_i} を並ならべるだけで計算けいさんできる。したがって対角化たいかくかdiagonalizationは、高たかい冪べきだけでなく連立微分方程式れんりつびぶんほうていしきの解析かいせきにも有効ゆうこうである。

5Precise explanation

5.11. Put eigenvectors into a matrix

Suppose $v_1,\dots ,v_n$v_1,\ldots,v_n are linearly independent eigenvectors of $A$A, with corresponding eigenvalues ${\lambda }_1,\dots ,{\lambda }_n$\lambda_1,\ldots,\lambda_n. Define

Then

Indeed, the $j$j-th column of $AP$AP is $A{v}_j={\lambda }_j{v}_j$Av_j=\lambda_jv_j, and the $j$j-th column of $PD$PD is also ${\lambda }_j{v}_j$\lambda_jv_j. Since the $v_j$v_j are linearly independent, $P$P is invertible, so

For example, let

We may take

Then

and $P^{-1}AP=D$P^{-1}AP=D. The linear transformation itself has not changed; only the axes used to describe it have changed. In the eigenbasis, the first axis is scaled by $3$3 and the second by $2$2.

5.22. Conditions for diagonalization対角化たいかくか

For an $n$n-dimensional space, $A$A is diagonalizable exactly when there are $n$n linearly independent eigenvectors.

If all eigenvalues are distinct, their eigenvectors are automatically linearly independent, so $A$A is diagonalizable. This is a sufficient condition, not a necessary one.

More fundamentally,

When the characteristic polynomial splits over the field, $A$A is diagonalizable exactly when every eigenvalue $\lambda$\lambda satisfies

Here $\mathrm{G}\mathrm{M}$\mathrm{GM} is geometric multiplicity and $\mathrm{A}\mathrm{M}$\mathrm{AM} is algebraic multiplicity.

5.33. Why diagonalization is useful

If $A=PD{P}^{-1}$A=PDP^{-1}, then

This makes high powers and repeated applications much easier to compute, because $D^n$D^n is obtained by raising each diagonal entry to the $n$n-th power.

For a system of differential equations

one studies

If $A=PD{P}^{-1}$A=PDP^{-1}, then

and $e^{tD}$e^{tD} is the diagonal matrix whose entries are $e^{t{\lambda }_i}$e^{t\lambda_i}. Thus diagonalization is useful not only for powers of matrices but also for differential equations.

6判定基準はんていきじゅん

• 固有値こゆうちeigenvalueと固有ベクトルeigenvectorを求もとめたあと、「対角化たいかくかdiagonalizationできるか」と問とわれたら、一次独立いちじどくりつlinear independenceな固有ベクトルeigenvectorが十分じゅうぶんに存在そんざいするかを確認かくにんする。
• 行列ぎょうれつmatrixの高たかい冪べきや漸化式ぜんかしきが表あらわれたら、対角化たいかくかdiagonalizationの適用てきようを検討けんとうする。
• 固有値こゆうちeigenvalueがすべて異ことなるなら、対角化可能たいかくかかのうである。ただし重複ちょうふくがある場合ばあいにおいても、GM = AM が成立せいりつすれば対角化可能たいかくかかのうである。

6Criteria

• After finding eigenvalues固有値こゆうち and eigenvectors固有こゆうベクトル, ask whether enough linearly independent eigenvectors exist.
• When large powers of a matrix or recurrence relations appear, consider diagonalization.
• Distinct eigenvalues guarantee diagonalizability. Repeated eigenvalues require checking whether GM equals AM.

7どこまで成立せいりつするか

固有値こゆうちeigenvalueが求もとまっても、固有ベクトルeigenvectorが十分じゅうぶんに確保かくほできなければ対角化たいかくかdiagonalizationはできない。たとえば

は固有値こゆうちeigenvalue 1 を持もつが、一次独立いちじどくりつlinear independenceな固有ベクトルeigenvectorが 1 本ほんしか確保かくほできないので対角化たいかくかdiagonalizationできない。つまり「固有値こゆうちeigenvalueがある」ことと「対角化たいかくかdiagonalizationできる」ことは別べつである。

7Scope and limitations

Having eigenvalues is not the same as being diagonalizable. For example,

has the eigenvalue $1$1, but only one linearly independent eigenvector. It cannot be diagonalized.

8最終形さいしゅうけい

8Final forms

9一言ひとことでいうと

• 対角化たいかくかdiagonalizationは、固有ベクトルeigenvectorを基底きていbasisに選択せんたくし直なおして、線型変換せんけいへんかんlinear transformationを「方向ほうこうごとの倍率ばいりつ」として再記述さいきじゅつすることである。

9In one sentence

Diagonalization対角化たいかくか means choosing eigenvectors固有こゆうベクトル as a basis基底きてい so that a linear transformation線型変換せんけいへんかん is rewritten as one scale factor per direction.

10定理ていりと証明しょうめい：対角化たいかくかできることと固有ベクトルeigenvector基底きてい

$n\times n$n\times n 行列ぎょうれつ $A$A が対角化たいかくかできることと、$F^n$\mathbb{F}^n が $A$A の固有ベクトルeigenvectorからなる基底きていを持もつことは同値どうちである。

まず $A=PD{P}^{-1}$A=PDP^{-1} とする。$P$P の列れつを $p_1,\dots ,p_n$p_1,\ldots,p_n、$D$D の対角成分たいかくせいぶんを ${\lambda }_1,\dots ,{\lambda }_n$\lambda_1,\ldots,\lambda_n とする。$AP=PD$AP=PD なので、列れつを比くらべると

である。$P$P は可逆かぎゃくなので、その列れつは基底きていである。よって固有ベクトルeigenvectorの基底きていがある。

逆ぎゃくに、$v_1,\dots ,v_n$v_1,\ldots,v_n が固有ベクトルeigenvectorの基底きていで、$A{v}_i={\lambda }_i{v}_i$Av_i=\lambda_i v_i とする。$P=[v_1\cdots v_n]$P=[v_1\ \cdots\ v_n]、$D=\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n)$D=\operatorname{diag}(\lambda_1,\ldots,\lambda_n) とおくと、列れつごとに

である。$P$P は基底きていを列れつに持もつので可逆かぎゃくであり、$A=PD{P}^{-1}$A=PDP^{-1} である。

この定理ていりは、対角化たいかくかが「座標軸ざひょうじくを固有方向こゆうほうこうに取とり替かえる操作そうさ」であることを示しめしている。

10Theorem and proof: diagonalizability and eigenvector bases

For an $n\times n$n\times n matrix $A$A, $A$A is diagonalizable if and only if $F^n$\mathbb F^n has a basis consisting of eigenvectors of $A$A.

First suppose $A=PD{P}^{-1}$A=PDP^{-1}. Let the columns of $P$P be $p_1,\dots ,p_n$p_1,\ldots,p_n, and let the diagonal entries of $D$D be ${\lambda }_1,\dots ,{\lambda }_n$\lambda_1,\ldots,\lambda_n. Since $AP=PD$AP=PD, comparing columns gives

Because $P$P is invertible, its columns form a basis. Hence there is an eigenvector basis.

Conversely, suppose $v_1,\dots ,v_n$v_1,\ldots,v_n is an eigenvector basis and $A{v}_i={\lambda }_i{v}_i$Av_i=\lambda_iv_i. Let

Then $AP=PD$AP=PD column by column. Since $P$P is invertible, $A=PD{P}^{-1}$A=PDP^{-1}.

This theorem shows that diagonalization is exactly the operation of replacing coordinate axes by eigendirections.

11演習えんしゅうリンク

11Exercise link

12関連かんれんリンク

12Related links