階数かいすうrankの基本きほん

Basics of rank階数かいすう

1導入どうにゅう

この講義こうぎで重要じゅうようなのは、ここでの階数かいすうrankは、まず $m\times n$m\times n 行列ぎょうれつmatrixの列空間れつくうかんcolumn spaceの次元じげんdimensionとして定義ていぎするということである。

この段階だんかいでは、線型写像せんけいしゃぞうlinear mapの像ぞうimageや退化次数たいかじすうnullityを正式せいしきな主役しゅやくにはしない。もちろん、$A$A は $x\mapsto Ax$x\mapsto Ax という線型写像せんけいしゃぞうlinear mapを表あらわすため、背後はいごでは同おなじ量りょうを見みている。しかし、一般化後いっぱんかごの定義ていぎと証明しょうめいは次つぎの講義こうぎで改あらためて扱あつかう。

1Introduction

In this lecture, the rank階数かいすう of an $m\times n$m\times n matrix行列ぎょうれつ is first defined as the dimension of its column space列空間れつくうかん. The generalized definition for linear maps, as image dimension, is treated in the next lecture.

2用語ようごと定義ていぎ

$A$A を $m\times n$m\times n 行列ぎょうれつmatrixとし、その列れつcolumnを $C_1,\dots ,C_n\in K^m$C_1,\ldots,C_n\in\mathbb K^m とする。列空間れつくうかんcolumn spaceを

で定義ていぎする。一般化前いっぱんかまえの行列版ぎょうれつばんの階数かいすうrankを

で定義ていぎする。

行空間ぎょうくうかんrow spaceは、$A$A の行ぎょうrowが張はる部分空間ぶぶんくうかんsubspaceである。行階数ぎょうかいすうrow rankは行空間ぎょうくうかんrow spaceの次元じげんdimension、列階数れつかいすうcolumn rankは列空間れつくうかんcolumn spaceの次元じげんdimensionである。この講義こうぎでは、最終的さいしゅうてきに両者りょうしゃが一致いっちすることを証明しょうめいし、その共通値きょうつうちを階数かいすうrankと呼よぶ。

また、行列版ぎょうれつばんの核かくkernelを

と書かく。これは一般化後いっぱんかごには線型写像せんけいしゃぞうlinear mapの核かくkernelとして定義ていぎし直なおされる。

2Terms and definitions

Let $A$A be an $m\times n$m\times n matrix行列ぎょうれつ with columns $C_1,\dots ,C_n$C_1,\ldots,C_n. The column space列空間れつくうかん is

The matrix-level definition of rank階数かいすう is

The row space行空間ぎょうくうかん is the span of the rows. Row rank and column rank will be proved equal. The matrix-level kernel核かく is

3方針ほうしん

階数かいすうrankを計算けいさんするには、列空間れつくうかんcolumn spaceを直接ちょくせつ調しらべるより、階段形かいだんけいechelon formのピボットpivotを数かぞえるほうが効率的こうりつてきである。ただし、基本変形きほんへんけいが何なにを保たもち、何なにを変かえるかを区別くべつする必要ひつようがある。

1. 行基本変形ぎょうきほんへんけいelementary row operationは階数かいすうrankを保たもつが、列空間れつくうかんcolumn spaceそのものは一般いっぱんに保たもたない。
2. 列基本変形れつきほんへんけいelementary column operationは列空間れつくうかんcolumn spaceそのものを保たもつため、階数かいすうrankも保たもつ。
3. ピボットpivotの個数こすうは、列空間れつくうかんcolumn spaceに残のこる独立どくりつindependentな方向ほうこうの個数こすうである。

3Plan

Rank is computed by pivots, but the meaning of the row and column operations must be separated. Row operations preserve rank but usually move the column space. Column operations preserve the column space itself. The number of pivots counts the independent directions that remain in the columns.

4直感的ちょっかんてきな説明せつめい

行列ぎょうれつmatrixの列れつcolumnは、出力空間しゅつりょくくうかんの中なかに置おかれた生成元せいせいげんである。すべての列れつcolumnが互たがいに別べつの方向ほうこうを提供ていきょうするとは限かぎらない。ある列れつcolumnが他ほかの列れつcolumnの線型結合せんけいけつごうlinear combinationなら、それは新あたらしい方向ほうこうを増ふやしていない。

階数かいすうrankは、列れつcolumnたちが実際じっさいに張はる方向ほうこうの数かずである。したがって、階数かいすうrankが小ちいさいとは、見みかけの列れつcolumnの本数ほんすうよりも情報じょうほうが少すくないということである。正方行列せいほうぎょうれつsquare matrixで階数かいすうrankが最大さいだいでなければ、ある入力方向にゅうりょくほうこうが 0 へ潰つぶれるため、逆行列ぎゃくぎょうれつinverse matrixは存在そんざいしない。

4Intuitive explanation

The columns of a matrix are generators in the output space. A column that is a linear combination of previous columns adds no new direction. Rank counts the number of genuinely independent directions spanned by the columns. For a square matrix, failure of full rank means some input direction is collapsed, so no inverse matrix exists.

5厳密げんみつな説明せつめい

5.11. 行基本変形ぎょうきほんへんけいelementary row operationが階数かいすうrankを保たもつ理由りゆう

行基本変形ぎょうきほんへんけいelementary row operationは、左ひだりから可逆行列かぎゃくぎょうれつinvertible matrix $E$E を掛かけることと同おなじである。したがって変形後へんけいごの列空間れつくうかんcolumn spaceは

である。$E$E は可逆かぎゃくinvertibleな線型写像せんけいしゃぞうlinear mapなので、部分空間ぶぶんくうかんsubspaceの次元じげんdimensionを保たもつ。よって

である。ただし、$E\left(\mathrm{Col}\right(A\left)\right)$E(\operatorname{Col}(A)) は一般いっぱんに $\mathrm{Col}\left(A\right)$\operatorname{Col}(A) そのものではない。したがって、行基本変形ぎょうきほんへんけいelementary row operationで階数かいすうrankは計算けいさんできるが、もとの列空間れつくうかんcolumn spaceの基底きていを読よむときは、もとのピボット[pivot]pivot 列れつへ戻もどる必要ひつようがある。

5.22. 列基本変形れつきほんへんけいelementary column operationが列空間れつくうかんcolumn spaceを保たもつ理由りゆう

列基本変形れつきほんへんけいelementary column operationは、右みぎから可逆行列かぎゃくぎょうれつinvertible matrix $F$F を掛かけることと同おなじである。$AF$AF の列れつcolumnは、$A$A の列れつcolumnの線型結合せんけいけつごうlinear combinationであるため、

である。一方いっぽう、$F$F は可逆かぎゃくinvertibleなので $A=\left(AF\right)F^{-1}$A=(AF)F^{-1} であり、$A$A の列れつcolumnも $AF$AF の列れつcolumnの線型結合せんけいけつごうlinear combinationである。したがって

である。よって

が成立せいりつする。

5.33. ピボットpivotの個数こすうが階数かいすうrankである理由りゆう

$A$A を行基本変形ぎょうきほんへんけいelementary row operationで階段形かいだんけいechelon form $U$U へ変形へんけいする。すでに示しめしたように、行基本変形ぎょうきほんへんけいelementary row operationは階数かいすうrankを保たもつため、

である。階段形かいだんけいechelon formでは、ピボットpivotを持もつ列れつcolumnが新あたらしい独立どくりつな方向ほうこうを提供ていきょうし、ピボットpivotを持もたない列れつcolumnは先さきのピボットpivot 列れつの線型結合せんけいけつごうlinear combinationになる。したがって、階数かいすうrankはピボットpivotの個数こすうである。

5.44. 行階数ぎょうかいすうrow rankと列階数れつかいすうcolumn rankが一致いっちする理由りゆう

階段形かいだんけいechelon form $U$U の非零行ひぜろぎょうの個数こすうを $r$r とする。$U$U の非零行ひぜろぎょうは、先頭せんとうのピボットpivotの位置いちが互たがいに異ことなるため、一次独立いちじどくりつlinearly independentである。したがって $U$U の行階数ぎょうかいすうrow rankは $r$r である。

同時どうじに、$U$U のピボットpivot 列れつは $r$r 本ほんあり、前節ぜんせつより列階数れつかいすうcolumn rankも $r$r である。行基本変形ぎょうきほんへんけいelementary row operationは行空間ぎょうくうかんrow spaceの生成系せいせいけいを取とり替かえるだけなので行階数ぎょうかいすうrow rankを保たもち、また階数かいすうrankも保たもつ。よって、もとの $A$A でも

である。

5.55. 解空間かいくうかんとの関係かんけい

同次方程式どうじほうていしきhomogeneous equation $Ax=0$Ax=0 を考かんがえる。簡約階段形かんやくかいだんけいreduced echelon formでピボットpivot 列れつが $r$r 本ほんなら、自由変数じゆうへんすうfree variableは $n-r$n-r 個こである。したがって、行列版ぎょうれつばんの核かくkernelについて

である。これは次つぎの講義こうぎで証明しょうめいする階数・退化次数定理ていりrank-nullity theoremの行列版ぎょうれつばんである。

5Precise explanation

5.11. Why row operations preserve rank

An elementary row operation is left multiplication by an invertible matrix $E$E. Hence

Since $E$E is an invertible linear map, it preserves dimension, so $\mathrm{rank}\left(EA\right)=\mathrm{rank}\left(A\right)$\operatorname{rank}(EA)=\operatorname{rank}(A). The column space itself may move, so row operations should not be used to read a concrete basis of the original column space without returning to the original pivot columns.

5.22. Why column operations preserve the column space

An elementary column operation is right multiplication by an invertible matrix $F$F. The columns of $AF$AF are linear combinations of the columns of $A$A, so $\mathrm{Col}\left(AF\right)\subset \mathrm{Col}\left(A\right)$\operatorname{Col}(AF)\subset\operatorname{Col}(A). Since $A=\left(AF\right)F^{-1}$A=(AF)F^{-1}, the reverse inclusion also holds. Therefore

5.33. Why pivots count rank

Row reduction preserves rank. In echelon form, pivot columns provide the independent directions, and non-pivot columns are linear combinations of pivot columns. Thus rank equals the number of pivots.

5.44. Row rank equals column rank

In echelon form, the number $r$r of nonzero rows equals the number of pivots. The nonzero rows are linearly independent, so row rank is $r$r. The pivot count also gives column rank $r$r. Since row operations preserve both dimensions, row rank and column rank agree for the original matrix.

5.55. Relation to the solution space

For $Ax=0$Ax=0, if there are $r$r pivot columns among $n$n variables, then there are $n-r$n-r free variables. Hence the matrix-level kernel satisfies

This is the matrix version of the rank-nullity theorem proved in the next lecture.

6具体例ぐたいれい

を行基本変形ぎょうきほんへんけいで階段形かいだんけいへ変形へんけいする。

ピボットpivotは 2 個こである。したがって

である。もとの $A$A の列空間れつくうかんcolumn spaceの基底きていbasisを取とるときは、簡約後かんやくごの列れつcolumnではなく、もとの $A$A のピボット[pivot]pivot 列れつを選えらぶ。この例れいでは第だい 1 列れつと第だい 2 列れつが対応たいおうする。

また、未知数みちすうは 3 個こ、ピボットpivotは 2 個こなので、$\ker A$\ker A の次元じげんdimensionは $1$1 である。

6Worked example

For

row reduction gives

There are two pivots, so $\mathrm{rank}\left(A\right)=2$\operatorname{rank}(A)=2. To obtain a basis of the original column space, use the original pivot columns, not the reduced columns. Since there are three variables and two pivots, $\dim \ker A=1$\dim\ker A=1.

7線型写像せんけいしゃぞうlinear mapへの一般化いっぱんか

ここまでの定義ていぎは、行列ぎょうれつそのものを主役しゅやくにした定義ていぎである。次つぎの講義こうぎでは、線型写像せんけいしゃぞうlinear map $T:V\to W$T:V\to W に対たいして

と定義ていぎし直なおす。この一般化後いっぱんかごの定義ていぎは、基底きていを選えらんで表現行列ひょうげんぎょうれつrepresentation matrixを作つくると、ここでの行列版ぎょうれつばんの階数かいすうrankと一致いっちする。

7Generalization to linear maps

This lecture used the matrix-level definition. In the next lecture, rank is redefined for a linear map $T:V\to W$T:V\to W by

After bases are chosen, the generalized definition agrees with the matrix definition above.

8見分みわけ方かた

• ピボットpivotの個数こすうを問とわれたら、階数かいすうrankを求もとめている。
• 列空間列空間れつくうかんの具体的ぐたいてきな基底きていbasisを問とわれたら、行基本変形ぎょうきほんへんけいelementary row operationで位置いちを特定とくていし、もとの列れつcolumnへ戻もどる。
• 列基本変形れつきほんへんけいelementary column operationは列空間れつくうかんcolumn spaceそのものを保たもつが、未知数みちすうunknownの座標ざひょうcoordinateの読よみ方かたを変かえる。
• 正方行列せいほうぎょうれつsquare matrixで $\mathrm{rank}\left(A\right)=n$\operatorname{rank}(A)=n なら、逆行列ぎゃくぎょうれつinverse matrixや行列式ぎょうれつしきdeterminantの判定はんていへ接続せつぞくする。

8How to recognize what to use

Pivot count is rank. For a basis of the original column space, row-reduce to locate pivot positions but return to the original columns. Column operations preserve the column space itself but change the coordinate reading of unknowns. For square matrices, full rank connects to inverse matrices and determinants.

9どこまで成立せいりつするか

この講義こうぎの階数かいすうrankは、有限個ゆうげんこの行ぎょうrowと列れつcolumnを持もつ行列ぎょうれつmatrixに対たいする定義ていぎである。線型写像せんけいしゃぞうlinear mapや抽象的ちゅうしょうてきなベクトル空間くうかんvector spaceへ移うつると、像ぞうimageの次元じげんdimensionとして再定義さいていぎする方ほうが自然しぜんになる。

また、行列式ぎょうれつしきdeterminantは正方行列せいほうぎょうれつsquare matrixにだけ定義ていぎするが、階数かいすうrankは長方行列ちょうほうぎょうれつrectangular matrixにも定義ていぎできる。この違ちがいは、可逆性かぎゃくせい・片側逆かたがわぎゃく・擬似逆行列ぎじぎゃくぎょうれつpseudoinverse matrixを学まなぶときに重要じゅうようである。

9Scope

This lecture defines rank for finite matrices. For abstract linear maps, the natural definition is image dimension. Determinants belong to square matrices, but rank is defined for rectangular matrices as well.

10最終形さいしゅうけい

10Final forms

11一言ひとことでいうと

• 行列版ぎょうれつばんの階数かいすうrankは、列空間れつくうかんcolumn spaceの次元じげんdimensionである。
• ピボットpivotは、その次元じげんdimensionを計算けいさんするための印しるしである。
• 一般化後いっぱんかごには、線型写像せんけいしゃぞうlinear mapの像ぞうimageの次元じげんdimensionとして定義ていぎし直なおす。

12演習えんしゅうリンク

11In one sentence

• Matrix rank is the dimension of the column space.
• Pivots compute that dimension.
• The next lecture generalizes rank to image dimension for linear maps.

12Exercise links

13関連かんれんリンク

13Related links