直交補空間ちょっこうほくうかんorthogonal complementと射影しゃえいprojection

date2026-05-25description直交補空間を、部分空間に垂直な成分を集めた空間として定義し、直交分解と射影の一意性を説明する講義である。prerequisites内積空間の基本 / ノルムと三角不等式 / ベクトル空間と基底type講義statusactive

mathlinear-algebraundergraduatelecture

導入どうにゅう

この講義こうぎで重要じゅうようなのは、部分空間ぶぶんくうかんsubspaceに沿そう成分せいぶんcomponentと、それに直交ちょっこうorthogonalする成分せいぶんcomponentへベクトルを一意いちいに分解ぶんかいするという発想はっそうである。

射影しゃえいprojectionや最小二乗法さいしょうにじょうほうleast squares methodでは、「列空間れつくうかんcolumn spaceに最もっとも近ちかいベクトル」を求もとめる。近ちかさを記述きじゅつするには、誤差ごさが列空間れつくうかんcolumn spaceに直交ちょっこうorthogonalする、という条件じょうけんが中心ちゅうしんになる。この条件じょうけんを整理せいりする道具どうぐが直交補空間ちょっこうほくうかんorthogonal complementである。

用語ようごと定義ていぎ

直交補空間ちょっこうほくうかんOrthogonal complement とは、内積空間ないせきくうかんinner product space $V$ の部分空間ぶぶんくうかんsubspace $U$ に対たいして

U^{⊥} = {v \in V ∣ ⟨ v, u ⟩ = 0 forall u \in U}

で定義ていぎされる部分空間ぶぶんくうかんsubspaceである。

直交射影ちょっこうしゃえいOrthogonal projection とは、ベクトル $v$ を $U$ 方向ほうこうの成分せいぶんcomponent $p$ と $U^{⊥}$ 方向ほうこうの成分せいぶんcomponent $r$ に

v = p + r, p \in U, r \in U^{⊥}

と分解ぶんかいしたときの $p$ である。

方針ほうしん

まず $U^{⊥}$ が部分空間ぶぶんくうかんsubspaceであることを確認かくにんする。つぎに、有限次元ゆうげんじげん内積空間ないせきくうかんinner product spaceでは $V = U \oplus U^{⊥}$ が成立せいりつすることを説明せつめいし、直交射影ちょっこうしゃえいorthogonal projectionの公式こうしきへ移行いこうする。

data/lecture/math/linear-algebra/内積空間の基本-講義.n.md data/lecture/math/linear-algebra/複素内積とユニタリ行列-講義.n.md

直感的ちょっかんてきな説明せつめい

平面へいめんの中なかに 1 本ぽんの直線ちょくせん $U$ があるとする。あるベクトル $v$ は、その直線ちょくせんに沿そう影かげ $p$ と、直線ちょくせんに垂直すいちょくな残のこり $r$ に分解ぶんかいできる。この $r$ が属ぞくする方向ほうこうの全体ぜんたいが $U^{⊥}$ である。

この分解ぶんかいが重要じゅうようなのは、 $p$ が $U$ の中なかで $v$ に最もっとも近ちかいベクトルになるためである。誤差ごさ $v - p$ が $U$ に直交ちょっこうorthogonalしていると、 $U$ の中なかでさらに近ちかづく方向ほうこうが残のこっていない。

厳密げんみつな説明せつめい

1. $U^{⊥}$ は部分空間ぶぶんくうかんsubspaceである

$v, w \in U^{⊥}$ 、スカラー $a, b$ を任意にんいに固定こていする。任意にんいの $u \in U$ について

⟨ a v + b w, u ⟩ = a ⟨ v, u ⟩ + b ⟨ w, u ⟩ = 0

である。したがって $a v + b w \in U^{⊥}$ であり、 $U^{⊥}$ は部分空間ぶぶんくうかんsubspaceである。

2. 直交分解ちょっこうぶんかい

有限次元ゆうげんじげん内積空間ないせきくうかんinner product spaceで $U$ が部分空間ぶぶんくうかんsubspaceなら、任意にんいの $v \in V$ は

v = p + r, p \in U, r \in U^{⊥}

と一意いちいに分解ぶんかいできる。この事実じじつを直交分解ちょっこうぶんかいという。

存在そんざいは、 $U$ の正規直交基底せいきちょっこうきていorthonormal basisから構成こうせいできる。 $U$ の正規直交基底せいきちょっこうきていorthonormal basisを $e_{1}, [PARSE ERROR: Undefined("Command(\"dots\")")], e_{k}$ とし、

p = \sum_{i = 1}^{k} ⟨ v, e_{i} ⟩ e_{i}

と置おく。この $p$ は $U$ のベクトルである。さらに各かく $j$ について

⟨ v - p, e_{j} ⟩ = ⟨ v, e_{j} ⟩ - \sum_{i = 1}^{k} ⟨ v, e_{i} ⟩ ⟨ e_{i}, e_{j} ⟩ = 0

である。正規直交基底せいきちょっこうきていorthonormal basisでは $⟨ e_{i}, e_{j} ⟩ = 0$ （ $i \neq j$ ）かつ $⟨ e_{j}, e_{j} ⟩ = 1$ だからである。 $v - p$ は $U$ の基底きていbasisすべてに直交ちょっこうorthogonalするので、 $v - p \in U^{⊥}$ である。したがって $v = p + (v - p)$ という分解ぶんかいが存在そんざいする。

一意性いちいせいは直交性ちょっこうせいから従したがう。もし

v = p_{1} + r_{1} = p_{2} + r_{2}

であれば、 $p_{1} - p_{2} = r_{2} - r_{1}$ である。左辺さへんleft-hand sideは $U$ に属ぞくし、右辺うへんright-hand sideは $U^{⊥}$ に属ぞくする。したがってこのベクトルは $U \cap U^{⊥}$ に属ぞくする。ところが $x \in U \cap U^{⊥}$ なら $⟨ x, x ⟩ = 0$ なので $x = 0$ である。よって $p_{1} = p_{2}$ 、 $r_{1} = r_{2}$ となる。

直交分解ちょっこうぶんかいから、有限次元ゆうげんじげんでは

\dim U + \dim U^{⊥} = \dim V

が従したがう。また $U \subset (U^{⊥})^{⊥}$ であり、両辺りょうへんの次元じげんdimensionが一致いっちするため

(U^{⊥})^{⊥} = U

である。これらは直交補空間ちょっこうほくうかんorthogonal complementが単たんなる垂直方向すいちょくほうこうの集合しゅうごうsetではなく、部分空間ぶぶんくうかんsubspaceの次元じげんdimensionを補完ほかんする構造こうぞうstructureであることを示しめす。

3. 正規直交基底せいきちょっこうきていorthonormal basisによる射影公式しゃえいこうしき

$U$ の正規直交基底せいきちょっこうきていorthonormal basisを $e_{1}, [PARSE ERROR: Undefined("Command(\"dots\")")], e_{k}$ とする。このとき $v$ の $U$ への直交射影ちょっこうしゃえいorthogonal projectionは

{proj}_{U} (v) = \sum_{i = 1}^{k} ⟨ v, e_{i} ⟩ e_{i}

である。理由りゆうは、 $p = \sum_{i} ⟨ v, e_{i} ⟩ e_{i}$ と置おくと、各かく $j$ について

⟨ v - p, e_{j} ⟩ = 0

が成立せいりつし、 $v - p \in U^{⊥}$ となるためである。

複素ふくそcomplex内積空間ないせきくうかんinner product spaceでも同おなじ公式こうしきを使つかう。ただし、この系列けいれつでは第だい 1 変数へんすうを線型せんけいとするため、係数けいすうcoefficientは $⟨ v, e_{i} ⟩$ である。別べつの規約きやくでは共役きょうやくの位置いちが変かわる。

射影行列しゃえいぎょうれつprojection matrixとして見みると、直交射影ちょっこうしゃえいorthogonal projectionは

P^{2} = P, P^{*} = P

を満みたす。 $P^{2} = P$ は「一度いちど射影しゃえいprojectionしたら再度さいど射影しゃえいprojectionしても変かわらない」こと、 $P^{*} = P$ は内積ないせきinner productと両立りょうりつした直交ちょっこうorthogonalな射影しゃえいprojectionであることを表あらわす。

具体例ぐたいれい

$R^{2}$ で $U = span {(1, 1)}$ とする。単位たんいベクトル $e = \frac{1}{\sqrt{2}} (1, 1)$ を用もちいると、 $v = (2, 0)$ の射影しゃえいprojectionは

{proj}_{U} (v) = ⟨ v, e ⟩ e = \sqrt{2} \cdot \frac{1}{\sqrt{2}} (1, 1) = (1, 1)

である。残差ざんさは

v - {proj}_{U} (v) = (1, - 1)

であり、これは $(1, 1)$ と直交ちょっこうorthogonalする。

別べつの観点かんてん

幾何的きかてきには、直交補空間ちょっこうほくうかんorthogonal complementは「部分空間ぶぶんくうかんsubspaceに垂直すいちょくな方向ほうこうの集あつまり」である。代数的だいすうてきには、 $U^{⊥}$ は内積ないせきinner productによる条件式じょうけんしき $⟨ v, u ⟩ = 0$ の解空間かいくうかんsolution spaceである。

判定基準はんていきじゅん

射影しゃえいprojection、最短距離さいたんきょり、残差ざんさが登場とうじょうしたら、直交補空間ちょっこうほくうかんorthogonal complementを確認かくにんする。
部分空間ぶぶんくうかんsubspaceの外そとにあるベクトルを、内部ないぶの成分せいぶんcomponentと垂直すいちょくな誤差ごさに分解ぶんかいしたいとき、直交分解ちょっこうぶんかいを用もちいる。
最小二乗法さいしょうにじょうほうleast squares methodでは、残差ざんさが列空間れつくうかんcolumn spaceの直交補空間ちょっこうほくうかんorthogonal complementに属ぞくすることを利用りようする。

どこまで成なり立たつか

有限次元ゆうげんじげん内積空間ないせきくうかんinner product spaceでは、直交分解ちょっこうぶんかいは安定あんていして成立せいりつする。無限次元むげんじげんでは、部分空間ぶぶんくうかんsubspaceが閉へいじているかどうかが重要じゅうようになる。閉へいじていない部分空間ぶぶんくうかんsubspaceでは、最近点さいきんてんや射影しゃえいprojectionが存在そんざいしない場合ばあいがある。

複素ふくそcomplexの場合ばあいは、転置てんちではなく共役転置きょうやくてんちconjugate transpose $A^{*}$ が射影しゃえいprojectionや最小二乗法さいしょうにじょうほうleast squares methodの式しきに現あらわれる。

最終形さいしゅうけい

[PARSE ERROR: Undefined("Command(\"boxed\")")] U^{⊥} = {v \in V ∣ ⟨ v, u ⟩ = 0 forall u \in U}

[PARSE ERROR: Undefined("Command(\"boxed\")")] V = U \oplus U^{⊥}

[PARSE ERROR: Undefined("Command(\"boxed\")")] \dim U + \dim U^{⊥} = \dim V, (U^{⊥})^{⊥} = U

[PARSE ERROR: Undefined("Command(\"boxed\")")] {proj}_{U} (v) = \sum_{i = 1}^{k} ⟨ v, e_{i} ⟩ e_{i}

一言ひとことでいうと

直交補空間ちょっこうほくうかんorthogonal complementは、部分空間ぶぶんくうかんsubspaceに垂直すいちょくな誤差ごさを収容しゅうようする空間くうかんである。

演習えんしゅうリンク

data/exercise/math/linear-algebra/内積・直交・射影-基本演習.n.md