二次形式にじけいしきquadratic formと正定値行列せいていちぎょうれつpositive definite matrix

date2026-07-14document_iddoc_4a8d2f4f75ae889a2fd408e5b2ba1761description二次形式を対称行列が定める量として導入し、直交対角化によって正定値性と固有値の関係を整理する講義である。prerequisites対称行列と直交対角化 / 行列式 / 固有値と固有ベクトルtype講義content_typelecturestatusactive

mathlinear-algebraundergraduatelecture

Quadratic forms二次形式にじけいしき and positive definite matrices正定値行列せいていちぎょうれつ

1導入どうにゅう

この講義こうぎで重要じゅうようなのは、二次形式にじけいしきquadratic formは行列ぎょうれつmatrixによって定さだまる二次式にじしきであり、対称行列たいしょうぎょうれつsymmetric matrixの固有値こゆうちeigenvalueを通つうじて符号ふごうを判定はんていできるということである。

固有値こゆうちeigenvalueは、対角化たいかくかdiagonalizationの計算けいさんだけのために存在そんざいする概念がいねんではない。二次形式にじけいしきquadratic formを観察かんさつすると、固有値こゆうちeigenvalueは曲面きょくめんの伸のびや凸性とつせいを支配しはいする量りょうとして確認かくにんできる。

1Introduction

The important point of this lecture is that a quadratic form二次形式にじけいしき is a quadratic expression determined by a matrix行列ぎょうれつ, and that the sign of the form can be read from the eigenvalues固有値こゆうち of a symmetric matrix対称行列たいしょうぎょうれつ.

Eigenvalues are not only tools for diagonalization. In quadratic forms they control shape, convexity, and how values grow in different directions.

2用語ようごと定義ていぎ

二次形式にじけいしきQuadratic form とは、実正方行列じつせいほうぎょうれつ $A$ によって

q (x) = x^{T} A x

と定義ていぎされる関数かんすうである。ここで $x \in R^{n}$ である。

エルミート形式けいしきHermitian form とは、複素ふくそcomplexの場合ばあいに

q (x) = x^{*} A x

と書かく量りょうである。ここでは $A$ をエルミート行列ぎょうれつHermitian matrixとする。この条件じょうけんにより、 $x^{*} A x$ は実数じっすうreal numberとして符号ふごうを判定はんていできる。

正定値行列せいていちぎょうれつPositive definite matrix とは、実対称行列じつたいしょうぎょうれつ $A$ が任意にんいの $x \neq 0$ について

x^{T} A x > 0

を満みたすことである。非負定値ひふていちは $x^{T} A x [PARSE ERROR: Undefined("Command(\"ge\")")] 0$ 、負定値ふていちは $x^{T} A x < 0$ 、不定ふていは正せいにも負ふにもなる場合ばあいである。

2Terms and definitions

A quadratic form二次形式にじけいしき associated with a real square matrix $A$ is

q (x) = x^{T} A x, x \in R^{n} .

In the complex case, a Hermitian formエルミート形式けいしき is

q (x) = x^{*} A x,

where $A$ is Hermitian. This condition ensures $x^{*} A x$ is real, so positivity and negativity make sense.

A real symmetric matrix $A$ is positive definite正定値せいていち if

x^{T} A x > 0

for every $x \neq 0$ . It is positive semidefinite if $x^{T} A x [PARSE ERROR: Undefined("Command(\"ge\")")] 0$ , negative definite if $x^{T} A x < 0$ for all $x \neq 0$ , and indefinite if the expression takes both positive and negative values.

3方針ほうしん

方針ほうしんは、二次形式にじけいしきquadratic formを直交対角化ちょっこうたいかくかで標準形ひょうじゅんけいに変換へんかんすることである。対称行列たいしょうぎょうれつsymmetric matrix $A$ について

A = Q D Q^{T}

と直交対角化ちょっこうたいかくかし、 $y = Q^{T} x$ と置換ちかんすると

x^{T} A x = y^{T} D y = λ_{1} y_{1^{2}} + \dots + λ_{n} y_{n^{2}}

となる。したがって符号ふごうは固有値こゆうちeigenvalueの符号ふごうに還元かんげんされる。

data/lecture/math/linear-algebra/symmetric-matrices-and-orthogonal-diagonalization.lecture.n.md data/lecture/math/linear-algebra/complex-inner-products-and-unitary-matrices.lecture.n.md

3Plan

Use orthogonal diagonalization. If $A = Q D Q^{T}$ and $y = Q^{T} x$ , then

x^{T} A x = y^{T} D y = λ_{1} y_{1^{2}} + \dots + λ_{n} y_{n^{2.}}

Thus the sign of the quadratic form is reduced to the signs of the eigenvalues.

data/lecture/math/linear-algebra/symmetric-matrices-and-orthogonal-diagonalization.lecture.n.md data/lecture/math/linear-algebra/complex-inner-products-and-unitary-matrices.lecture.n.md

4直感的ちょっかんてきな説明せつめい

二次形式にじけいしきquadratic formは、方向ほうこうごとに値あたいの増加ぞうかの仕方しかたを測定そくていする装置そうちである。正定値せいていちpositive definiteであれば、原点げんてんからどの方向ほうこうへ移動いどうしても値あたいが正せいになる。これは原点げんてんが谷たにの底そこのように振舞ふるまうことに対応たいおうする。

不定ふていであれば、方向ほうこうによって値あたいが正せいにも負ふにもなる。鞍点あんてんのような形状けいじょうが発生はっせいする。

4Intuitive explanation

A quadratic form measures how a value grows in each direction. If it is positive definite, moving away from the origin in any nonzero direction gives a positive value, like the bottom of a bowl. If it is indefinite, some directions give positive values and others give negative values, producing saddle behavior.

5厳密げんみつな説明せつめい

5.11. 反対称成分はんたいしょうせいぶんは二次形式にじけいしきquadratic formに寄与きよしない

任意にんいの実正方行列じつせいほうぎょうれつ $A$ について

A = \frac{A + A^{T}}{2} + \frac{A - A^{T}}{2}

と分解ぶんかいできる。 $S = (A + A^{T}) / 2$ は対称行列たいしょうぎょうれつsymmetric matrix、 $K = (A - A^{T}) / 2$ は反対称行列はんたいしょうぎょうれつである。反対称行列はんたいしょうぎょうれつについては

x^{T} K x = 0

であるため、

x^{T} A x = x^{T} S x

である。したがって二次形式にじけいしきquadratic formでは対称部分たいしょうぶぶんだけを考察こうさつすれば十分じゅうぶんである。

5.22. 正定値性せいていちせいと固有値こゆうちeigenvalue

$A$ を実対称行列じつたいしょうぎょうれつとする。このとき次つぎは同値どうちequivalentである。

[PARSE ERROR: Undefined("Command(\"boxed\")")] A は正定値 ⟺ λ_{i} > 0 (i = 1, [PARSE ERROR: Undefined("Command(\"dots\")")], n)

理由りゆうは直交対角化ちょっこうたいかくかである。 $A = Q D Q^{T}$ 、 $y = Q^{T} x$ とすると

x^{T} A x = λ_{1} y_{1^{2}} + \dots + λ_{n} y_{n^{2}}

である。すべての $λ_{i}$ が正せいなら、 $x \neq 0$ すなわち $y \neq 0$ に対たいして $x^{T} A x > 0$ である。逆ぎゃくに、ある $λ_{i} < 0$ なら、その固有方向こゆうほうこうで値あたいは負ふになる。

境界きょうかいとして、ある $λ_{i} = 0$ の場合ばあいも確認かくにんしておく。このとき、その固有値こゆうちeigenvalueに対応たいおうする単位たんい固有ベクトルeigenvectorを $q_{i}$ とすれば、 $q_{i} \neq 0$ であるにもかかわらず

q_{i^{T}} A q_{i} = 0

となる。したがって $A$ は正定値せいていちpositive definiteではない。つまり「 $λ_{i} [PARSE ERROR: Undefined("Command(\"ge\")")] 0$ 」では正定値せいていちpositive definiteには不足ふそくであり、すべての固有値こゆうちeigenvalueが正せいであること、すなわち $λ_{i} > 0$ が必要ひつようである。

5.33. シルベスター判定法はんていほう

実対称行列じつたいしょうぎょうれつ $A$ について、左上ひだりうえからの主小行列式しゅしょうぎょうれつしきがすべて正せいであることは、 $A$ が正定値せいていちpositive definiteであることと同値どうちequivalentである。

\det A_{1} > 0, \det A_{2} > 0, [PARSE ERROR: Undefined("Command(\"dots\")")], \det A_{n} > 0

この判定法はんていほうは計算上けいさんじょう有用ゆうようである。ただし、本質ほんしつは固有値こゆうちeigenvalueの符号ふごうによる判定はんていである。

5.44. シルベスターの慣性法則かんせいほうそく

実対称行列じつたいしょうぎょうれつ $A$ に対たいして、可逆かぎゃくinvertibleな変数変換へんすうへんかん $x = P y$ を行おこなうと

x^{T} A x = y^{T} (P^{T} A P) y

となる。このような変換へんかんを合同変換ごうどうへんかんという。対角化たいかくかdiagonalizationによって二次形式にじけいしきquadratic formを

y_{1^{2}} + \dots + y_{p^{2}} - y_{{p + 1}^{2}} - \dots - y_{{p + q}^{2}}

のような形かたちへ整理せいりしても、正せいの平方項へいほうこうの個数こすう $p$ 、負ふの平方項へいほうこうの個数こすう $q$ 、0 の個数こすうは変化へんかしない。これをシルベスターの慣性法則かんせいほうそくという。この不変量ふへんりょうにより、二次形式にじけいしきquadratic formの符号構造ふごうこうぞうは座標選択ざひょうせんたくに依存いぞんしない。

5Precise explanation

5.11. The skew-symmetric part does not contribute

For any real square matrix $A$ ,

A = \frac{A + A^{T}}{2} + \frac{A - A^{T}}{2} .

Let $S = (A + A^{T}) / 2$ be symmetric and $K = (A - A^{T}) / 2$ be skew-symmetric. Since

x^{T} K x = 0,

we have

x^{T} A x = x^{T} S x .

Thus only the symmetric part matters for a real quadratic form.

5.22. Positive definiteness and eigenvalues

For a real symmetric matrix $A$ ,

[PARSE ERROR: Undefined("Command(\"boxed\")")] A ispositivedefinite ⟺ λ_{i} > 0 (i = 1, \dots, n) .

Indeed, write $A = Q D Q^{T}$ and $y = Q^{T} x$ . Then

x^{T} A x = λ_{1} y_{1^{2}} + \dots + λ_{n} y_{n^{2.}}

If all $λ_{i} > 0$ , then $x \neq 0$ implies $y \neq 0$ , so the sum is positive. Conversely, if some $λ_{i} < 0$ , the corresponding eigenvector gives a negative value. If some $λ_{i} = 0$ , the corresponding nonzero eigenvector gives value $0$ , so $A$ is not positive definite. Thus positive semidefinite is not enough; strict positivity of all eigenvalues is required.

5.33. Sylvester's criterion

For a real symmetric matrix $A$ , positivity of all leading principal minors is equivalent to positive definiteness:

\det A_{1} > 0, \det A_{2} > 0, \dots, \det A_{n} > 0.

This is useful computationally, while the eigenvalue criterion explains the underlying geometry.

5.44. Sylvester's law of inertia

Under an invertible change of variables $x = P y$ ,

x^{T} A x = y^{T} (P^{T} A P) y .

This is a congruence transformation. Even if the quadratic form is rewritten as

y_{1^{2}} + \dots + y_{p^{2}} - y_{{p + 1}^{2}} - \dots - y_{{p + q}^{2}},

the numbers of positive, negative, and zero square terms are invariant. This is Sylvester's law of inertia and shows that the sign structure does not depend on the chosen coordinates.

6具体例ぐたいていれい

A = (\begin{matrix} 2 & 1 \\ 1 & 2 \end{matrix})

とする。二次形式にじけいしきquadratic formは

x^{T} A x = 2 x_{1^{2}} + 2 x_{1} x_{2} + 2 x_{2^{2}}

である。この行列ぎょうれつmatrixの固有値こゆうちeigenvalueは $3, 1$ であり、どちらも正せいである。したがって $A$ は正定値せいていちpositive definiteである。

直交対角化ちょっこうたいかくかした座標ざひょうでは

x^{T} A x = 3 y_{1^{2}} + y_{2^{2}}

となる。交差項こうさこう $2 x_{1} x_{2}$ は、主軸しゅじくに沿そった座標ざひょうへ変換へんかんすると消去しょうきょされる。

6Concrete example

Let

A = (\begin{matrix} 2 & 1 \\ 1 & 2 \end{matrix}) .

Then

x^{T} A x = 2 x_{1^{2}} + 2 x_{1} x_{2} + 2 x_{2^{2.}}

The eigenvalues are $3$ and $1$ , both positive, so $A$ is positive definite. In orthogonally diagonalized coordinates,

x^{T} A x = 3 y_{1^{2}} + y_{2^{2.}}

The cross term disappears after changing to principal axes.

7ヘッセ行列ぎょうれつmatrixによる極値判定きょくちはんてい

二次形式にじけいしきquadratic formは、多変数関数たへんすうかんすうの二階微分にかいびぶんとも関係かんけいする。点てん $a$ が停留点ていりゅうてん、すなわち $\nabla f (a) = 0$ を満みたすとき、ヘッセ行列ぎょうれつmatrix $H_{f} (a)$ が正定値せいていちpositive definiteなら $a$ は狭義局所最小点きょうぎきょくしょさいしょうてんである。負定値ふていちなら狭義局所最大点きょうぎきょくしょさいだいてんであり、不定ふていなら鞍点あんてんになる。停留点ていりゅうてんであることを仮定かていしない場合ばあい、ヘッセ行列ぎょうれつmatrixの正定値性せいていちせいだけでは局所極値きょくしょきょくちを結論けつろんできない。

7Hessian test for extrema

Quadratic forms appear in second derivatives of multivariable functions. If $a$ is a critical point, meaning $\nabla f (a) = 0$ , and the Hessian matrix $H_{f} (a)$ is positive definite, then $a$ is a strict local minimum. If the Hessian is negative definite, $a$ is a strict local maximum; if it is indefinite, $a$ is a saddle point. Without the critical-point assumption, positive definiteness of the Hessian alone does not imply a local extremum.

8判定基準はんていきじゅん

二次形式にじけいしきquadratic formでは、対称部分たいしょうぶぶんだけが寄与きよする。
実対称行列じつたいしょうぎょうれつの正定値性せいていちせいは、すべての固有値こゆうちeigenvalueが正せいであることと同値どうちequivalentである。
非負定値ひふていちは、すべての固有値こゆうちeigenvalueが 0 以上いじょうであることと同値どうちequivalentである。
不定ふていは、正せいの固有値こゆうちeigenvalueと負ふの固有値こゆうちeigenvalueが混在こんざいする状態じょうたいである。
停留点ていりゅうてんでは、ヘッセ行列ぎょうれつmatrixの正定値性せいていちせいが狭義局所最小きょうぎきょくしょさいしょうの十分条件じゅうぶんじょうけんになる。

8Criteria

For a quadratic form, only the symmetric part of the matrix contributes.
A real symmetric matrix is positive definite exactly when all eigenvalues are positive.
It is positive semidefinite exactly when all eigenvalues are nonnegative.
It is indefinite when positive and negative eigenvalues both occur.
At a critical point, a positive definite Hessian is a sufficient condition for a strict local minimum.

9どこまで成立せいりつするか

固有値こゆうちeigenvalueで正定値性せいていちせいを判定はんていする議論ぎろんは、対称行列たいしょうぎょうれつsymmetric matrixまたはエルミート行列ぎょうれつmatrixを基本対象きほんたいしょうにする。一般いっぱんの非対称行列ひたいしょうぎょうれつでは、二次形式にじけいしきquadratic formに寄与きよするのは対称部分たいしょうぶぶんである。

複素ふくそcomplexでは $x^{T} A x$ ではなく $x^{*} A x$ を使つかう。エルミート行列ぎょうれつHermitian matrixでない $A$ に対たいしては、 $x^{*} A x$ が一般いっぱんに複素数ふくそすうcomplex numberになり、正せい・負ふという判定はんていがそのままでは意味いみを持もたない。

9Scope and limitations

Eigenvalue tests for definiteness assume a symmetric or Hermitian matrix. For a nonsymmetric real matrix, the quadratic form only sees the symmetric part. In the complex case, use $x^{*} A x$ , not $x^{T} A x$ . If $A$ is not Hermitian, $x^{*} A x$ may be complex, so positivity is not directly meaningful.

10最終形さいしゅうけい

[PARSE ERROR: Undefined("Command(\"boxed\")")] q (x) = x^{T} A x

[PARSE ERROR: Undefined("Command(\"boxed\")")] x^{T} A x = y^{T} D y = \sum_{i} λ_{i} y_{i^{2}}

[PARSE ERROR: Undefined("Command(\"boxed\")")] A > 0 ⟺ λ_{i} > 0 forall i

[PARSE ERROR: Undefined("Command(\"boxed\")")] A > 0 ⟺ \det A_{k} > 0 (k = 1, [PARSE ERROR: Undefined("Command(\"dots\")")], n)

[PARSE ERROR: Undefined("Command(\"boxed\")")] 合同変換では慣性指数が保存される

10Final forms

[PARSE ERROR: Undefined("Command(\"boxed\")")] q (x) = x^{T} A x

[PARSE ERROR: Undefined("Command(\"boxed\")")] x^{T} A x = y^{T} D y = \sum_{i} λ_{i} y_{i^{2}}

[PARSE ERROR: Undefined("Command(\"boxed\")")] A > 0 ⟺ λ_{i} > 0 forall i

[PARSE ERROR: Undefined("Command(\"boxed\")")] A > 0 ⟺ \det A_{k} > 0 (k = 1, \dots, n)

[PARSE ERROR: Undefined("Command(\"boxed\")")] Congruencetransformationspreserveinertia [PARSE ERROR: Undefined("RBrace")]

11一言ひとことでいうと

二次形式にじけいしきquadratic formは、対称行列たいしょうぎょうれつsymmetric matrixの固有値こゆうちeigenvalueによって符号ふごうと形状けいじょうを判定はんていできる二次式にじしきである。

11In one sentence

A quadratic form二次形式にじけいしき is a quadratic expression whose sign and shape are determined by the eigenvalues of its symmetric or Hermitian matrix.

12定理ていり：正定値性せいていちせいの同値条件どうちじょうけん

$A$ を実対称行列じつたいしょうぎょうれつとする。次つぎは同値どうちequivalentである。

$A$ は正定値せいていちpositive definiteである。
すべての固有値こゆうちeigenvalueが正せいである。
直交対角化ちょっこうたいかくか $A = Q D Q^{T}$ において、 $D$ の対角成分たいかくせいぶんがすべて正せいである。
すべての左上ひだりうえの主小行列式しゅしょうぎょうれつしきが正せいである（シルベスター判定法はんていほう）。

証明しょうめいの中心ちゅうしんは直交対角化ちょっこうたいかくかである。 $A = Q D Q^{T}$ 、 $y = Q^{T} x$ とすれば、 $Q$ は長ながさを保たもつので $x \neq 0 ⟺ y \neq 0$ であり、

x^{T} A x = y^{T} D y = \sum_{i} λ_{i} y_{i^{2}}

である。すべての $λ_{i} > 0$ なら右辺うへんは $y \neq 0$ で正せいになる。逆ぎゃくに $λ_{j} [PARSE ERROR: Undefined("Command(\"le\")")] 0$ なら、 $y = e_{j}$ を取とることで $x^{T} A x [PARSE ERROR: Undefined("Command(\"le\")")] 0$ となり、正定値せいていちpositive definiteではない。

12Theorem: equivalent conditions for positive definiteness

Let $A$ be a real symmetric matrix. The following are equivalent:

$A$ is positive definite正定値せいていち.
All eigenvalues of $A$ are positive.
In an orthogonal diagonalization $A = Q D Q^{T}$ , every diagonal entry of $D$ is positive.
All leading principal minors are positive, by Sylvester's criterion.

The core proof uses orthogonal diagonalization. If $A = Q D Q^{T}$ and $y = Q^{T} x$ , then $Q$ preserves nonzero vectors and

x^{T} A x = y^{T} D y = \sum_{i} λ_{i} y_{i^{2.}}

If all $λ_{i} > 0$ , this is positive for every $y \neq 0$ . Conversely, if some $λ_{j} [PARSE ERROR: Undefined("Command(\"le\")")] 0$ , choose $y = e_{j}$ to get $x^{T} A x [PARSE ERROR: Undefined("Command(\"le\")")] 0$ , so $A$ is not positive definite.

13境界例きょうかいれい：非負定値ひふていちと正定値せいていちの違ちがい

A = (\begin{matrix} 1 & 0 \\ 0 & 0 \end{matrix})

では

x^{T} A x = x_{1^{2}} [PARSE ERROR: Undefined("Command(\"ge\")")] 0

である。しかし $x = (0, 1)^{T} \neq 0$ に対たいして $x^{T} A x = 0$ なので、 $A$ は非負定値ひふていちだが正定値せいていちpositive definiteではない。正定値せいていちでは、0 でない方向ほうこうが平たいらに残のこってはいけない。

B = (\begin{matrix} 1 & 0 \\ 0 & - 1 \end{matrix})

では $x^{T} B x = x_{1^{2}} - x_{2^{2}}$ であり、方向ほうこうによって正せいにも負ふにもなる。したがって $B$ は不定ふていである。

13Boundary cases: positive semidefinite versus positive definite

For

A = (\begin{matrix} 1 & 0 \\ 0 & 0 \end{matrix}),

we have

x^{T} A x = x_{1^{2}} [PARSE ERROR: Undefined("Command(\"ge\")")] 0.

But for $x = (0, 1)^{T} \neq 0$ , $x^{T} A x = 0$ . Thus $A$ is positive semidefinite, not positive definite. Positive definiteness does not allow a nonzero flat direction.

For

B = (\begin{matrix} 1 & 0 \\ 0 & - 1 \end{matrix}),

we have $x^{T} B x = x_{1^{2}} - x_{2^{2}}$ , which can be positive or negative depending on direction. Hence $B$ is indefinite.

14 $2 \times 2$ 行列ぎょうれつの実用判定じつようはんてい

A = (\begin{matrix} a & b \\ b & d \end{matrix})

が実対称じつたいしょうなら、シルベスター判定法はんていほうにより

A > 0 ⟺ a > 0, a d - b^{2} > 0

である。これは計算けいさんでは便利べんりだが、幾何学的きかがくてきには「主軸方向しゅじくほうこうの伸のびがすべて正せい」という固有値こゆうちeigenvalueの条件じょうけんを別形式べつけいしきで表あらわしたものである。

14Practical $2 \times 2$ test

For a real symmetric matrix

A = (\begin{matrix} a & b \\ b & d \end{matrix}),

Sylvester's criterion gives

A > 0 ⟺ a > 0, a d - b^{2} > 0.

Computationally this is convenient. Geometrically it is another way of saying that all principal-axis stretch factors, namely the eigenvalues, are positive.

15最適化さいてきかでの注意ちゅうい

二階微分にかいびぶんの判定はんていでは、停留点ていりゅうてん $\nabla f (a) = 0$ であることが重要じゅうようである。たとえばヘッセ行列ぎょうれつmatrixが正定値せいていちpositive definiteでも、勾配こうばいが 0 でなければ、その点てんを局所最小きょくしょさいしょうとは結論けつろんできない。正定値せいていちなヘッセ行列ぎょうれつは「その点てんの周まわりで上うえに開ひらく二次近似にじきんじ」を意味いみするが、一次項いちじこうが残のこっていると点てんそのものは谷底たにぞこではない。

15Optimization warning

In the second-derivative test, the assumption $\nabla f (a) = 0$ is essential. A positive definite Hessian means that the quadratic approximation opens upward near the point, but if the gradient is nonzero, a linear term remains and the point itself need not be a local minimum.

16演習えんしゅうリンク

data/exercise/math/linear-algebra/eigenvalues-diagonalization-and-extensions.exercise.n.md

16Exercise link