実数を成分とする $n$ 次正方行列のうち対称行列であるものの全体を ${\cal S}$ とする。
ここで対称行列とは ${}^{\rm t} A = A$ を満たす行列のことである。
$A, B \in {\cal S}$ に対して、$A \sim B$ を、正則が $n$ 次実正方行列 $P$ が存在して、$B = {}^{\rm t}P A P$ となるときと定める。
(a) 関係 $\sim$ は ${\cal S}$ の同値関係を定めることを示せ。
(b) 2次形式の理論は ${\cal S}$ の同値関係 $\sim$ に関する同値関係の代表元としてどのようなものが取れることを主張しているか？
また、商集合 ${\cal S}/\sim$ は有限集合か？
(a)
集合 ${\cal S}$ 上の関係 $\sim$ が同値関係であることを示すために、反射律、対称律、推移律が成り立つことを示す。
先ず、反射律は $n$ 次単位行列を $E_n$ とするときに、任意の $A \in {\cal S}$ に対して
\begin{align}
A &= {}^{\rm t} E_n A E_n
\end{align}
が成り立ち、$E_n$ は明らかに正則な $n$ 次実正方行列であるので、$A \sim A$ となり、反射率を満たす。
次に対称律について確かめる。$A, B \in {\cal S}$ について $A \sim B$ ならば、ある正則な $n$ 次実正方行列 $P$ が存在して
\begin{align}
B &= {}^{\rm t}P A P
\end{align}
が成り立つ。従って
\begin{align}
A &= ({}^{\rm t}P)^{-1} B P^{-1} \\
&= {}^{\rm t}(P^{-1}) B (P^{-1})
\end{align}
が成り立つ。行列 P^{-1} は正則な $n$ 次実正方行列であるので、$B \sim A$ が成り立ち、対称律についても成り立つことが分かる。
最後に、推移律を確かめる。$A, B, C \in {\cal S}$ について、$A \sim B$ かつ $B \sim C$ が成り立つとすると、ある、正則な $n$ 次実正方行列 $P_1, P_2$ が存在して
\begin{align}
B &= {}^{\rm t} P_1 A P_1 \\
C &= {}^{\rm t} P_2 B P_2
\end{align}
が成り立つ。従って
\begin{align}
C &= {}^{\rm t} P_2 {}^{\rm t}P_1 A P_1 P_2 \\
&= {}^{\rm t}(P_1 P_2) A (P_1 P_2)
\end{align}
が成り立つ。行列 $(P_1 P_2)$ は正則な $n$ 次実正方行列であるので、$A \sim C$ が成り立ち、推移律も成り立つ。
従って、題意が示された。
(b)
シルベスターの慣性法則により、問題で定義された関係 $\sim$ による同値類の代表元として
\begin{align}
\begin{bmatrix}
E_p & 0 & 0 \\
0 & – E_m & 0 \\
0 & 0 & O_{n – p – q} \\
\end{bmatrix}
\end{align}
と書ける。ここで $p \ge 0, q \ge 0, p + q \le n$ である。
また、これより、商集合 ${\cal S}/\sim$ は有限集合であることが分かる。
