$n$ 次の実直交行列の全体
\begin{align}
O(n) &= \{T \in GL_n(\mathbb{R})|{}^{\rm t} T T = E_n\}
\end{align}
は、行列の乗法に関して群をなすことを示せ。
このとき、$O(n)$ を直交群という。
先ず、${}^{\rm t} T T = E_n$ が成り立つ時、$T {}^{\rm t} T = E_n$ も成り立つことが次のようにして分かる。
${\rm det}({}^{\rm t}T T) = {\rm det}E_n = 1$ より、任意の $T \in O(n)$ に対して逆行列 $T^{-1}$ が存在する。
従って、
\begin{align}
{}^{\rm t}T T &= E_n \\
({}^{\rm t}T T) T^{-1} &= T^{-1} \\
{}^{\rm t}T (T T^{-1}) &= T^{-1} \\
{}^{\rm t}T &= T^{-1} \\
T {}^{\rm t} T &= T T^{-1} \\
T {}^{\rm t} T &= E_n
\end{align}
が示される。
これは
\begin{align}
{}^{\rm t}({}^{\rm t}T) ({}^{\rm t} T) &= E_n
\end{align}
を意味するので、$T \in O(n)$ のとき、$T^{-1} = {}^{\rm t}T$ は、$O(n)$ のなかに存在する。
単位元は $E_n \in O(n)$ である。
また、$T_1, T_2 \in O(n)$ であるとき、$T_1 T_2$ は
\begin{align}
{}^{\rm t}(T_1 T_2) (T_1 T_2) &= {}^{\rm t}T_2 {}^{\rm t}T_1 T_1 T_2 \\
&= {}^{\rm t}T_2 E_n T_2 \\
&= E_n
\end{align}
より、$T_1 T_2 \in O(n)$ であることが分かる。
結合則も成り立つので、$O(n)$ は群をなすことが分かる
