以下で表される行列 $A, B \in GL_2(\mathbb{R})$ で生成される $GL_2(\mathbb{R})$ の部分群を $G$ とする。
\begin{align}
A =
\begin{pmatrix}
1 & 2 \\
0 & 1 \\
\end{pmatrix},
B &=
\begin{pmatrix}
1 & 0 \\
2 & 1 \\
\end{pmatrix} \in GL_2(\mathbb{R}).
\end{align}
さらに、任意の正の整数 $k \ge 1$ と 0 でない整数 $n_1, n_2,\cdots, n_k \in \mathbb{Z}\backslash\{0\}$ に対して
\begin{align}
X &= A^{n_1} B^{n_2} A^{n_3} \cdots B^{n_{k – 1}} A^{n_k}\ (n\mbox{が奇数のとき}), \\
X &= A^{n_1} B^{n_2} A^{n_3} \cdots A^{n_{k-1}} B^{n_k}\ (n\mbox{が偶数のとき}),
\end{align}
とおく。
この問題の目的は $X \neq E_2$ を示すことである。
$\mathbb{R}^2$ の部分集合 $U, V$ を
\begin{align}
U &= \{{}^{\rm t}(x, y) \in \mathbb{R}^2| |x| > |y|\}, \\
V &= \{{}^{\rm t}(x, y) \in \mathbb{R}^2| |x| < |y|\},
\end{align}
で定める。
$P \in G$ に対して、$f_{P}: \mathbb{R}^2 \rightarrow \mathbb{R}^2$ は、$v \in \mathbb{R}^2$ に $Pv \in \mathbb{R}^2$ を対応させる写像とする。
(a) 0 でない任意の整数 $n$ に対して、$f_{A^n}(V) \subset U$ であることを示せ。
また、0 でない任意の整数 $n$ に対して、$f_{B^n}(U) \subset V$ であることを示せ。
(b) $k$ を奇数とする。
$f_{X}(V) \subset U$ を示すことで、$X \neq E_2$ を示せ。
(c) $k$ を偶数とする。$m \neq 0$ を $- n_1$ とも $n_k$ とも異なる整数とする。
このとき、(b) を用いることで、$A^m X A^{-m} \neq E_2$ を示せ。
さらに、これより $X \neq E_2$ を示せ。
(a)
先ず、$n$ を 0 でない整数とするとき、$A^n$ が数学的帰納法により
\begin{align}
A^{n} &=
\begin{pmatrix}
1 & 2 n \\
0 & 1 \\
\end{pmatrix}
\end{align}
と表されることに注意する。
ここで、$V$ の任意の元 $v = {}^{\rm t}(x, y) \in V,\ (|x| < |y|)$ を考え $f_{A^n}(v) = A^n v$ を計算すると
\begin{align}
f_{A^n}(v) &= A^n v \\
&=
\begin{pmatrix}
1 & 2 n \\
0 & 1 \\
\end{pmatrix}
\begin{pmatrix}
x \\
y \\
\end{pmatrix} \\
&=
\begin{pmatrix}
x + 2n y \\
y \\
\end{pmatrix}
\end{align}
となる。
ここで、
\begin{align}
|x + 2ny| &\ge |2 n y| – |x| \\
&\ge 2 |y| – |x| \\
&= (|y| – |x|) + |y| \\
&> |y|
\end{align}
より、$f_{A^n}(v) \in U$ が言える。従って、$f_{A^n}(V) \subset U$ が成り立つ。
また、同様に
\begin{align}
B^n &=
\begin{pmatrix}
1 & 0 \\
2 n & 1 \\
\end{pmatrix}
\end{align}
に注意すれば、$U$ の任意の元 $u = {}^{\rm t}(x, y) \in U,\ (|x| > |y|)$ に対して
\begin{align}
f_{B^n}(u) &= B^n u \\
&=
\begin{pmatrix}
1 & 0 \\
2 n & 1 \\
\end{pmatrix}
\begin{pmatrix}
x \\
y \\
\end{pmatrix} \\
&=
\begin{pmatrix}
x \\
2 n x + y \\
\end{pmatrix}
\end{align}
が成り立つ。
ここで
\begin{align}
|2 n x + y| &\ge |2 n x| – |y| \\
&\ge 2 |x| – |y| \\
&= (|x| – |y|) + |x| \\
&> |x|
\end{align}
より、$f_{B^n}(u) \in V$ が言えるので、$f_{B^n}(U) \subset V$ が成り立つ。
(b)
$k$ を奇数とするとき、$V$ の任意の元 $v = {}^{\rm t}(x, y) \in V,\ (|x| < |y|)$ をとり、$f_{X}(v)$ を考えると
\begin{align}
f_{X}(v) &= A^{n_1} B^{n_2} \cdots B^{n_{k – 1}} A_{n_k} v
\end{align}
となるが、(a) の結果より、$A_{n_k} v \in U$ が言えて、さらに、$B^{n_{k – 1}} A_{n_k} v \in V$ が言える。
これを繰り返せば、$f_{X}(v) \in U$ が導かれるので、$f_{X}(V) \subset U$ が示される。
今、もしも $X = E_2$ であれば、$f_{E_2}(v) = v$ となるので、$f_{X}(V) \subset U$ に矛盾する。
従って、$X \neq E_2$ が示される。
(c)
$k$ を奇数として、$m \neq 0$ を $- n_1$ とも $n_k$ とも異なる整数とする。
このとき
\begin{align}
A^{m} X A^{-m} &= A^{m} A^{n_1} B^{n_2} A^{n_3} \cdots A^{n_{k – 1}} B^{n_k} A^{-m}
\end{align}
となり、$m \neq – n_1$ であるので
\begin{align}
A^{m} A^{n_1} &= A^{m + n_1} \neq E_2
\end{align}
となり、(b) において考えた $X$ に帰着する。
従って (b) の主張より、$A^m X A^{-m} \neq E_2$ が言える。
この式の両辺に、左から $A^{-m}$、右から $A^{m}$ をかけることにより、$X \neq E_2$ が示される。
(注意)
この証明には $m \neq n_k$ なる条件は必要ないと思われる。
