직교행렬(Orthogonal Matrix)
내적공간에서 벡터의 길이와 각도를 보존하는 선형변환은 정규직교 기저를 이용하여 표현할 수 있다. 이러한 선형변환을 나타내는 행렬 중, 특히 내적을 보존하는 행렬을 직교행렬이라 한다. 직교행렬은 기저 변환 시 내적과 노름, 거리 등의 기하학적 성질을 그대로 유지하는 중요한 역할을 한다.
정의 1. (직교행렬)
실수체 \(\mathbb{R}\) 위의 \(n\times n\) 행렬 \(Q\)가 \(Q^T Q = QQ^T = I\)를 만족하면, \(Q\)를 직교행렬이라고 한다. 여기서 \(Q^T\)는 \(Q\)의 전치행렬, \(I\)는 \(n\times n\) 항등행렬이다.
직교행렬의 주요 성질은 다음과 같다.
- 역행렬의 단순성: \(Q\)가 직교행렬이면, \(Q^{-1} = Q^T\)가 성립한다.
- 내적 보존: 임의의 \(\mathbf{x},\mathbf{y} \in \mathbb{R}^n\)에 대해, \[ \langle Q\mathbf{x}, Q\mathbf{y} \rangle = \langle \mathbf{x}, \mathbf{y} \rangle. \]
- 노름과 거리 보존: \(Q\)에 의해 변환된 벡터의 노름은 원래 벡터의 노름과 같으며, \[ \|Q\mathbf{x}\| = \|\mathbf{x}\|, \] 따라서 두 벡터 간의 거리도 유지된다.
이 중에서 직교행렬의 내적 보존 성질을 증명해 보자.
정리 1. (직교행렬의 내적 보존 성질)
실수 내적공간 \(\mathbb{R}^n\)에서 \(Q\)가 직교행렬이면, 임의의 벡터 \(\mathbf{x}, \mathbf{y} \in \mathbb{R}^n\)에 대해 \[ \langle Q\mathbf{x}, Q\mathbf{y} \rangle = \langle \mathbf{x}, \mathbf{y} \rangle \] 가 성립한다.
증명
\(Q\)가 직교행렬이므로 \(Q^T Q = I\)이다. 따라서
\(\langle Q\mathbf{x}, Q\mathbf{y} \rangle = (Q\mathbf{x})^T (Q\mathbf{y}) = \mathbf{x}^T (Q^T Q) \mathbf{y} = \mathbf{x}^T I \mathbf{y} = \langle \mathbf{x}, \mathbf{y} \rangle.\)
보기 1.
\(\mathbb{R}^2\)에서 회전행렬은 대표적인 직교행렬이다. 각도 \(\theta\)에 대한 회전행렬은
\[ Q = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}. \]
이 행렬은 \(Q^T Q = I\)를 만족하므로 직교행렬이며, 임의의 벡터의 회전 후에도 길이와 내적이 그대로 보존됨을 확인할 수 있다.
보기 2.
\(\mathbb{R}^3\)에서, 다음과 같은 \(3\times3\) 행렬을 고려하자. 이 행렬은 회전과 반사의 복합 변환을 나타내며, 정규직교 행렬의 조건을 만족한다.
\[ Q = \begin{pmatrix} 0 & -1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{pmatrix}. \]
직교행렬의 조건인 \(Q^T Q = I\)를 직접 계산하면, \[Q^T = \begin{pmatrix} 0 & 1 & 0 \\ -1 & 0 & 0 \\ 0 & 0 & 1 \end{pmatrix}\]이고, \(Q^T Q = I\)가 됨을 확인할 수 있다.
이와 같이, 직교행렬은 내적, 노름, 그리고 거리 등 기하학적 구조를 보존하는 행렬로서, 내적공간에서 기저 변환 및 선형변환의 표현에 매우 중요한 역할을 한다.
선형변환 관점에서의 의미
내적공간에서 직교변환(orthogonal transformation)은 단순히 행렬의 형태뿐만 아니라, 선형변환으로서 벡터의 길이와 각도를 보존하는 성질을 나타낸다. 선형변환 \(T: V \to V\)가 모든 \(\mathbf{u}, \mathbf{v} \in V\)에 대하여
\[ \langle T(\mathbf{u}), T(\mathbf{v}) \rangle = \langle \mathbf{u}, \mathbf{v} \rangle \]
를 만족하면, \(T\)는 내적을 보존하는 변환이다. 이러한 변환은 기하학적으로 벡터의 길이, 내적, 그리고 이로부터 유도되는 거리와 각도를 그대로 유지하므로, 회전, 반사, 전단 등의 변환에 해당한다. 특히, 정규직교 기저를 사용하여 표현할 경우, \(T\)의 행렬 표현은 정규직교(또는 유니타리) 행렬로 나타나며, 그 역행렬은 전치행렬(또는 켤레전치)과 같다.
정리 2. (선형변환 관점에서의 직교변환)
\(V\)가 내적공간이라고 하자. 선형변환 \(T: V \to V\)가 임의의 \(\mathbf{u}, \mathbf{v} \in V\)에 대해 \[ \langle T(\mathbf{u}), T(\mathbf{v}) \rangle = \langle \mathbf{u}, \mathbf{v} \rangle \] 를 만족하면 \(T\)를 직교변환이라고 부른다. 이 경우 \(T\)의 행렬 표현은 정규직교 행렬이다. 즉, \(T\)는 벡터의 노름과 거리, 그리고 각도를 그대로 보존한다.
증명
\(T\)가 내적 보존 변환임을 가정하면, 특히 \(\mathbf{u} = \mathbf{v}\)일 때 \[\|T(\mathbf{u})\|^2 = \langle T(\mathbf{u}), T(\mathbf{u})\rangle = \langle \mathbf{u}, \mathbf{u}\rangle = \|\mathbf{u}\|^2\] 가 된다. 또한, 두 벡터 \(\mathbf{u}\)와 \(\mathbf{v}\) 사이의 내적 보존으로 인해, 두 벡터 사이의 각도도 그대로 유지된다. 따라서 \(T\)는 기하학적으로 “거리와 각도를 보존하는 변환”임을 알 수 있다.
이와 같이, 내적 보존이라는 관점에서 직교변환은 선형변환의 기하학적 구조를 온전히 유지하며, 이는 내적공간의 기저 변환이나 행렬 표현에서 핵심적인 역할을 한다.
