대칭행렬의 고윳값과 직교대각화

by Ariel Daley

대칭행렬의 고유벡터 성질

실수 행렬 \(A\)가 대칭행렬, 즉 \(A^T = A\)인 경우, \(A\)는 반드시 실수 고윳값을 가지며, 서로 다른 고윳값에 대응하는 고유벡터들은 서로 직교하는 성질을 가진다. 또한, 같은 고윳값에 대응하는 고유공간 내에서도 임의의 고유벡터들을 정규직교 기저로 구성할 수 있다. 이러한 성질은 실대칭행렬의 중요한 특징으로, 스펙트럴 정리의 기초가 된다.

정리 1. (실대칭행렬의 고유벡터 직교성)

실수 행렬 \(A\)가 대칭행렬일 때, 서로 다른 고윳값 \(\lambda\)와 \(\mu\)에 대응하는 고유벡터 \(\mathbf{v}\)와 \(\mathbf{w}\)는 \(\langle \mathbf{v}, \mathbf{w} \rangle = 0\)을 만족한다.

증명

고윳값 \(\lambda\)와 \(\mu\)에 대해, \(A\mathbf{v} = \lambda \mathbf{v}\)와 \(A\mathbf{w} = \mu \mathbf{w}\)라 하자. 내적의 선형성과 대칭성에 의해 \[\langle A\mathbf{v}, \mathbf{w} \rangle = \langle \mathbf{v}, A\mathbf{w} \rangle\] 이다. 좌변은 \(\lambda \langle \mathbf{v}, \mathbf{w} \rangle\)이고, 우변은 \(\mu \langle \mathbf{v}, \mathbf{w} \rangle\)이므로, \[\lambda \langle \mathbf{v}, \mathbf{w} \rangle = \mu \langle \mathbf{v}, \mathbf{w} \rangle.\] \(\lambda \neq \mu\)인 경우, 반드시 \(\langle \mathbf{v}, \mathbf{w} \rangle = 0\)가 되어 고유벡터들이 서로 직교함을 알 수 있다.

보기 1.

\(\mathbb{R}^2\)에서 다음 대칭행렬을 고려하자.

\[ A = \begin{pmatrix} 2 & 1 \\[4pt] 1 & 2 \end{pmatrix}. \]

특성다항식은 \[\det(A - \lambda I) = (2-\lambda)^2 - 1 = \lambda^2 - 4\lambda + 3 = (\lambda-1)(\lambda-3)\] 이다. 따라서 고윳값은 \(\lambda_1 = 1\)과 \(\lambda_2 = 3\)이다.

\(\lambda_1 = 1\)에 대해 \(A\mathbf{v} = 1\mathbf{v}\)를 풀면, \[\begin{pmatrix} 2-1 & 1 \\[4pt] 1 & 2-1 \end{pmatrix}\mathbf{v} = \begin{pmatrix} 1 & 1 \\[4pt] 1 & 1 \end{pmatrix}\mathbf{v} = \mathbf{0}\] 이므로, 고유공간은 \(\{(x,-x) \mid x\in\mathbb{R}\}\)가 되고, 대표 고유벡터로 \(\mathbf{v}_1 = (1,-1)\)을 선택할 수 있다.

\(\lambda_2 = 3\)에 대해서는, \[\begin{pmatrix} 2-3 & 1 \\[4pt] 1 & 2-3 \end{pmatrix}\mathbf{v} = \begin{pmatrix} -1 & 1 \\[4pt] 1 & -1 \end{pmatrix}\mathbf{v} = \mathbf{0}\] 이므로 고유공간은 \(\{(x,x) \mid x\in\mathbb{R}\}\)가 되고, 대표 고유벡터로 \(\mathbf{v}_2 = (1,1)\)을 선택할 수 있다.

\(\mathbf{v}_1\)과 \(\mathbf{v}_2\)는 \[\langle (1,-1),(1,1) \rangle = 1\cdot1 + (-1)\cdot1 = 0\]이므로 서로 직교함을 확인할 수 있다.

이와 같이, 실대칭행렬의 고유벡터들은 서로 다른 고윳값에 대해 반드시 직교하며, 동일 고윳값에 대해서도 Gram-Schmidt 과정을 통해 정규직교 기저로 구성할 수 있다. 이 성질은 대칭행렬의 직교대각화 및 스펙트럴 정리의 기초가 된다.

정리 2. (실대칭행렬의 고윳값은 모두 실수이다)

실수 행렬 \(A\)가 대칭행렬, 즉 \(A^T = A\)이면, \(A\)의 모든 고윳값은 실수이다.

증명

\(A\)가 \(n\times n\) 실대칭행렬이고, \(\lambda\)가 \(A\)의 고윳값이며, \(\mathbf{v}\)가 이에 대응하는 고유벡터(단, \(\mathbf{v}\neq\mathbf{0}\))라고 하자. 그러면 \[ A\mathbf{v} = \lambda \mathbf{v}\] 이다. \(A\)가 대칭행렬이므로, \[\mathbf{v}^T A\mathbf{v} = (A\mathbf{v})^T\mathbf{v} = (\lambda \mathbf{v})^T \mathbf{v} = \lambda\, \mathbf{v}^T\mathbf{v}\]이다. 한편, \(\mathbf{v}^T A\mathbf{v}\)는 \(A\)의 원소와 \(\mathbf{v}\)의 성분들이 모두 실수이므로 실수값을 가지며, \(\mathbf{v}^T\mathbf{v}\)도 양의 실수이다. (단, \(\mathbf{v}\neq\mathbf{0}.\))

따라서, \(\lambda\, \mathbf{v}^T\mathbf{v}\)가 실수이므로, \(\lambda\) 역시 실수여야 한다.

실대칭행렬의 직교대각화

실수 행렬 \(A\)가 대칭행렬, 즉 \(A^T = A\)인 경우, \(A\)는 실수 고윳값을 가지며 서로 다른 고윳값에 대응하는 고유벡터들이 서로 직교한다. 이러한 성질을 토대로, \(A\)의 모든 고유벡터를 정규직교 기저로 구성할 수 있고, 이를 이용하여 \(A\)를 직교대각화할 수 있다. 즉, 실대칭행렬 \(A\)는 가역행렬 \(Q\)와 대각행렬 \(D\)를 이용하여

\[ A = Q D Q^T, \]

의 형태로 분해된다. 여기서 \(Q\)는 정규직교 행렬로 \(Q^T Q = I\)를 만족하며, \(D\)의 대각 원소는 \(A\)의 고윳값이다.

정리 3. (실대칭행렬의 직교대각화 정리)

\(A\)가 \(n \times n\) 실대칭행렬이면, \(A\)는 정규직교 행렬 \(Q\)와 대각행렬 \(D\)를 이용하여

\[ A = Q D Q^T \]

의 형태로 표현된다. 즉, \(A\)는 직교대각화 가능하다.

증명 스케치 \(A\)의 고윳값은 모두 실수이며, 서로 다른 고윳값에 대응하는 고유벡터들은 서로 직교한다는 사실과, 각 고유공간에서 정규직교 기저를 구성할 수 있다는 점을 이용한다. \(A\)의 모든 고윳값에 대해 정규직교 기저를 취하여 전체 공간의 정규직교 기저를 구성하면, 이 기저를 열벡터로 하는 행렬 \(Q\)에 대해 \(Q^T A Q\)가 대각행렬 \(D\)가 됨을 확인할 수 있다. 증명의 세부 내용은 내적공간의 기저 변환과 직교성 보존 성질에 의존한다.

보기 3.

\(\mathbb{R}^2\)에서 다음 대칭행렬을 고려하자.

\[ A = \begin{pmatrix} 4 & 1 \\[4pt] 1 & 3 \end{pmatrix}. \]

특성방정식을 구하면, \[ \det(A-\lambda I) = (4-\lambda)(3-\lambda) - 1 = \lambda^2 - 7\lambda + 11 = 0. \] 이 방정식의 두 근 \(\lambda_1\)과 \(\lambda_2\)는 실수이며 서로 다르다. 구체적으로, \[ \lambda_1 = \frac{7 + \sqrt{5}}{2}, \quad \lambda_2 = \frac{7 - \sqrt{5}}{2}. \] 각 고윳값에 대해 고유벡터를 구하면, 서로 다른 두 고유벡터 \(\mathbf{v}_1\)과 \(\mathbf{v}_2\)가 얻어진다. 이들 고유벡터는 서로 직교하며, 정규화하면 정규직교 기저를 이룬다. 따라서, \(Q\)를 이 고유벡터들을 열벡터로 구성한 정규직교 행렬로 취하고, \(D\)를 \(\lambda_1,\lambda_2\)를 대각 원소로 갖는 대각행렬로 구성하면 \(A = Q\,D\,Q^T\)가 성립한다.

실제로 \(\lambda_1\approx 5.618,\;\lambda_2\approx 1.382\)로 근사값을 취할 수 있다. 대응하는 (정규화 전) 고유벡터로는 예를 들어

\[ \mathbf{v}_1 = \begin{pmatrix}1 \\[6pt] \tfrac{\sqrt{5}-1}{2}\end{pmatrix} \quad\text{(약 } (1,\, 0.618)\text{)}, \quad \mathbf{v}_2 = \begin{pmatrix}1 \\[6pt] \tfrac{-1-\sqrt{5}}{2}\end{pmatrix} \quad\text{(약 } (1,\,-1.618)\text{)}. \]

이 벡터들을 각각 길이가 1이 되도록 정규화하면, 서로 직교하는 두 단위벡터 \(\mathbf{e}_1,\mathbf{e}_2\)를 얻는다. 예를 들어 근사적으로,

\[ \mathbf{e}_1 \approx \frac{1}{\sqrt{1^2 + 0.618^2}}\begin{pmatrix}1 \\ 0.618\end{pmatrix} \approx \begin{pmatrix}0.8507 \\[4pt] 0.5257\end{pmatrix}, \quad \mathbf{e}_2 \approx \frac{1}{\sqrt{1^2 + (-1.618)^2}}\begin{pmatrix}1 \\ -1.618\end{pmatrix} \approx \begin{pmatrix}0.5257 \\[4pt] -0.8507\end{pmatrix}. \]

이를 열벡터로 하는 정규직교행렬 \(Q\)는

\[ Q = \begin{pmatrix} 0.8507 & 0.5257 \\ 0.5257 & -0.8507 \end{pmatrix}, \quad D = \begin{pmatrix} \lambda_1 & 0\\ 0 & \lambda_2 \end{pmatrix} = \begin{pmatrix} 5.618 & 0\\ 0 & 1.382 \end{pmatrix}. \]

직교성( \(Q^T Q = I\) )과 고윳값 관계로부터, 실제로 계산해 보면

\[ Q^T\,A\,Q \;=\; D \;=\; \begin{pmatrix} 5.618 & 0\\ 0 & 1.382 \end{pmatrix}. \]

이로써 \(A\)를 직교대각화하는 구체적인 \(Q\)와 \(D\)를 확인할 수 있다.

보기 4.

\(\mathbb{R}^3\)에서 대칭행렬

\[ A = \begin{pmatrix} 2 & 0 & 1 \\ 0 & 3 & 0 \\ 1 & 0 & 2 \end{pmatrix} \]

를 고려하자. \(A\)의 특성다항식을 구하면, \(\lambda\)에 대한 다항식이 \[ \det(A - \lambda I) = 0 \] 의 해로부터 \(A\)는 서로 다른 세 고윳값을 갖거나, 중복된 고윳값이 있어도 적어도 3개의 선형독립 고유벡터를 얻게 된다. (실제로 계산하면 \(\lambda = 1\) (중복도 1)과 \(\lambda = 3\) (중복도 2)로 나타나며, 관련 고유공간의 차원을 통해 3개의 독립 고유벡터를 확보할 수 있다.) 각 고윳값에 대응하는 고유공간에서 정규직교 기저를 구성하여, \(A\)의 전체 정규직교 기저를 구성할 수 있다. 이 정규직교 기저를 열벡터로 하는 정규직교 행렬 \(Q\)와, 고윳값들을 대각 원소로 하는 대각행렬 \(D\)를 구하면, \(A = Q\,D\,Q^T\)가 성립하게 된다.

실제로, 고윳값들을 구해 보면 \(\lambda_1 = 1\) (단순근), \(\lambda_2 = 3\) (중복근)임을 알 수 있다. 다음과 같이 간단히 계산하면:

  • \(\lambda=3\)에 대응하는 고유벡터: \((A - 3I)\)를 풀면 차원 2의 고유공간이 생긴다. 예를 들어, \[ (A-3I) = \begin{pmatrix} -1 & 0 & 1 \\ 0 & 0 & 0 \\ 1 & 0 & -1 \end{pmatrix} \] 이고, 이에 대한 해를 구하면 두 개의 독립 고유벡터로 \[ \mathbf{v}_2 = (1,0,1), \quad \mathbf{v}_3 = (0,1,0) \] 등을 잡을 수 있다.
  • \(\lambda=1\)에 대응하는 고유벡터: \((A - I)\)를 풀면 차원 1의 고유공간이 생긴다. 예컨대 \[ (A - I) = \begin{pmatrix} 1 & 0 & 1 \\ 0 & 2 & 0 \\ 1 & 0 & 1 \end{pmatrix}, \] 이고, 이에 대한 해를 풀면 \[ \mathbf{v}_1 = (1, 0, -1) \] 과 같은 고유벡터를 얻을 수 있다.

이제 각 고유벡터를 정규화(normalize)하고 서로 직교하는지 확인한 뒤, 그 결과를 모아서 정규직교 기저 \(\{\mathbf{e}_1,\mathbf{e}_2,\mathbf{e}_3\}\)를 얻는다. 예를 들어, 근사적으로 계산하면:

  • \(\mathbf{v}_1 = (1, 0, -1)\)의 길이는 \(\sqrt{1^2+(-1)^2}= \sqrt{2}\). 정규화하면 \[ \mathbf{e}_1 = \frac{1}{\sqrt{2}} (1, 0, -1) \;\approx\; (0.707,\, 0,\, -0.707). \]
  • \(\mathbf{v}_2 = (1, 0, 1)\)도 길이가 \(\sqrt{2}\). 정규화하면 \[ \mathbf{e}_2 = \frac{1}{\sqrt{2}} (1, 0, 1) \;\approx\; (0.707,\, 0,\, 0.707). \] \(\mathbf{v}_3 = (0, 1, 0)\)는 이미 길이가 1이고, 위 \(\mathbf{v}_2\)와 \(\mathbf{v}_3\)는 서로 직교이므로 \[ \mathbf{e}_3 = (0,\, 1,\, 0). \]

이제 정규직교행렬 \(Q\)를 이들 정규직교 벡터를 열로 삼아 구성한다. 예를 들어, \[ Q \;=\; \begin{pmatrix} 0.707 & 0.707 & 0 \\ 0 & 0 & 1 \\ -0.707 & 0.707 & 0 \end{pmatrix}, \quad D = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 3 \end{pmatrix}. \] 실제로 계산해 보면, \(Q^T A\,Q = D\). 즉,

\[ Q^T\,\begin{pmatrix} 2 & 0 & 1 \\ 0 & 3 & 0 \\ 1 & 0 & 2 \end{pmatrix} Q \;=\; \begin{pmatrix} 1 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 3 \end{pmatrix}. \]

이로써 \(A\)를 직교대각화하는 구체적인 \(Q\)와 \(D\)를 확인할 수 있다. 해당 정규직교 기저는 고윳값별 고유벡터들을 정규화하여 얻어지며, 이는 실대칭행렬이 직교변환에 의해 완전히 대각화 가능하다는 사실의 구체적 예시이다.

이와 같이 실대칭행렬은 고윳값의 실수성과 고유벡터의 직교성을 바탕으로 정규직교 기저를 구성할 수 있으며, 이를 통해 행렬을 직교대각화할 수 있다. 이 결과는 대칭행렬을 다루는 수많은 응용 분야에서 중요한 역할을 한다.