고윳값의 중복도와 대각화
앞서 “행렬이 대각화 가능하려면 고유벡터들이 충분히 많아야 한다”는 사실을 다루었다. 그 관점에서, 가장 중요한 이슈는 “중복된 고윳값”을 어떻게 다룰 것이냐”이다. 왜냐하면, 하나의 고윳값이 여러 번(대수적 중복도) 나타나도, 고유벡터 공간(기하적 중복도)이 충분한 차원을 확보하지 못하면 대각화에 실패하기 때문이다. 이 섹션에서는 고윳값 중복도(algebraic multiplicity)와 고유벡터 공간의 차원(기하적 중복도; geometric multiplicity) 사이의 관계가 대각화 가능성 판별에 어떻게 영향을 미치는지를 살펴본다.
대수적 중복도와 기하적 중복도
\(n \times n\) 행렬 \(A\)의 특성다항식 \(\det(A - \lambda I)\)를 전개하면, 일반적으로 \(\lambda\)가 여러 번 근으로 등장할 수 있다. 예컨대, \[ p_A(\lambda) = (\lambda - \lambda_0)^k \cdot q(\lambda), \] 같은 형태로 \(\lambda_0\)가 \(k\)차 중복근이 될 수 있다. 이를 대수적 중복도(algebraic multiplicity)라 부른다. 반면, 고윳값 \(\lambda_0\)에 대해서 \((A - \lambda_0 I)\mathbf{v}=\mathbf{0}\)를 만족하는 고유벡터들의 해공간 \(\mathrm{Ker}(A - \lambda_0 I)\)가 있으면, 그 차원을 기하적 중복도(geometric multiplicity)라 한다.
- 대수적 중복도: 특성다항식에서 \((\lambda-\lambda_0)\)가 몇 번 곱해져 있는지.
- 기하적 중복도: \(\mathrm{dim}\,\mathrm{Ker}(A-\lambda_0 I)\). 즉, \(\lambda_0\)에 해당하는 고유벡터 공간의 차원.
행렬 이론의 주요 결과 중 하나가 다음과 같은 부등식이다.
(기하적 중복도) ≤ (대수적 중복도).
즉, 중복근이 \(k\)차라고 해서 반드시 차원 \(k\)인 고유공간을 확보할 수 있는 것은 아니고, 최대 \(k\) 차원까지 가능할 뿐이다.
대각화와 중복된 고윳값
대각화가 가능해지려면, 행렬 전체로 봤을 때 서로 다른 고윳값이든 중복된 고윳값이든, 총 \(n\)개의 일차독립 고유벡터가 필요하다. 하지만 어떤 고윳값이 대수적 중복도 \(k\)로 나타났다면, 그 고유공간(기하적 중복도)이 \(\mathbf{v}_1,\dots,\mathbf{v}_k\) 등 최대 \(k\)개의 일차독립 벡터를 포함할 수 있다. 그리고 대각화가 되려면, 실제로 그 기하적 중복도가 \(k\)를 달성해야 한다.
이를 요약하면, “대수적 중복도와 기하적 중복도가 모두 일치해야(각 고윳값마다), 전체적으로 \(n\)개의 독립 고유벡터를 모을 수 있다”는 조건이 필요한 것이다. 하나라도 부족하면, 고유벡터가 모자라 \(\mathbb{R}^n\) (또는 \(\mathbb{C}^n\))를 생성하는 기저가 형성되지 않아 대각화가 실패한다.
보기 1.
- 2×2 행렬 - 특성다항식이 \((\lambda-3)^2\)인 경우를 생각해 보자. 즉, \(\lambda=3\)이 중복근(대수적 중복도 2). - 만약 \((A - 3I)\)가 1차원 해공간(고유공간)만 갖는다면, 고유벡터가 하나뿐이므로 대각화 불가능. - 반면, \((A - 3I)\mathbf{v}=0\)가 2차원 전체를 차지하면(이를테면 \(A=3I\) 같은 경우), 고유공간도 2차원이 되므로 대각화가 된다.
- 3×3 행렬 - 예를 들어 \(\lambda_1=2\) (중복도 2), \(\lambda_2=5\) 이런 식이라면, \(\lambda_1=2\) 고유공간이 최소 2차원을 확보해야(기하적 중복도=2), 그리고 \(\lambda_2\) 고유공간이 1차원이어야 총 3차원을 채울 수 있다. 하나라도 빠지면 대각화 실패다.
정리하면, 행렬 \(A\)의 모든 고윳값 \(\lambda_i\)에 대해 다음이 성립해야 대각화가 가능하다.
- “대수적 중복도” = “기하적 중복도”
- 즉, 고윳값 \(\lambda_i\)가 특성다항식에서 \(k_i\)-차 중복근이라면, 그 고유공간 \(\mathrm{Ker}(A-\lambda_i I)\)의 차원이 반드시 \(k_i\)여야 한다.
이는 곧 각 고윳값마다 충분히 많은 고유벡터를 확보해야 한다는 뜻과 동치다. 만약 어느 한 고윳값이라도 이 조건을 충족하지 못하면, “Jordan 표준형”을 통한 좀 더 복잡한(그러나 체계적인) 형태로 표현해야 하며, 대각화 자체는 불가능하다는 결론이 나온다.
고유벡터의 개수와 기저 확장
행렬 \(A\)가 대각화 가능해지려면, 단순히 “고윳값(eigenvalue)을 많이 갖는다”는 조건만으로는 부족하다. 실제로는 “각 고윳값에 해당하는 고유벡터(eigenvector)가 얼마나 많이(일차독립적으로) 존재하느냐”가 더욱 중요하다. 본 섹션에서는 고유벡터를 이용해 전체 공간의 기저를 구성하는 방법과, 기저 확장 관점에서의 대각화 요건을 좀 더 구체적으로 살펴본다.
일차독립인 고유벡터 집합
정사각행렬 \(A\)가 \(\mathbb{F}^n\) 상에서(보통 \(\mathbb{F} = \mathbb{R}\) 또는 \(\mathbb{C}\)) 정의된다고 하자. 고윳값 \(\lambda_1, \lambda_2, \dots, \lambda_k\)가 있고, 각각의 고유공간(eigenspace)이 \[ E_{\lambda_i} = \mathrm{Ker}(A - \lambda_i I) \] 라고 하자. 이 고유공간들은 부분공간이므로, 그 내부에서 기저를 고를 수 있다. 예를 들어,
\(E_{\lambda_1}\)의 기저 \(\{\mathbf{v}_{1,1}, \dots, \mathbf{v}_{1,d_1}\},\)
\(E_{\lambda_2}\)의 기저 \(\{\mathbf{v}_{2,1}, \dots, \mathbf{v}_{2,d_2}\},\)
\(\vdots\)
와 같은 식으로 구성한다. 여기서 \(d_i = \dim(E_{\lambda_i})\)가 ‘\(\lambda_i\)의 기하적 중복도’에 해당한다.
- 서로 다른 고윳값끼리는 고유공간이 교차하지 않는다. 만약 \(\lambda_i \neq \lambda_j\)라면, \(\mathrm{Ker}(A - \lambda_i I)\)와 \(\mathrm{Ker}(A - \lambda_j I)\)의 교집합은 \(\{\mathbf{0}\}\)뿐이다. 따라서 서로 다른 고유공간에 속한 벡터들은 자동으로 일차독립이다.
이러한 성질 덕분에, 각 고유공간에서 뽑은 기저 벡터들을 한 데 모으면, 그 전부가 일차독립인 벡터 집합을 형성한다. 이를 이용해 전체 \(\mathbb{F}^n\)에 대한 기저를 만들 수 있다면(즉, 그 개수가 \(n\)개가 된다면), \(A\)는 대각화된다. 고루 말하면,
\[ \mathbf{v}_{1,1}, \dots, \mathbf{v}_{1,d_1},\; \mathbf{v}_{2,1}, \dots, \mathbf{v}_{2,d_2},\; \dots,\; \mathbf{v}_{k,1}, \dots, \mathbf{v}_{k,d_k} \] 가 총 \(n\)개(또는 그 이상) 있다면, 이것으로 \(\mathbb{F}^n\)의 기저를 이룬다. 그러면 “행렬 \(A\)”는 그 기저에서 “대각행렬”로 표현된다는 사실이 선형대수학의 기본 정리와 합쳐져, 바로 대각화의 충분조건이 되었다고 할 수 있다.
기저 확장 관점
일차독립인 벡터 집합이 주어졌을 때, 더 많은 벡터를 ‘추가’하면서 전체 공간의 기저를 이루게 만드는 것을 “기저 확장(basis extension)”이라고 부른다. 대각화 문제에서도 고유벡터들이 이미 충분한 차원을 형성하지 못하면, “고유벡터가 아닌” 다른 벡터로는 기저를 확장할 수 있어도, 그 상태에서는 행렬을 대각행렬로 만들 수 없다. 다시 말해,
- 고유공간 벡터만으로 전체 차원을 채울 수 있어야 한다. 기저 확장할 때, 고유벡터가 아닌 벡터를 추가한다면, 그 기저에서 \(A\)는 대각행렬이 아니라 좀 더 복잡한 형태(예: Jordan 표준형)를 취하게 된다.
- 이런 상황이 벌어지면, 특정 고윳값의 중복도가 ‘기하적으로’ 충족되지 않는 것을 의미한다. 다시 말해 기저 확장 자체는 가능하지만, “고유벡터로만 이루어진 기저”를 만들지는 못하므로 대각화가 불가능해진다.
즉, 기저 확장 관점에서는 “고유벡터들의 집합을 \(\mathbb{F}^n\)의 기저로 확장할 수 있느냐”가 대각화 조건의 핵심이 된다. 만약 고유벡터 집합이 최대로 몇 개 일차독립일 수 있어도 \(n\)개 미만이라면, 결코 그 집합을 고유벡터만으로 \(\mathbb{F}^n\)의 기저로 확장하는 것은 불가능하다. 그러면 Jordan 표준형(Jordan Normal Form)으로 넘어가야 한다.
보기 2.
다음 행렬을 살펴보자. \[\begin{pmatrix} 3 & 2 \\ 0 & 3 \end{pmatrix}\] 특성다항식은 \((\lambda-3)^2\)이며, 고윳값은 \(\lambda=3\)이다. 방정식 \[\mathrm{Ker}(A - 3I) = \begin{pmatrix} 0 & 2 \\ 0 & 0 \end{pmatrix}\mathbf{x}=\mathbf{0}\] 을 풀면 \(2x_2 = 0\) 즉 \(x_2=0\)이다. 이때 하나의 제약만 있으므로, 고유벡터 형태는 \((x_1,0)\), 즉 1차원이다. 1차원 고유벡터 공간이므로, \(\{\mathbf{v}\}\)는 일차독립이지만 2차원 전체를 이루지 못한다. 따라서 기저 확장으로 다른 벡터를 추가해도, 그 추가 벡터는 고유벡터가 아니게 된다. 결과적으로 대각화는 불가능하다.
보기 3.
\(3\)차 정사각행렬이 두 개의 고윳값 \(\lambda_1 =2\)와 \(\lambda_2 =3\)을 가지고, \(\lambda_1 =2\)의 중복도가 2이며, \(\lambda_2 =3\) 중복도가 1이라고 가정하자. 만약 \(\lambda_1 =2\)의 고유공간이 2차원이라면(즉 기하적 중복도가 2라면), 서로 일차독립인 고유벡터 \(\mathbf{v}_1,\) \(\mathbf{v}_2\)를 잡을 수 있고, \(\lambda_2 =3\)의 고유공간에서 \(\mathbf{v}_3\)를 추가하면 총 3개 벡터로 기저 형성이 가능해지므로 대각화된다. 반면 \(\lambda_1 =2\)의 고유공간이 1차원뿐이라면, 아무리 \(\lambda_2 =3\)에서 기저벡터 1개를 추가해도 공간 전체를 생성하는 기저원소를 찾을 수 없으므로 대각화 불가능하다.
정리하면, 고유벡터만으로 전체 공간 \(\mathbb{F}^n\)에 대한 기저를 만들 수 있느냐는 것이 대각화의 본질적 문제다. 각 고윳값별로 확보되는 고유벡터의 수(기하적 중복도)를 다 합쳐서 \(n\)에 도달해야 한다. 만약 그렇게 도달하지 못하면, Jordan 블록으로 구성되는 Jordan 표준형이라는 일반적인 형태로 넘어가게 된다. 이는 대각화를 일반화한 것이며, 곧이어 Jordan 표준형을 정의할 때 이러한 기저 확장 실패 사례가 어떤 식으로 처리가 되는지 보게 될 것이다.
