선형변환 관점에서의 의미
벡터공간에서 선형변환을 살펴볼 때, 특정 방향의 벡터가 변환 과정을 통해 오직 “길이(크기)”만 바뀌고 방향은 그대로 유지된다면, 그 벡터를 고유벡터(eigenvector)라고 부르고, 그때의 크기 변경 비율(스칼라배)을 고윳값(eigenvalue)이라 한다. 이 개념은 2차원, 3차원뿐 아니라 고차원 공간에서도 마찬가지로 적용되며, 선형대수학의 전반적인 이론·응용에서 핵심적인 역할을 수행한다.
정의 1. (선형변환의 고유벡터와 고윳값)
선형변환 \(T: V \to V\)가 주어졌다고 하자(자기 사상, 즉 같은 벡터공간 \(V\)에서의 변환). 어떤 벡터 \(\mathbf{v}\in V\)가 다음 성질을 만족한다면,
\[ T(\mathbf{v}) = \lambda \,\mathbf{v}, \]
이를 고유벡터(eigenvector)라고 부르고, \(\lambda\in \mathbf{F}\)를 \(\mathbf{v}\)에 대응하는 고윳값(eigenvalue)이라고 한다. 단, \(\mathbf{v} \neq \mathbf{0}\)여야 한다. 영벡터는 모든 \(\lambda\)에 대해 \(T(\mathbf{0})=\mathbf{0}\)이므로 고유벡터로 간주하지 않기 때문이다.
즉, \(\mathbf{v}\)가 \(\mathbf{0}\)이 아닌 벡터임에도 불구하고 선형변환 \(T\)를 적용했을 때 ‘같은 방향’(또는 반대 방향)이 유지되고, 크기가 \(\lambda\)만큼 조정된다는 뜻이다. 이를 기하학적으로 보면, \(\mathbf{v}\)가 펼쳐 놓은 직선 위에서만 행동할 때, 변환이 단순 스칼라배에 그친다는 사실을 나타낸다.
\(\lambda\)가 \(\mathbf{v}\)에 대응하는 고윳값일 때, 이를 반대로 \(\mathbf{v}\)를 \(\lambda\)에 대응하는 고유벡터라고 표현하기도 한다. 하나의 고유벡터에 대응하는 고윳값은 유일하다. 그러나 하나의 고윳값에 대응하면서 서로 일차독립인 고유벡터는 두 개 이상일 수 있다.
기하학적 해석
- 벡터 \(\mathbf{v}\)가 변환 후에도 자기 자신(또는 반대방향)을 가리킨다 “\(T(\mathbf{v})\)가 \(\lambda \mathbf{v}\)”라는 것은 \(\mathbf{v}\)가 가리키는 방향이 바뀌지 않고, 길이만 \(|\lambda|\)배로 조정된다는 의미다(음수 \(\lambda\)는 방향 반전을 뜻한다). 예를 들어, 2차원에서 회전이 아니라 특정 축 방향만 늘렸다 줄이는 변환이 있을 경우, 그 축 방향 벡터가 고유벡터가 될 수 있다.
- 1차원에서의 예시 1차원 공간(직선)에서 정의된 선형변환은 사실 \(0\)이 아닌 모든 벡터가 고유벡터가 된다. 왜냐하면 직선 위의 어떤 벡터라도 스칼라배 형태로 변환이 되기 때문이다.
- 2차원·3차원에서의 예시 \(\mathbb{R}^2\)에서 특정 변환(예: 반사, 사영, 특정 축에 대한 스케일링 등)을 적용했을 때, “단 한 방향만 그대로 유지된다”거나 “두 방향이 각각 스칼라배된다”는 현상이 종종 발견된다. 그러한 방향들을 고유벡터라 부르고, 그때의 배율이 고윳값이다.
고유벡터·고윳값 개념이 중요한 이유
고유벡터와 고윳값을 파악하면, 선형변환이 공간을 어떻게 ‘변형’하는지 보다 단순한 형태로 분석할 수 있다. 특히 다음과 같은 이유로 중요하다.
- 대각화(diagonalization) 가능성 파악: 고윳값·고유벡터가 충분히 확보되면 행렬을 간단한 대각형 형태로 바꿀 수 있어, 변환의 계산이 매우 단순해진다.
- 작동 방식 이해: 변환이 어떤 방향은 크게 늘리고, 어떤 방향은 줄이거나 반전시키는지를 알면(고윳값), 전체 변환의 기하학적 효과를 쉽게 정리할 수 있다.
- 응용 분야: 실제로 공학·물리·수학 등의 분야에서 고윳값 분석은 필수적이다. 예를 들어, 진동 모드, 양자역학, 데이터분석(PCA), 네트워크 구조분석 등에 고윳값이 핵심 도구로 쓰인다.
즉, “\(\mathbf{v}\)가 자기 자신(또는 스칼라배) 상태를 유지한다”는 고윳값 문제는, 선형변환을 가장 단순한 축으로 분해하는 개념과 맞닿아 있다. 이는 뒤이어 행렬 관점에서의 고윳값 정의, 특성다항식, 그리고 대각화 등을 다룰 때 더욱 구체적으로 확인할 수 있다.
다음 섹션에서는 이와 같은 고윳값·고유벡터를 행렬로부터 직접 구하는 방법과, 그 의미를 살펴볼 것이다.
행렬 관점에서의 접근
고윳값과 고유벡터의 아이디어는 “선형변환”이라는 추상 개념에서 비롯되지만, 실제로는 행렬의 고윳값(eigenvalue)과 고유벡터(eigenvector)를 구하는 방식으로 문제를 풀 때가 훨씬 많다. 행렬은 선형변환을 행렬 곱셈 형태로 표현한 것이므로, “\(A\mathbf{v} = \lambda \mathbf{v},\) \(\mathbf{v} \ne \mathbf{0}\)” 형태로 기술될 때, \(\mathbf{v}\)를 \(A\)의 고유벡터, \(\lambda\)를 \(\mathbf{v}\)에 대응되는 \(A\)의 고윳값이라 부른다.
정의 2. (행렬에서의 고유벡터, 고윳값)
\(n \times n\) 행렬 \(A\)가 주어졌다고 하자. 이는 자기 사상으로서 \(\mathbb{R}^n \to \mathbb{R}^n\) (또는 \(\mathbb{C}^n \to \mathbb{C}^n\))에 대응하는 선형변환을 나타낸다. 다음 조건을 만족하는 \(\mathbf{v} \neq \mathbf{0}\)와 스칼라 \(\lambda\)가 존재한다면,
\[ A \mathbf{v} = \lambda \mathbf{v}, \]
\(\mathbf{v}\)를 행렬 \(A\)의 고유벡터라 하고, \(\lambda\)를 행렬 \(A\)의 고윳값이라고 부른다. 이는 “벡터 \(\mathbf{v}\)가 행렬 곱셈을 거친 뒤에도 방향이 달라지지 않고, 크기만 \(\lambda\)배로 바뀐다”는 의미다.
행렬 방정식 관점에서는, 다음과 같은 식으로 전환해 해석할 수 있다. (\(I\)는 \(n\times n\) 단위행렬(identity matrix).)
\[ A \mathbf{v} = \lambda \mathbf{v} \quad \Longleftrightarrow \quad (A - \lambda I)\,\mathbf{v} = \mathbf{0}. \]
- \(\mathbf{v}\neq \mathbf{0}\)이면서 \((A - \lambda I)\mathbf{v}=\mathbf{0}\)가 성립하려면, 행렬 \((A - \lambda I)\)가 가역(invertible)일 수 없다. 왜냐하면 가역이라면 영벡터 이외에 해가 존재할 수 없기 때문이다.
- 따라서 \(\lambda\)가 고윳값이 되려면, \(\det(A - \lambda I)=0\)이어야 한다.
이 과정은 뒤에서 다룰 “특성다항식(characteristic polynomial)”을 통해 고윳값을 구하는 핵심 원리가 된다. 즉, \(\det(A - \lambda I)=0\)이라는 다항 방정식을 풀어 \(\lambda\)를 찾고, 그 \(\lambda\)에 대해 \((A - \lambda I)\mathbf{v} = \mathbf{0}\)을 만족하는 \(\mathbf{v}\)를 구하면 고유벡터를 얻게 된다.
보기 1.
단순히 2차원 사례를 보면 이해가 쉽다. 행렬 \[ A = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \] 의 고윳값 \(\lambda\)를 구하려면,
\[ \det\begin{pmatrix} a - \lambda & b \\ c & d - \lambda \end{pmatrix} = 0 \] 을 풀어야 한다. 즉, \[ (a - \lambda)(d - \lambda) - bc = 0. \]
이는 2차 방정식 \[ \lambda^2 - (a+d)\lambda + (ad - bc) = 0 \] 의 해가 되고, 이를 풀면 두 개(또는 중복 등)의 \(\lambda\) 값을 얻을 수 있다. 각각의 \(\lambda\)에 대해 \[ (A - \lambda I)\mathbf{v} = \mathbf{0} \] 를 만족하는 \(\mathbf{v}\neq \mathbf{0}\)를 구하면, 고유벡터가 나온다.
행렬 관점의 장점
- 계산 절차가 명확하다: \(\det(A - \lambda I)=0\)을 풀어 \(\lambda\)를 구하고, 각 \(\lambda\)에 대해 \(\mathbf{v}\)를 구하면 된다.
- 다차원에서도 확장 가능: \(n\times n\) 행렬에 대해서도 동일한 방식으로 특성다항식을 정의하면, \(n\)차 다항방정식을 풀어 고윳값 후보를 찾는다.
- 직관적 이해: “\(A\)가 \(\mathbf{v}\)를 \(\lambda \mathbf{v}\)로 매핑한다”는 것은, 여러 연산(곱셈·덧셈)을 통해 벡터 좌표가 어떻게 바뀌는지를 쉽게 보여준다. 이후 대각화, Jordan 표준형 등으로 발전시키기도 수월해진다.
반면에 모든 선형변환을 행렬로 표현할 수 있는 것은 아님에 주의해야 한다. 선형변환의 정의역의 차원이 무한이거나, 정의역과 공역에 기저가 주어져 있지 않은 경우에는 선형변환을 행렬로 표현할 수 없으며, 행렬을 사용하여 선형변환의 고윳값과 고유벡터를 찾을 수 없다.