선형범함수
스펙트럼 정리를 다루기 전에, 먼저 선형범함수(linear functional) 개념을 이해해야 한다. 이는 벡터공간(특히 내적공간)에서의 선형연산자의 스펙트럼을 분석할 때, 극점 성질이나 쌍대공간 등을 해석하는 중요한 도구로 작용한다. 구체적으로, 선형범함수는 “하나의 벡터를 스칼라로 대응시키는 선형사상”을 의미한다.
정의 1. (선형범함수)
벡터공간 \(V\)가 체 \(\mathbb{F}\) (예: \(\mathbb{R}\) 혹은 \(\mathbb{C}\)) 위에 정의되어 있다고 하자. 함수 \(\phi: V \to \mathbb{F}\)가 다음 성질을 만족하면, 이를 선형범함수라고 부른다.
- \(\phi(\mathbf{u} + \mathbf{v}) = \phi(\mathbf{u}) + \phi(\mathbf{v})\)
- \(\phi(\alpha\,\mathbf{u}) = \alpha\,\phi(\mathbf{u})\)
여기서 \(\mathbf{u}, \mathbf{v} \in V\), \(\alpha \in \mathbb{F}\)이다. 즉, 입력은 벡터, 출력은 스칼라인 선형사상을 말한다.
이 개념은 실벡터공간이나 복소벡터공간 모두에서 동일하게 정의되며, 쌍대공간(dual space) \(\displaystyle V^*\) 내의 원소로서 생각할 수도 있다. 즉, \(\phi \in V^*\)이면 \(\phi\)는 \(V\to \mathbb{F}\) 형태의 선형범함수가 된다.
쌍대공간(Dual Space)
모든 선형범함수로 구성된 집합 \(V^*\)는, 그 자체로도 벡터공간의 구조를 갖는다. 즉, 두 선형범함수 \(\phi, \psi\)의 합이나 스칼라배를 정의하여도 여전히 선형범함수가 되기 때문에, \(V^*\)가 일종의 “벡터공간의 거울(dual)”로 작용한다. 기저를 택할 경우, \(V^*\)에서는 그 기저에 상호대응하는 쌍대기저(dual basis)가 정해진다.
Riesz 표현 정리
내적공간에서 가장 중요하게 쓰이는 선형범함수에 관한 정리 중 하나가 Riesz 표현 정리이다. 이는 내적공간(특히 힐베르트 공간의 경우)에 대해 “모든 선형범함수는 어떤 고정된 벡터와의 내적으로 표현될 수 있다”는 내용을 담고 있다. 유한차원에서 이 정리는 다음과 같이 서술할 수 있다.
정리 1. (Riesz 표현 정리; 유한차원판)
유한차원 내적공간 \(V\)에서, 임의의 선형범함수 \(\phi\)에 대해 적당한 벡터 \(\mathbf{w}\in V\)가 존재하여, 모든 \(\mathbf{v}\in V\)에 대해
\[ \phi(\mathbf{v}) = \langle \mathbf{v},\, \mathbf{w}\rangle \]
가 성립한다. 즉, 선형범함수 \(\phi\)는 내적 “\(\langle \cdot, \mathbf{w}\rangle\)”의 형태로 표현될 수 있고, 이러한 \(\mathbf{w}\)는 유일하게 결정된다.
증명 스케치 내적공간 \(V\)에서 기저를 택하거나(유한차원이므로 가능), 그람-슈미트 과정을 통해 정규직교기저 \(\{\mathbf{e}_1,\dots,\mathbf{e}_n\}\)를 구성한다. 임의의 \(\mathbf{v}\in V\)를 \(\mathbf{v}=\sum_i \alpha_i \mathbf{e}_i\)라 하면, 선형범함수 \(\phi\)는 다음과 같이 표현된다.
\[ \phi(\mathbf{v}) = \phi\Bigl(\sum_i \alpha_i \mathbf{e}_i\Bigr) = \sum_i \alpha_i \phi(\mathbf{e}_i). \]
이제 \(\mathbf{w}\)를 \(\mathbf{w}=\sum_i \overline{\phi(\mathbf{e}_i)}\,\mathbf{e}_i\) (복소 벡터공간일 경우 켤레가 필요함) 형태로 정의하면, 내적 \(\langle \mathbf{v}, \mathbf{w}\rangle\) 이 \(\phi(\mathbf{v})\)와 동일하게 계산됨을 확인할 수 있다. 또한 \(\mathbf{w}\)의 유일성은 내적의 양의 정부호 성질을 통해 증명된다.
이 정리를 통해, 모든 선형범함수는 하나의 특정 벡터와 내적을 취하는 과정을 통해 계산할 수 있다. 유한차원 내적공간에서, 쌍대공간 \(\displaystyle V^*\)가 원 공간 \(V\)와 사실상 “동일(내적을 통한 동형)”하다는 사실을 보장하는 것이 Riesz 표현 정리의 핵심 의의이다.
보기 1.
실수 내적공간 \(\mathbb{R}^n\)에서, 선형범함수 \[\phi(\mathbf{x}) = a_1 x_1 + \cdots + a_n x_n\]이 주어졌다고 하자. 표준내적 \(\langle \mathbf{x}, \mathbf{w}\rangle = \sum_i x_i w_i\) 에 대해, 다음이 성립한다. \[ \phi(\mathbf{x}) = \langle \mathbf{x},\, (a_1, \dots, a_n)\rangle. \] \(\mathbf{w}=(a_1,\dots,a_n)\)가 자연스럽게 대응벡터로 작용함을 알 수 있다. 복소벡터공간에서도, 복소켤레 관계를 반영하면 유사한 형태로 해석 가능하다.
따라서, 선형범함수의 개념은 내적공간을 더욱 구조적으로 다루는 데 핵심이 되며, 스펙트럼 정리에서 등장하는 다양한 선형연산자를 쌍대적인 관점으로 해석할 수 있는 이론적 기반을 제공한다. 예컨대, 수반연산자나 정규연산자도 결국 해당 연산자가 유도하는 범함수들을 어떻게 변화시키는지를 통해 특성화된다.
수반연산자
내적공간에서의 선형변환을 다룰 때, 수반연산자(Adjoint Operator)는 변환이 내적에 미치는 효과를 반영하는 핵심적 개념이다. 복소벡터공간(또는 실벡터공간)에서 주어진 선형연산자 \(\mathcal{T}\)가 있을 때, 수반연산자 \(\mathcal{T}^*\)는 내적의 위상을 거꾸로 바꾸어 보는 연산자로 정의된다. 이 개념을 통해 에르미트 행렬, 유니터리 행렬 등의 구조가 행렬 표현에서도 자연스럽게 드러난다.
정의 2. (수반연산자)
내적공간 \(V\)에서 정의된 선형연산자 \(\mathcal{T} : V \to V\)에 대하여, 임의의 \(\mathbf{u}, \mathbf{v} \in V\)에 대해 \[ \langle \mathcal{T}(\mathbf{u}),\, \mathbf{v} \rangle = \langle \mathbf{u},\, \mathcal{T}^*(\mathbf{v}) \rangle \] 를 만족시키는 (유일한) 선형연산자 \(\mathcal{T}^*\)를 \(\mathcal{T}\)의 수반연산자(adjoint operator)라고 한다.
즉, \(\mathcal{T}^*\)는 내적을 뒤집어서 \(\mathcal{T}\)가 미치는 효과를 반영해 주는 연산자이다. 실벡터공간에서는 대체로 전치(Transpose)에 해당하고, 복소벡터공간에서는 켤레전치(Conjugate Transpose)에 해당한다.
수반연산자의 선형성 및 존재성
정리 2. (수반연산자의 존재와 유일성)
유한차원 내적공간 \(V\) 위에서 임의의 선형연산자 \(\mathcal{T}\)가 주어졌다고 하자. 그러면 \(\mathbf{u}, \mathbf{v}\)에 대하여 \[ \langle \mathcal{T}(\mathbf{u}),\, \mathbf{v}\rangle = \langle \mathbf{u},\, \mathcal{S}(\mathbf{v})\rangle \] 를 만족하는 선형연산자 \(\mathcal{S}\)는 유일하게 존재하며, 이를 \(\mathcal{T}^*\)라 한다. 즉, \(\mathcal{T}^*\)가 유일하게 정해지며, 이는 또한 \(\mathcal{T}^*\)가 선형임을 보장한다.
증명 스케치 내적공간 \(V\)에서, 적절한 정규직교기저 \(\{\mathbf{e}_1,\dots,\mathbf{e}_n\}\)를 선택하자. 그러면 \(\mathcal{T}\)를 이 기저에서 행렬로 표현했을 때, \(\mathcal{T}^*\) 역시 그 행렬의 켤레전치를 취한 형태로 표현된다. 즉, \(\mathrm{Mat}(\mathcal{T}^*) = \mathrm{Mat}(\mathcal{T})^\dagger\). 이로부터 \(\mathcal{T}^*\)가 선형연산자이며, 내적 보존식 \[\langle \mathcal{T}(\mathbf{u}),\, \mathbf{v}\rangle = \langle \mathbf{u},\, \mathcal{T}^*(\mathbf{v})\rangle\] 를 충족한다는 사실을 확인할 수 있다.
유일성은 이 조건을 만족하는 다른 연산자가 존재한다고 가정했을 때, 두 연산자의 차이가 0이 아님에도 내적이 항상 같아야 하는 모순을 유도함으로써 보장할 수 있다.
수반연산자의 고윳값
선형연산자 \(\mathcal{T}\)에 대해, \(\mathbf{v}\neq 0\)가 고유벡터이고 \(\lambda\)가 고윳값이라면, 수반연산자 \(\mathcal{T}^*\)의 한 고윳값이 \(\overline{\lambda}\) (복소 켤레)로 대응한다는 사실이 중요하다. 구체적으로, \[ \mathcal{T}(\mathbf{v}) = \lambda \mathbf{v} \quad \Longrightarrow \quad \mathcal{T}^*(\mathbf{v}) = \overline{\lambda}\,\mathbf{v} \] 가 성립한다는 정리를 간단히 살펴볼 수 있다.
정리 3. (수반연산자의 고윳값)
내적공간 \(V\)에서 \(\mathbf{v}\neq 0\)에 대해 \(\mathcal{T}(\mathbf{v}) = \lambda \mathbf{v}\)라 하자. 그러면, \[ \mathcal{T}^*(\mathbf{v}) = \overline{\lambda}\,\mathbf{v} \] 가 성립한다. 즉, \(\mathbf{v}\)는 \(\mathcal{T}^*\)의 고유벡터이기도 하며, 고윳값은 \(\overline{\lambda}\)가 된다.
증명 스케치 \(\lambda = \langle \mathcal{T}(\mathbf{v}), \mathbf{v}\rangle / \|\mathbf{v}\|^2\)와 유사한 내적 해석을 통해, \(\mathcal{T}^*\)가 내적을 거꾸로 돌려보는 작용이라는 점을 이용하면 증명이 가능하다. 복소 켤레 연산이 포함되어 \(\lambda\)가 \(\overline{\lambda}\)로 반영된다.
정규직교기저에서의 행렬표현
정규직교기저 \(\{\mathbf{e}_1,\dots,\mathbf{e}_n\}\)를 택하면, \(\mathcal{T}\)의 행렬표현 \(A\)가 주어졌을 때, 수반연산자 \(\mathcal{T}^*\)의 행렬표현은 \[ A^\dagger = \overline{A^\top} \] 이며, 실벡터공간인 경우 단순히 \[ A^\top \] 가 된다. 이 행렬을 통해, \[ \langle \mathcal{T}(\mathbf{u}),\, \mathbf{v}\rangle = \mathbf{u}^\dagger A^\dagger \mathbf{v} = \langle \mathbf{u},\, \mathcal{T}^*(\mathbf{v})\rangle \] 가 동일하게 성립함을 보장한다.
Schur의 정리
수반연산자를 이해하고, 정규(또는 정상) 행렬에 대한 스펙트럼 해석을 확장하는 과정에서, Schur 분해가 중요한 역할을 한다. Schur 분해(Schur Decomposition)에 따르면, 모든 복소 정사각행렬은 유니터리 행렬에 의해 상삼각 형태로 바꿀 수 있다. 즉, 임의의 복소 행렬 \(A\)에 대해, 적당한 유니터리 행렬 \(U\)가 존재하여
\[ U^\dagger A\,U = T \]
가 상삼각행렬 \(T\)로 표현된다. 이러한 분해는 수반연산자나 정규연산자를 취급할 때에도 필수적으로 등장한다. 예를 들어, 정규행렬(normal matrix)의 경우 Schur 분해가 삼각행렬이 아닌 대각행렬로까지 단순화(유니터리 대각화)될 수 있음을 보이는 데 사용할 수 있다.
보기 2.
2×2 복소행렬 \[\displaystyle A = \begin{pmatrix} 1 & 2+ i \\ 0 & 3\end{pmatrix}\] 를 생각해 보자. 이 행렬의 수반(케일레전치)은 \[ A^\dagger = \begin{pmatrix} 1 & 0 \\ 2 - i & 3\end{pmatrix}\] 이다. 수반연산자 \(\mathcal{T}^*\)의 행렬이 \(A^\dagger\)로 표현된다는 사실은, 정규직교기저에서 \[\langle A\mathbf{u},\, \mathbf{v}\rangle = \langle \mathbf{u},\, A^\dagger\mathbf{v}\rangle\] 를 만족시킴을 직접 계산으로 확인할 수 있다.
수반연산자는 내적공간에서 선형연산자의 작용을 거울처럼 반영하는 핵심적 연산이며, 정규연산자와 스펙트럼 정리 등을 논할 때 필수적으로 등장한다. 또한, 행렬 표현으로 옮겨 보면 켤레전치를 취한 행렬로 간단히 나타낼 수 있어, 다양한 스펙트럼 해석(대각화, 삼각화 등)에 도움을 준다.
복소벡터공간에서 수반연산자와 관련하여 유용하게 쓰이는 Schur의 정리를 보다 명시적으로 살펴보자. 이 정리는 정규직교기저(유니터리 기저)를 선택함으로써, 임의의 복소 선형연산자를 상삼각 형태로 표현할 수 있음을 보장한다.
정리 4. (Schur의 정리)
유한차원 복소내적공간 \(V\)에서 정의된 임의의 선형연산자 \(\mathcal{T}: V \to V\)에 대하여, 정규직교(유니터리) 기저를 적절히 택하면, 그 기저에서 \(\mathcal{T}\)의 행렬표현이 상삼각행렬이 된다. 즉, 복소공간에서는 모든 선형연산자를 상삼각 형태로 나타내는 정규직교기저가 항상 존재한다.
증명 스케치 기본 아이디어는 차원이 \(n\)인 복소벡터공간에 대해, 해당 선형연산자 \(\mathcal{T}\)가 적어도 하나의 고윳값(복소수) \(\lambda\)를 갖는다는 사실(복소수체에서 항상 다항식이 분해되므로 보장됨)을 이용하여 귀납적(induction)으로 증명한다. 구체적인 단계는 다음과 같다.
- 차원이 \(1\)인 경우는 자명하다. \(\mathcal{T}\) 자체가 스칼라배와 동일하므로 이미 상삼각형(사실상 \(1\times1\) 행렬)이다.
- 차원이 \(n \ge 2\)인 경우, \(\mathbf{v}\neq\mathbf{0}\)를 \(\mathcal{T}\)의 고유벡터라 하여 \(\mathcal{T}(\mathbf{v}) = \lambda \mathbf{v}\)를 만족한다고 하자. 이 \(\mathbf{v}\)를 정규화(normalize)하여 길이가 1인 \(\mathbf{e}_1\)로 만든 뒤, \(\mathbf{e}_1\)을 포함하여 \(\{\mathbf{e}_1,\dots,\mathbf{e}_n\}\) 형태로 정규직교기저를 확장한다. 이로써 첫 번째 열(또는 행)이 특정 형태를 갖도록 유도한다.
- 이 기저에서 \(\mathcal{T}\)를 행렬로 표현하면, 첫 번째 열은 \(\lambda\)가 나타나고 나머지 \(n-1\)차원 부분공간(\(\mathbf{e}_1\)에 수직인 부분공간)에서의 작용이 하위블록으로 분할된다. 이 \(n-1\)차원 부분에 대하여, \(\mathcal{T}\)가 제한(restricted)되어 작용하는 선형연산자를 다시 생각해 보면, 귀납 가정에 의해 그 부분을 상삼각으로 만들 수 있다.
- 결국, 전체 행렬은 첫 번째 행과 열에 \(\lambda\) 및 일부 항이 위치하고, 하위블록(\((n-1)\times(n-1)\))은 상삼각 형태로 표현됨으로써, 전체 행렬이 상삼각행렬이 된다.
이 과정을 통해, 임의의 복소 선형연산자 \(\mathcal{T}\)가 유니터리 기저 선택으로 상삼각행렬이 됨을 귀납적으로 보일 수 있다. 이는 복소 공간에서 모든 다항식이 분해되어 반드시 고윳값을 찾을 수 있다는 사실과, 그 고윳값에 대응하는 고유벡터를 정규직교기저의 일부로 삼는 구성이 핵심 아이디어이다.
Schur의 정리는 일반 선형연산자(또는 일반 복소 행렬)를 “유니터리 변환을 통해 상삼각형으로 만들 수 있다”는 것을 보장하는 강력한 도구로서, 행렬 이론 및 스펙트럼 해석에서 매우 중요한 역할을 한다. 이후 정규연산자(normal operator)의 경우, 이 상삼각형이 더 단순해져서 실제로는 완전 대각화로 이어진다는 사실(정규연산자의 스펙트럼 정리)로 확장할 수 있다.
