정규연산자
내적공간에서 정의된 선형연산자 \(\mathcal{T}\)가 정규(normal) 연산자라는 것은, 그 연산자와 수반연산자(\(\mathcal{T}^*\))가 서로 교환 가능함(가환)을 의미한다. 즉, 복소벡터공간에서 \[ \mathcal{T}\,\mathcal{T}^* = \mathcal{T}^*\,\mathcal{T} \] 를 만족하는 연산자 \(\mathcal{T}\)를 정규연산자라고 부른다. 이 개념은 복소 행렬론에서의 “정규행렬(\(A^\dagger A = A A^\dagger\))”에 해당하며, 유니터리, 에르미트, 스펙트럼 대각화 등 선형대수학의 핵심 주제들과 긴밀히 연관된다.
정의 1. (정규연산자)
내적공간 \(V\) 위에서 정의된 선형연산자 \(\mathcal{T}: V \to V\)에 대하여, \[ \mathcal{T}\,\mathcal{T}^* \;=\; \mathcal{T}^*\,\mathcal{T} \] 가 성립할 때, \(\mathcal{T}\)를 정규연산자(normal operator)라고 부른다. 복소 행렬 표현으로 옮기면, 이 식은 \[ A^\dagger A = A A^\dagger \] 인 행렬 \(A\)를 정규행렬(normal matrix)이라 부르는 것과 정확히 대응한다.
이제 정규연산자의 성질을 살펴보자.
수반연산자의 고윳값
정규연산자(또는 일반 선형연산자) \(\mathcal{T}\)에 대해, \(\mathbf{v}\neq 0\)가 고유벡터이고 \(\lambda\)가 고윳값이라면, 수반연산자 \(\mathcal{T}^*\)의 한 고윳값이 \(\overline{\lambda}\) (복소 켤레)로 대응한다는 사실이 중요하다. 구체적으로, \[ \mathcal{T}(\mathbf{v}) = \lambda \mathbf{v} \quad \Longrightarrow \quad \mathcal{T}^*(\mathbf{v}) = \overline{\lambda}\,\mathbf{v} \] 가 성립한다는 정리를 간단히 살펴볼 수 있다.
정리 1. (수반연산자의 고윳값)
내적공간 \(V\)에서 \(\mathbf{v}\neq 0\)에 대해 \(\mathcal{T}(\mathbf{v}) = \lambda \mathbf{v}\)라 하자. 그러면, \[ \mathcal{T}^*(\mathbf{v}) = \overline{\lambda}\,\mathbf{v} \] 가 성립한다. 즉, \(\mathbf{v}\)는 \(\mathcal{T}^*\)의 고유벡터이기도 하며, 고윳값은 \(\overline{\lambda}\)가 된다.
증명 스케치 \(\lambda = \langle \mathcal{T}(\mathbf{v}), \mathbf{v}\rangle / \|\mathbf{v}\|^2\)와 유사한 내적 해석을 통해, \(\mathcal{T}^*\)가 내적을 거꾸로 돌려보는 작용이라는 점을 이용하면 증명이 가능하다. 복소 켤레 연산이 포함되어 \(\lambda\)가 \(\overline{\lambda}\)로 반영된다.
정규연산자의 직교고유벡터
정규연산자는 서로 다른 고윳값에 대응되는 고유벡터들이 서로 직교(orthogonal)한다는 특성을 가진다. 이는 정규성(\(\mathcal{T}\mathcal{T}^* = \mathcal{T}^*\mathcal{T}\))이 내적 보존과 연결되어, 고윳값 분해 과정에서 서로 간섭이 없음을 반영한다.
정리 2. (정규연산자의 고유벡터 직교성)
\(\mathcal{T}\)가 정규연산자이고, \(\mathbf{u}, \mathbf{v}\)가 서로 다른 고윳값 \(\lambda \neq \mu\)에 대응하는 고유벡터라 하자. 즉, \(\mathcal{T}(\mathbf{u}) = \lambda \mathbf{u}\), \(\mathcal{T}(\mathbf{v}) = \mu \mathbf{v}\). 이때 \(\langle \mathbf{u}, \mathbf{v}\rangle = 0\)가 성립한다.
증명
정규성을 사용하여 \[ \|\mathcal{T}(\mathbf{u}) - \mathcal{T}(\mathbf{v})\|^2 = \|\mathcal{T}^*(\mathbf{u}) - \mathcal{T}^*(\mathbf{v})\|^2 \] 을 보이 ㄹ수 있다. 또는 내적으로 직접 전개함으로써 \[ \langle \lambda \mathbf{u},\, \mathbf{v}\rangle = \langle \mathbf{u},\, \mu \mathbf{v}\rangle \quad \Longrightarrow\quad (\lambda - \mu)\langle \mathbf{u}, \mathbf{v}\rangle = 0 \] 을 보일 수 있다. 여기서 \(\lambda\neq \mu\)이므로, \(\langle \mathbf{u}, \mathbf{v}\rangle = 0\)이다.
결과적으로, 서로 다른 고윳값을 갖는 고유공간들이 서로 직교한다는 점은 정규연산자를 스펙트럼 이론으로 분석할 때 큰 이점을 제공한다.
정규연산자의 스펙트럼 정리
유한차원 복소벡터공간에서, 정규연산자는 유니터리 대각화(직교대각화)에 대한 필요충분조건을 만족한다. 즉, 어떤 선형연산자가 대각화 가능하기 위해서는 그 연산자가 정규(normal)여야 하고, 정규연산자이면 반드시 스펙트럼 분해(대각화)가 가능하다.
정리 3. (정규연산자의 스펙트럼 정리)
유한차원 복소내적공간 \(V\)에서, 선형연산자 \(\mathcal{T}\)가 유니터리하게 대각화 가능(즉, 어떤 정규직교기저에서 \(\mathcal{T}\)의 행렬이 대각행렬이 됨)하기 위한 필요충분조건은 \(\mathcal{T}\)가 정규연산자(\(\mathcal{T}\mathcal{T}^* = \mathcal{T}^*\mathcal{T}\))라는 사실이다.
증명 스케치 \(\Rightarrow\) 방향(필요조건)은, \(\mathcal{T}\)가 유니터리 변환 \(U\)로 대각화된다면, 행렬 표현 \(U^\dagger AU\)가 대각행렬이 되어 자연스럽게 \(A\)가 정규임을 보일 수 있다. \(\Leftarrow\) 방향(충분조건)은, \(\mathcal{T}\)가 정규연산자라면 고윳값 분해에서 서로 다른 고윳값에 대응하는 고유공간들이 직교함을 이용하여, 정규직교기저를 구성해 대각화가 가능함을 귀납(또는 Schur 정리 + 정규성으로 삼각행렬을 대각화로 단순화)으로 증명한다.
이 스펙트럼 정리는 복소행렬론에서 “정규행렬은 유니터리 행렬에 의해 대각화 가능하고, 그 역도 성립한다”는 형태로 자주 소개된다. 에르미트 행렬, 유니터리 행렬, 스스로 수반인 행렬 등은 모두 정규행렬의 특수한 예로서, 각각 고윳값이 실수, 복소평면의 단위원상에 위치 등 더 구체적인 성질을 갖는다.
정리하자면, 정규연산자는 내적공간에서 수반연산자와 상호 가환함으로써, 서로 다른 고윳값을 지닌 고유벡터가 직교한다는 점과 유니터리 대각화(스펙트럼 정리)가 가능하다는 점을 동시에 만족한다. 이것이 복소선형대수학에서 가장 핵심적인 분해 중 하나이며, 양자역학이나 고급 공학적 문제에서 자기수반/정규 연산자를 다룰 때 필수적 이론적 도구가 된다.
자기수반연산자
복소벡터공간에서 \(\mathcal{T}\)가 자기수반(self-adjoint)이라는 것은 \(\mathcal{T} = \mathcal{T}^*\)를 만족함을 의미한다. 즉, 정규연산자 중에서도 \(\mathcal{T}\,\mathcal{T}^* = \mathcal{T}^*\mathcal{T}\) 뿐만 아니라, 더욱 강한 조건인 ‘\(\mathcal{T}\)가 수반과 일치한다(\(\mathcal{T}^* = \mathcal{T}\))’를 갖는 것이다. 실벡터공간에서의 대칭 연산자(또는 대칭 행렬)에 대응하며, 다음과 같은 중요한 성질들을 지닌다.
정의 2. (자기수반연산자)
내적공간 \(V\) 위의 선형연산자 \(\mathcal{T}: V \to V\)가 \[ \mathcal{T}^* = \mathcal{T} \] 를 만족하면, 이를 자기수반연산자(self-adjoint operator)라고 한다. 복소벡터공간의 경우, 이는 \(\mathcal{T}\)가 에르미트(Hermitian) 행렬로 표현된다는 뜻이고, 실벡터공간의 경우에는 \(\mathcal{T}\)의 행렬이 대칭(symmetric)임을 의미한다.
자기수반연산자의 성질을 살펴보자.
고윳값이 모두 실수
자기수반연산자는 모두 정규연산자이므로( \(\mathcal{T}^* = \mathcal{T}\)면 당연히 \(\mathcal{T}\mathcal{T}^* = \mathcal{T}^*\mathcal{T}\) ), 정규성에 의한 성질(서로 다른 고윳값 대응 고유벡터 직교 등)뿐 아니라, 모든 고윳값이 실수라는 더욱 강력한 결론이 따라온다.
정리 4. (자기수반연산자의 실수 고윳값)
유한차원 내적공간에서, 자기수반연산자 \(\mathcal{T}\)의 모든 고윳값은 실수이다. 즉, \(\mathcal{T}(\mathbf{v}) = \lambda \mathbf{v}\)라 하면, \(\lambda \in \mathbb{R}\)가 된다.
증명 스케치 복소벡터공간을 가정하면, \(\mathcal{T} = \mathcal{T}^*\)일 때, \(\mathbf{v}\neq 0\)에 대해 \(\mathcal{T}(\mathbf{v}) = \lambda \mathbf{v}\)라 하자. 내적으로 \[ \langle \mathcal{T}(\mathbf{v}),\, \mathbf{v}\rangle = \langle \mathbf{v},\, \mathcal{T}(\mathbf{v})\rangle \] 가 성립해야 하는데, 왼쪽은 \(\langle \lambda \mathbf{v}, \mathbf{v}\rangle = \lambda \|\mathbf{v}\|^2\), 오른쪽은 \(\overline{\lambda}\,\|\mathbf{v}\|^2\). 따라서 \(\lambda = \overline{\lambda}\)가 되어 \(\lambda\)는 실수이어야 한다.
자기수반연산자의 스펙트럼 정리 (실벡터공간에서 직교대각화 가능 조건)
복소벡터공간에서의 자기수반연산자는 에르미트 연산자와 동일하며, 유니터리로 완전 대각화 가능하다. 실벡터공간을 가정한다면, “대칭행렬이 직교행렬에 의해 대각화 가능하다”는 정리와 동일한 결론에 도달한다. 즉, 자기수반성(\(\mathcal{T} = \mathcal{T}^*\))이 직교대각화를 위한 필요충분조건이 된다.
정리 5. (자기수반연산자의 스펙트럼 정리)
유한차원 실내적공간에서, 선형연산자 \(\mathcal{T}\)가 직교변환에 의해 대각화(= 대칭행렬 형태) 가능하기 위한 필요충분조건은 \(\mathcal{T}\)가 자기수반연산자라는 것이다. 즉, \[ \mathcal{T}^* = \mathcal{T} \] 를 만족할 때, 고유벡터들로 이루어진 정규직교기저(직교기저)에 의해 \(\mathcal{T}\)가 완전히 대각화된다. 대각행렬의 대각성분은 \(\mathcal{T}\)의 실수 고윳값들이 된다.
이 정리는 실벡터공간에서 “대칭행렬은 직교대각화 가능하고, 그 역도 성립한다”는 행렬론적 명제를 내적공간 관점에서 해석한 결과라고 볼 수 있다. 복소벡터공간으로 확장하면, 자기수반(=에르미트) 연산자는 유니터리 대각화가 가능하며, 고윳값이 전부 실수이므로 다양하게 응용된다(양자역학에서 관측가능량 연산자 등).
보기 1.
2차원 실벡터공간에서 대칭행렬 \[ A = \begin{pmatrix} 2 & 1 \\ 1 & 3 \end{pmatrix} \] 을 생각하자. 이는 \(A^\top = A\)이므로 자기수반연산자를 나타낸다. 고윳값을 구하면 실수( \(\lambda_1 \approx 1.38,\;\lambda_2\approx 3.62\) )가 나오며, 대응하는 고유벡터가 서로 직교함을 확인할 수 있다. 이런 식으로, 적절한 직교행렬 \(Q\)를 택하면 \(Q^\top A\,Q\)가 대각행렬이 되어 직교대각화 가능하다.
자기수반연산자는 복소세계에서 에르미트 연산자와 동일하며, 실세계에서 대칭연산자와 동일한 개념으로, 가장 간단하고 중요한 형태의 정규연산자이다. 모든 고윳값이 실수이고, 직교(또는 유니터리) 변환으로 완전히 대각화 가능하다는 사실은 수학·물리학·공학 전반에서 다루는 다양하고 복잡한 문제들을 구조적으로 풀어낼 때 핵심적인 역할을 한다.
