수반연산자는 여러 가지 연산자의 특성을 파악할 수 있게 해주는 개념이다. 특히 수반연산자를 사용하여 정규연산자, 자기수반연산자, 유니타리연산자를 정의할 수 있다. 이들 연산자는 선형대수학과 함수해석학에서 자주 등장한다.
우선 정규연산자를 살펴보자.
정의 1. (정규연산자와 정규행렬)
- \(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)라고 하자. 이때 \(T\)가 정규연산자라는 것은 \[TT^* = T^*T\] 가 성립함을 의미한다.
- \(A\)가 정사각행렬이라고 하자. 이때 \(A\)가 정규행렬이라는 것은 \[AA^* = A^*A\] 가 성립함을 의미한다.
연산자가 정규적연산자인지 확인하는 과정은 많이 어렵지 않다. 왜냐하면, 연산자의 수반연산자를 찾고, 곱한 결과를 확인하면 되기 때문이다.
보기 2. (정규연산자의 예)
임의의 \(k \in C[0,\,1]\)에 대해, \(T_k \in B(L^2[0,\,1])\)을 다음과 같이 정의하자. \[T_k ( g ) (t) = k(t) g(t) .\] 만약 \(f \in C[0,\,1]\)이면, \(T_f\)는 정규연산자이다.
풀이
이전 글(바로가기)의 보기 5에서 \((T_f)^* = T_{\overline{f}}\)임을 밝혔다. 따라서 임의의 \(g \in L^2[0,\,1]\)에 대해, \[\begin{gathered} (T_f(T_f)^*)(g) = T_f(T_{\overline{f}}(g)) = T_f(\overline{f}g) = f\overline{f}g \end{gathered}\] 그리고 \[\begin{gathered} ((T_f)^*T_f)(g) = T_{\overline{f}}(T_f(g)) = T_{\overline{f}}(fg) = \overline{f}fg = f\overline{f}g \end{gathered}\] 이다. 즉 \(T_f(T_f)^* = (T_f)^*T_f\)이므로 \(T_f\)는 정규연산자이다.
보기 3. (정규가 아닌 연산자의 예)
단측이동연산자 \(S \in B(\ell^2)\)는 정규연산자가 아니다.
풀이
임의의 \(\{y_n\} \in \ell^2\)에 대하여 다음이 성립한다. \[S^*(y_1,\, y_2,\, y_3,\, \ldots) = (y_2,\, y_3,\, y_4,\, \ldots) .\] \(\{x_n\} \in \ell^2\)에 대하여 \[\begin{gathered} S^*(S(x_1,\, x_2,\, x_3,\,\ldots)) = S^*(0,\, x_1,\, x_2,\, x_3,\,\ldots) = (x_1,\, x_2,\, x_3,\,\ldots) \end{gathered}\] 인 반면에 \[\begin{gathered} S(S^*(x_1,\, x_2,\, x_3,\,\ldots)) = S(x_2,\, x_3,\,\ldots) = (0,\, x_2,\, x_3,\,\ldots) \end{gathered}\] 이다. 따라서 모든 \(\{x_n\} \in \ell^2\)에 대하여 \[S^*(S(x_1,\, x_2,\, x_3,\,\ldots)) \neq S(S^*(x_1,\, x_2,\, x_3,\,\ldots))\] 이므로 \(S\)는 정규연산자가 아니다.
조금 더 추상적인 예를 살펴보자.
보기 4. (정규연산자의 예)
\(\mathcal{H}\)가 복소힐베르트공간이고, \(I\)가 \(\mathcal{H}\) 위에서 정의된 항등연산자이며, \(\lambda \in \mathbb{C}\)라고 하자. 만약 \(T \in B(\mathcal{H})\)가 정규연산자이면 \(T - \lambda I\)도 정규연산자이다.
풀이
정규연산자의 성질에 의하여 \((T - \lambda I)^* = T^* - \overline{\lambda}I\)이다. 따라서 등식 \(T^*T = TT^*\)를 사용하면 다음을 얻는다. \[\begin{aligned} (T - \lambda I)(T - \lambda I)^* &= (T - \lambda I)(T^* - \overline{\lambda}I) \\[6pt] &= TT^* - \lambda T^* - \overline{\lambda}T + \lambda\overline{\lambda}I \\[6pt] &= T^*T - \lambda T^* - \overline{\lambda}T + \lambda\overline{\lambda}I \\[6pt] &= (T^* - \overline{\lambda}I)(T - \lambda I) \\[6pt] &= (T - \lambda I)^*(T - \lambda I) . \end{aligned}\] 그러므로 \(T - \lambda I\)는 정규연산자이다.
이제 정규연산자의 몇 가지 성질을 살펴보자.
보조정리 5. (정규연산자의 성질)
\(\mathcal{H}\)가 복소힐베르트공간이고, \(T \in B(\mathcal{H})\)가 정규적이며, \(\alpha > 0\)일 때, 다음이 성립한다.
- 모든 \(x \in \mathcal{H}\)에 대하여 \(\lVert Tx \rVert = \lVert T^*x \rVert\)이다.
- 만약 모든 \(x \in \mathcal{H}\)에 대해 \(\lVert Tx \rVert \geq \alpha\lVert x \rVert\)이면, \(\operatorname{Ker} T^* = \{0\}\)이다.
증명
- \(x \in \mathcal{H}\)라 하자. \(T^*T = TT^*\)이므로 \[\begin{aligned} \lVert Tx \rVert^2 - \lVert T^*x \rVert^2 &= \langle Tx,\,Tx \rangle - \langle T^*x,\,T^*x \rangle \\[6pt] &= \langle T^*Tx,\,x \rangle - \langle TT^*x,\,x \rangle \\[6pt] &= \langle T^*Tx - TT^*x,\,x \rangle \\[6pt] &= 0 \end{aligned}\] 이다. 따라서 \(\lVert Tx \rVert = \lVert T^*x \rVert\)이다.
- \(y \in \operatorname{Ker} T^*\)라고 하자. 그러면 \(T^*y = 0\)이므로, (a)에 의해 \[0 = \lVert T^*y \rVert = \lVert Ty \rVert \geq \alpha\lVert y \rVert\] 이다. 따라서 \(\lVert y \rVert = 0\)이므로 \(y = 0\)이다. 그러므로 \(\operatorname{Ker} T^* = \{0\}\)이다.
보조정리 5의 결과로서, 다음과 같이 정규연산자의 가역성을 판정하는 정리를 얻는다.
따름정리 6. (정규연산자의 가역성 판정)
\(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)가 정규적이라고 하자. 이때 다음 두 명제는 서로 동치이다.
- \(T\)는 가역이다.
- 모든 \(x \in \mathcal{H}\)에 대하여 \(\lVert Tx \rVert \geq \alpha \lVert x \rVert\)를 만족시키는 \(\alpha > 0\)이 존재한다.
위 정리는 임의의 연산자가 가역임을 판정하는 것보다 정규연산자가 가역임을 판정하는 것이 상대적으로 더 쉽다는 사실을 알려준다.
다음으로 자기수반연산자와 유니타리연산자를 살펴보자.
일반적으로 \(1 \times 1\) 복소 행렬의 집합은 복소수 집합과 같은 것으로 간주할 수 있으며, 이 경우 복소수 \(z\)의 수반행렬은 \(z^* = \overline{z}\)이다. 복소수 집합의 중요한 두 집합으로서 실수 전체의 집합 \[\mathbb{R} = \{z \in \mathbb{C} \,\vert\, z = \overline{z}\}\] 와 복소평면에서의 단위원 \[\{z \in \mathbb{C} \,\vert\, z\overline{z} = \overline{z}z = 1\}\] 를 들 수 있는데, 이 두 집합은 수반행렬(켤레복소수)을 사용하여 다음과 같이 나타낼 수 있다. \[\begin{gathered} \mathbb{R} = \{z \in \mathbb{C} \,\vert\, z = z^* \}, \\[6pt] \{z \in \mathbb{C} \,\vert\, z z^* = z^* z = 1\} . \end{gathered}\] 이 중 첫 번째 집합을 연산자로 일반화하면 다음과 같다.
정의 7. (자기수반연산자와 자기수반행렬)
- \(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)이라고 하자. 이때 \(T\)가 자기수반연산자라는 것은 \[T = T^*\] 를 만족시킴을 의미한다.
- \(A\)가 정사각행렬이라고 하자. 이때 \(A\)가 자기수반행렬이라는 것은 \(A = A^*\)를 만족시킴을 의미한다.
연산자나 행렬이 자기수반연산자 또는 자기수반행렬인지 확인하는 방법은 여러 가지가 있다. 첫 번째 방법은 수반연산자 또는 수반행렬을 구하고 그것이 원래 연산자 또는 행렬과 같은지 살피는 것이다. 다음 예를 보자.
보기 8. (자기수반행렬의 예)
행렬 \(A = \begin{bmatrix} 2 & i \\ -i & 3 \end{bmatrix}\)는 자기수반행렬이다.
풀이
\(A\)의 수반행렬을 구하면 \[A^* = \begin{bmatrix} 2 & -i \\ i & 3 \end{bmatrix} = A\] 이므로 \(A\)는 자기수반행렬이다.
연산자 \(T\)가 자기수반연산자인지 확인하는 두 번째 방법은 모든 벡터 \(x\)와 \(y\)에 대해 \(\langle Tx,\,y \rangle = \langle x,\,Ty \rangle\)임을 직접 보이는 것이다. 수반연산자의 유일성에 의하여, 이 등식이 성립하면 \(T\)는 자기수반연산자이다.
보기 9. (자기수반연산자의 예)
\(\mathcal{H}\)가 복소힐베르트공간이라고 하자. 항등연산자 \(I \in B(\mathcal{H})\)는 자기수반연산자이다.
만약 연산자의 수반연산자를 이미 알고 있다면, 그것이 자기수반연산자인지 확인하는 것은 더 쉽다. 다음 예를 살펴보자.
보기 10. (수반연산자를 알고 있는 경우 자기수반연산자 판별)
임의의 \(k \in C[0,\,1]\)에 대해, \(T_k \in B(L^2[0,\,1])\)을 보기 2와 같이 정의하자. 만약 \(f \in C[0,\,1]\)이 실숫값을 가지면, \(T_f\)는 자기수반연산자이다.
풀이
우선 \((T_f)^* = T_{\overline{f}}\)이다. 가정에 의하여 \(f\)가 실숫값을 가지므로, \(\overline{f} = f\)이다. 따라서 \[(T_f)^* = T_{\overline{f}} = T_f\] 이다. 그러므로 \(T_f\)는 자기수반연산자이다.
자기수반연산자의 일반적인 대수적 성질은 다음 보조정리와 같다. 여기서 자기수반연산자와 실수 사이의 유사성을 엿볼 수 있다.
보조정리 11. (자기수반연산자의 대수적 성질)
\(\mathcal{H}\)가 복소힐베르트공간이고 \(\mathcal{S}\)가 \(B(\mathcal{H})\) 위에서 정의된 자기수반연산자의 집합이라고 하자.
- 만약 \(\alpha\)와 \(\beta\)가 실수이고 \(T_1 \in \mathcal{S} ,\) \(T_2 \in \mathcal{S}\)이면, \(\alpha T_1 + \beta T_2 \in \mathcal{S}\)이다.
- \(\mathcal{S}\)는 \(B(\mathcal{H})\)의 닫힌 부분집합이다.
증명
- \(T_1\)과 \(T_2\)가 자기수반연산자이므로 \[(\alpha T_1 + \beta T_2)^* = \alpha T_1^* + \beta T_2^* = \alpha T_1 + \beta T_2\] 이다. 따라서 \(\alpha T_1 + \beta T_2 \in \mathcal{S}\)이다.
- \(\{T_n\}\)이 \(\mathcal{S}\)에서 \(T \in B(\mathcal{H})\)로 수렴하는 수열이라고 하자. 그러면 \(\{T_n^*\}\)는 \(T^*\)로 수렴한다. 따라서 모든 \(n \in \mathbb{N}\)에 대해 \(T_n^* = T_n\)이므로 \(\{T_n\}\)은 \(T^*\)로 수렴한다. 그러므로 \(T = T^*\)이고, 따라서 \(T \in \mathcal{S}\)이다. 즉, \(\mathcal{S}\)는 닫혀 있다.
위 정리를 다르게 표현하면, \(B(\mathcal{H})\)에서 자기수반연산자의 집합은 실바나흐 공간을 형성한다는 것이다.
보조정리 12. (유계연산자와 자기수반연산자의 관계)
\(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)라고 하자.
- \(T^*T\)와 \(TT^*\)는 자기수반연산자이다.
- 자기수반연산자 \(R,\) \(S\)가 존재하여 \(T = R + iS\)이다.
증명
- 수반연산자의 대수적 성질에 의하여 \[(T^*T)^* = T^*T^{**} = T^*T\] 이다. 따라서 \(T^*T\)는 자기수반이다. 마찬가지로 \(TT^*\)도 자기수반이다.
- \(R\)과 \(S\)를 다음과 같이 정의하자. \[R = \frac{1}{2}(T + T^*) ,\quad S = \frac{1}{2i}(T - T^*) .\] 그러면 \(T = R + iS\)이다. 또한 \[R^* = \frac{1}{2}(T + T^*)^* = \frac{1}{2}(T^* + T) = R\] 이므로 \(R\)은 자기수반연산자이다. 또한 \[S^* = - \frac{1}{2i}(T - T^*)^* = - \frac{1}{2i}(T^* - T^{**}) = \frac{1}{2i}(T - T^*) = S\] 이므로 \(S\)도 자기수반연산자이다.
보조정리 12에서 정의된 연산자 \(R\)과 \(S\)는 종종 연산자 \(T\)의 실수부와 허수부라고 불린다.
이제 집합 \[\{z \in \mathbb{C} \,\vert\, z\overline{z} = \overline{z}z = 1\}\]을 연산자로 일반화한 유니타리연산자를 살펴보자.
정의 13. (유니타리연산자와 유니타리행렬)
- \(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)라고 하자. 이때 \(T\)가 유니타리연산자라는 것은 \[TT^* = T^*T = I\] 를 만족시킴을 의미한다.
- \(A\)가 정사각행렬이라고 하자. 이때 \(A\)가 유니타리행렬이라는 것은 \[AA^* = A^*A = I\]를 만족시킴을 의미한다.
정의에 따르면, 유니타리연산자의 역연산자는 수반연산자이며, 유니타리행렬의 역행렬은 수반행렬이다.
보기 14. (유니타리연산자의 예)
임의의 \(k \in C[0,\,1]\)에 대해, \(T_k \in B(L^2[0,\,1])\)을 보기 2와 같이 정의하자. 만약 \(f \in C[0,\,1]\)이고 모든 \(t \in [0,\,1]\)에 대해 \(|f(t)| = 1\)이면, \(T_f\)는 유니타리연산자이다.
풀이
우선 \((T_f)^* = T_{\overline{f}}\)이다. 따라서 \[((T_f)^*T_f)g(t) = \overline{f(t)}f(t)g(t) = |f(t)|^2g(t)\] 이므로, \(T_f^*T_f(g) = g\)가 되어 \(T_f^*T_f = I\)이다. 마찬가지로 \(T_fT_f^* = I\)이다. 따라서 \(T_f\)는 유니타리연산자이다.
주어진 연산자가 유니타리연산자인지 판별하는 다른 기하학적인 방법을 살펴보자.
보조정리 15. (내적을 사용한 연산자 일치성의 판별)
\(X\)가 복소내적공간이고 \(S,\, T \in B(X)\)라고 하자. 만약 임의의 \(z \in X\)에 대해 \(\langle Sz,\,z \rangle = \langle Tz,\,z \rangle\)가 성립하면, \(S = T\)이다.
정리 16. (유니타리연산자와 등거리변환의 관계)
\(\mathcal{H}\)가 복소힐베르트공간이고 \(T,\, U \in B(\mathcal{H})\)라고 하자.
- \(T^*T = I\)이기 위한 필요충분조건은 \(T\)가 등거리변환(isometry)인 것이다.
- \(U\)가 유니타리연산자이기 위한 필요충분조건은 \(U\)가 \(\mathcal{H}\)에서 \(\mathcal{H}\) 위로(onto)의 등거리변환인 것이다.
증명
- 먼저 \(T^*T = I\)라고 가정하자. 그러면
\[\lVert Tx \rVert^2 = \langle Tx,\,Tx \rangle = \langle T^*Tx,\,x \rangle = \langle Ix,\,x \rangle = \lVert x \rVert^2\]
이므로, \(T\)는 등거리변환이다.
반대로 \(T\)가 등거리변환이라고 가정하자. 그러면 \[\langle T^*Tx,\,x \rangle = \langle Tx,\,Tx \rangle = \lVert Tx \rVert^2 = \lVert x \rVert^2 = \langle Ix,\,x \rangle\] 이므로, \(T^*T = I\)이다. - 먼저 \(U\)가 유니타리연산자라고 가정하자. 그러면 \(U\)는 (a)에 의해 등거리변환이다. 더욱이, 만약 \(y \in \mathcal{H}\)이면, \(y = U(U^*y)\)이므로 \(y \in \operatorname{Im} U\)이다. 따라서 \(U\)는 \(\mathcal{H}\)를 \(\mathcal{H}\) 위로 대응시킨다.
반대로 \(U\)가 \(\mathcal{H}\)에서 \(\mathcal{H}\) 위로의 등거리변환이라고 가정하자. 그러면 (a)에 의하여 \(U^*U = I\)가 성립한다. \(y \in \mathcal{H}\)일 때, \(U\)가 \(\mathcal{H}\)를 \(\mathcal{H}\) 위로 대응시키므로, \(Ux = y\)를 만족시키는 \(x \in \mathcal{H}\)가 존재한다. 따라서 \[UU^*y = UU^*(Ux) = U(U^*U)x = UIx = Ux = y\] 이므로 \(UU^* = I\)이다. 즉 \(U\)가 유니타리연산자이다.
다음은 자주 사용되는 유니타리연산자의 성질이다.
정리 17. (유니타리연산자 집합의 성질)
\(\mathcal{H}\)가 복소힐베르트공간이고 \(\mathcal{U}\)가 \(B(\mathcal{H})\)에서 유니타리연산자의 집합이라고 하자.
- 만약 \(U \in \mathcal{U}\)이면, \(U^* \in \mathcal{U}\)이고 \(\lVert U \rVert = \lVert U^* \rVert = 1\)이다.
- 만약 \(U_1 \in \mathcal{U} ,\) \(U_2 \in \mathcal{U}\)이면, \(U_1U_2\)와 \(U_1^{-1}\)은 \(\mathcal{U}\)에 속한다.
- \(\mathcal{U}\)는 \(B(\mathcal{H})\)의 닫힌 부분집합이다.