양연산자와 직교사영

by LY4I
22 views

\(\mathcal{H}\)가 복소힐베르트공간이고 \(S \in B(\mathcal{H})\)가 자기수반연산자이면 다음 두 조건은 서로 필요충분조건이다.

  1. \(\sigma(S) \subseteq [0, \,\infty)\)
  2. 모든 \(x \in \mathcal{H}\)에 대하여 \(\langle Sx,\,x \rangle \geq 0\)이다.

이와 같은 조건을 만족시키는 연산자는 유용한 성질을 가진다. 이 글에서는 위 조건을 만족시키는 연산자의 다양한 성질을 살펴본다.

정의 1. (양연산자와 양행렬)

  1. \(\mathcal{H}\)가 복소힐베르트공간이고 \(S \in B(\mathcal{H})\)라고 하자. \(S\)가 양연산자라는 것은 \(S\)가 자기수반연산자이고, 임의의 \(x\in \mathcal{H}\)에 대하여 \(\langle Sx,\,x \rangle \geq 0\)을 만족시킴을 의미한다.
  2. \(A\)가 \(n \times n\) 자기수반행렬이라고 하자. \(A\)가 양행렬이라는 것은 임의의 \(x\in\mathbb{C}^n\)에 대하여 \(\langle Ax,\,x \rangle \geq 0\)을 만족시킴을 의미한다.

연산자가 양연산자인지 여부는 그 스펙트럼의 범위를 통해 알 수 있다. 행렬의 경우도 마찬가지이다.

보조정리 2.

  1. \(\mathcal{H}\)가 복소힐베르트공간이고 \(S \in B(\mathcal{H})\)가 자기수반연산자라고 하자. 이때 \(S\)가 양연산자이기 위한 필요충분조건은 \(\sigma(S) \subseteq [0,\, \infty)\)인 것이다.
  2. \(A\)가 \(n \times n\) 자기수반행렬이라고 하자. 이때 \(A\)가 양행렬이기 위한 필요충분조건은 \(\sigma(A) \subseteq [0,\, \infty)\)인 것이다.

행렬의 고윳값은 유한 개의 값이므로, 행렬이 양행렬인지 여부를 확인할 때는 양행렬의 정의보다 고윳값의 범위를 확인하는 것이 더 쉽다. 연산자가 양연산자인지 확인하는 예는 다음 보기를 통해 살펴보자.

보기 3.

\(\mathcal{H}\)가 복소힐베르트공간이고, \(R,\, S \in B(\mathcal{H})\)가 양연산자이며, \(T \in B(\mathcal{H})\)이고, \(\alpha\)가 양의 실수라고 하자.

  1. \(0\)과 \(I\)는 양연산자이다.
  2. \(T^*T\)는 양연산자이다.
  3. \(R + S\)와 \(\alpha S\)는 양연산자이다.

풀이

  1. \(I\)와 \(0\)은 자기수반연산자이다. 한편 \(x \in \mathcal{H}\)일 때 \[\langle Ix,\,x \rangle = \langle x,\,x \rangle \geq 0\] 이고 \[\langle 0x,\,x \rangle = \langle 0,\,x \rangle = 0\] 이므로, \(0\)과 \(I\)는 양연산자이다.
  2. \(T^*T\)는 자기수반연산자이다. 한편 \(x \in \mathcal{H}\)일 때 \[\langle T^*Tx,\,x \rangle = \langle Tx,\,Tx \rangle \geq 0\] 이므로, \(T^*T\)는 양연산자이다.
  3. \(R + S\)와 \(\alpha S\)는 자기수반연산자이다. 한편 \(x \in \mathcal{H}\)일 때 \[\langle (R + S)x,\,x \rangle = \langle Rx,\,x \rangle + \langle Sx,\,x \rangle \geq 0\] 이고 \[\langle (\alpha S)x,\,x \rangle = \alpha\langle Sx,\,x \rangle \geq 0\] 이므로, \(R + S\)와 \(\alpha S\)는 양연산자이다.

양의 실수끼리는 그 크기를 비교함으로써 순서관계를 정의할 수 있다. 양연산자의 정의를 사용하면 자기수반연산자의 순서를 정의할 수 있다.

\(\mathcal{H}\)가 복소힐베르트공간이고, \(R,\, S,\, T \in B(\mathcal{H})\)가 자기수반연산자라고 하자. 만약 \(S\)가 양연산자이면 \(S \geq 0\) 또는 \(0 \leq S\)로 표기한다. 더 일반적으로, \(T - R\)이 양연산자이면 \(T \geq R\) 또는 \(R \leq T\)로 표기한다.

실수의 순서관계와 달리, 자기수반연산자의 순서는 단지 부분순서(partial order)일 뿐이다. 즉, 영이 아닌 자기수반연산자 중에는 양연산자도 아니고 음연산자도 아닌 것이 있다. 행렬을 통해 그 예를 살펴보자.

보기 4.

\(A = \begin{bmatrix} 1 & 0 \\ 0 & -1 \end{bmatrix}\)이면 \(A\)와 \(-A\) 모두 양행렬이 아니다.

풀이

\(A\)는 \(1\)과 \(-1\)을 고윳값으로 가지는 자기수반행렬이다.
따라서 \(\sigma(A) = \{1,\, -1\}\)이며, \(A\)와 \(-A\) 중 어느 것도 양행렬이 아니다.

양연산자의 중 단순하면서도 자주 사용되는 연산자의 예로 직교사영을 들 수 있다.

정의 5. (직교사영)

\(\mathcal{H}\)가 복소힐베르트공간이라고 하자. \(\mathcal{H}\) 상의 직교사영은 다음을 만족시키는 연산자 \(P \in B(\mathcal{H})\)이다. \[P = P^* = P^2 .\]

위 정의를 다르게 표현하면, 직교사영은 유계이고 자기수반인 정사영연산자이다. 따라서 이 개념은 힐베르트공간에서만 의미가 있다. “직교사영”이라는 용어를 사용하는 이유는 보기 6과 정리 7에서 명확해질 것이다. 일반적인 정사영연산자는 노름공간이나 바나흐 공간에서 유용하지만, 힐베르트공간에서는 직교사영이 가장 유용한 정사영연산자이다. 책에 따라서는 힐베르트공간에서 “정사영연산자”가 “직교사영”을 의미하기도 한다. 그러나 이 글에서는 직교사영이라는 용어를 사용하기로 한다.

\(P\)가 직교사영이면 정의에 의해 자기수반연산자이고, 모든 \(x\in\mathcal{H}\)에 대하여 \[\langle Px,\,x \rangle = \langle P^2x,\,x \rangle = \langle Px,\,Px \rangle \geq 0\] 이 성립하므로, \(P\)는 양연산자이다.

얼핏 보기에는 힐베르트공간 \(\mathcal{H}\)에서 직교사영은 \(0\)과 \(I\)로서 두 개만 존재할 것 같다. 하지만 그 외에도 다른 것들이 있다.

보기 6.

함수 \(P: \mathbb{C}^3 \rightarrow \mathbb{C}^3\)를 임의의 \((x,\,y,\,z) \in \mathbb{C}^3\)에 대하여 \[P(x,\,y,\,z) = (x,\,y,\,0)\] 이라고 정의된 선형변환이라고 하자. 그러면 \(P\)는 직교사영이다.

풀이

\(\mathbb{C}^3\)가 유한차원 공간이므로 \(P \in B(\mathbb{C}^3)\)이고, \(P^2 = P\)이다. 또한 \[\langle P(x,\,y,\,z),\,(u,\,v,\,w) \rangle = x\overline{u} + y\overline{v} = \langle (x,\,y,\,z),\,P(u,\,v,\,w) \rangle\] 이므로 \(P\)도 자기수반연산자이다. 따라서 \(P\)는 직교사영이다.

보기 6에서 살펴본 직교사영 \(P\)의 치역은 \[\operatorname{Im} P = \{(x,\,y,\,0) \,\vert\, x,\,y \in \mathbb{C}\}\] 이다. \(P\)는 \(\mathbb{C}^3\)의 벡터들을 “수직인 아래쪽으로”, 즉 평면과 직교인 방향으로 “사영”한다.

보기 6의 직교사영 \(P\)를 행렬로 표현하면 다음과 같다. \[\begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \end{bmatrix} .\] 더 일반적으로, 대각선 성분이 \(0\) 또는 \(1\)인 임의의 \(n \times n\) 대각행렬은 \(B(\mathbb{C}^n)\)에서 직교사영의 행렬이다.

직교사영이 중요한 이유 중 하나는 힐베르트공간 \(\mathcal{H}\)의 닫힌 부분벡터공간과 \(B(\mathcal{H})\)의 직교사영 사이의 연관성이다. 다음 정리를 살펴보자.

정리 7.

\(\mathcal{H}\)가 복소힐베르트공간이라고 하자.

  1. \(\mathcal{M}\)이 \(\mathcal{H}\)의 닫힌 부분벡터공간이면 치역이 \(\mathcal{M}\)이고 핵이 \(\mathcal{M}^\perp\)이며 \(\lVert P_\mathcal{M} \rVert \leq 1\)인 직교사영 \(P_\mathcal{M} \in B(\mathcal{H})\)가 존재한다.
  2. \(Q\)가 \(B(\mathcal{H})\)의 직교사영이면 \(\operatorname{Im} Q\)는 닫힌 부분벡터공간이고 \(Q = P_{\operatorname{Im} Q}\)이다.

증명

  1. \(x \in \mathcal{H}\)이고 \(x = y + z\)가 \(x\)의 직교분해이며, \(y \in \mathcal{M}\)이고 \(z \in \mathcal{M}^\perp\)라고 하자. 이런 \(x,\) \(y,\) \(z\)에 대하여, 함수 \(P_\mathcal{M} : \mathcal{H} \to \mathcal{H}\)의 함숫값을 \(P_\mathcal{M} (x) = y\)로 정의하자. \(P_\mathcal{M}\)이 직교사영임을 보이자.
    첫 번째 단계는 \(P_\mathcal{M}\)이 선형변환임을 보이는 것이다. \(x_1,\, x_2 \in \mathcal{H}\)이라고 하고, 두 벡터가 각각 직교분해 \[x_1 = y_1 + z_1 ,\quad x_2 = y_2 + z_2\] 로 표현된다고 하자. 물론 여기서 \(y_1,\, y_2 \in \mathcal{M}\)이고 \(z_1,\, z_2 \in \mathcal{M}^\perp\)이다. \(\lambda,\, \mu \in \mathbb{C}\)라고 하자. 그러면 \(\mathcal{M}\)과 \(\mathcal{M}^\perp\)는 부분벡터공간이므로 \[\lambda y_1 + \mu y_2 \in \mathcal{M}\] 그리고 \[\lambda z_1 + \mu z_2 \in \mathcal{M}^\perp\] 이다. 따라서 직교분해의 유일성에 의해 \(\lambda x_1 + \mu x_2\)의 직교분해는 \[(\lambda y_1 + \mu y_2) + (\lambda z_1 + \mu z_2)\] 이다. 그러므로 \[P_\mathcal{M} (\lambda x_1 + \mu x_2) = \lambda y_1 + \mu y_2 = \lambda P_\mathcal{M} x_1 + \mu P_\mathcal{M} x_2\] 이며, \(P_\mathcal{M}\)은 선형변환이다.
    다음으로 \(P_\mathcal{M}\)이 연속인 자기수반연산자임을 보이자. \[\lVert P_\mathcal{M} x \rVert^2 = \lVert y \rVert^2 \leq \lVert x \rVert^2\] 이므로 \(P_\mathcal{M}\)은 유계이고 \(\lVert P_\mathcal{M} \rVert \leq 1\)이다. 또한, \(z_2 \in \mathcal{M}^\perp\)이고 \(y_1 \in \mathcal{M}\)이므로 \[\langle P_\mathcal{M} x_1,\,x_2 \rangle = \langle y_1,\,y_2 + z_2 \rangle = \langle y_1,\,y_2 \rangle\] 이다. 그리고, \(z_1 \in \mathcal{M}^\perp\)이고 \(y_2 \in \mathcal{M}\)이므로 \[\langle x_1,\,P_\mathcal{M} x_2 \rangle = \langle y_1 + z_1,\,y_2 \rangle = \langle y_1,\,y_2 \rangle\] 이다. 따라서 \[\langle P_\mathcal{M} x_1,\,x_2 \rangle = \langle x_1,\,P_\mathcal{M} x_2 \rangle\] 이므로 \(P_\mathcal{M}\)은 자기수반연산자이다.
    마지막으로 \(P_\mathcal{M}\)이 치역 \(\mathcal{M}\)과 핵 \(\mathcal{M}^\perp\)를 가지는 직교사영임을 밝히자. \(w \in \mathcal{M}\)이면, \(w\)의 직교분해는 \(w = w + 0\)이므로 \(P_\mathcal{M} w = w\)이다. 따라서 \(\mathcal{M} \subseteq \operatorname{Im} P_\mathcal{M}\)이다. 한편 \(P_\mathcal{M}\)의 정의에 의해 \(\operatorname{Im} P_\mathcal{M} \subseteq \mathcal{M}\)이다. 그러므로 \(\operatorname{Im} P_\mathcal{M} = \mathcal{M}\)이다. 또한, 임의의 \(x \in \mathcal{H}\)에 대하여 \[(P_\mathcal{M})^2(x) = P_\mathcal{M} (P_\mathcal{M} x) = P_\mathcal{M} y = y = P_\mathcal{M} (x)\] 이므로 \((P_\mathcal{M})^2 = P_\mathcal{M}\)이다. 따라서 \(P_\mathcal{M}\)은 직교사영이다. 또한 \[\operatorname{ker} P_\mathcal{M} = (\operatorname{Im} P_\mathcal{M} ^*)^\perp = (\operatorname{Im} P_\mathcal{M} )^\perp = \mathcal{M}^\perp\] 이다.
  2. \(L = \operatorname{Im} Q\)라고 하자. \(Q\)가 선형변환이므로, \(L\)은 부분벡터공간이다. \(L\)이 닫혀 있음을 보이기 위해 \(L\)에서 \(y \in \mathcal{H}\)로 수렴하는 수열 \(\{y_n\}\)이 주어졌다고 하자. \(y_n \in \operatorname{Im} Q\)이므로 각 \(n \in \mathbb{N}\)에 대하여 \(y_n = Q(x_n)\)인 \(x_n \in \mathcal{H}\)가 존재한다. 따라서 \[ \begin{aligned} y &= \lim_{n\to\infty} Qx_n \\[6pt] &= \lim_{n\to\infty} Q^2 x_n \quad (\because \,\, Q^2 = Q) \\[6pt] &= Q\left(\lim_{n\to\infty} Qx_n\right) \quad (\because \,\, Q \text{ is continuous .}) \\[6pt] &= Qy \in \operatorname{Im} Q \end{aligned} \] 이다. 즉 \(L\)은 닫혀 있다.
    \(v \in L\)이면 \(v = Qx\)를 만족하는 적당한 \(x \in \mathcal{H}\)가 존재하므로 \[Qv = Q^2 x = Qx = v\]가 되어 \(Q^2 = Q\)이다. \(w \in L^\perp\)이면 \(Q\)가 자기수반연산자이고 \(Q^2 w \in L\)이므로 \[\lVert Qw \rVert^2 = \langle Qw,\,Qw \rangle = \langle w,\,Q^2 w \rangle = 0\] 이다. 따라서 \(Qw = 0\)이다. 그러므로 \(x \in \mathcal{H}\)이고 \(x = v + w\)가 \(v \in L\)이고 \(w \in L^\perp\)인 직교분해라면, \(x = Qv + w\)이므로 \[P_L x = Qv = Qx\] 이다. 왜냐하면 \(Qw = 0\)이기 때문이다. 따라서 \(Q = P_{\operatorname{Im} Q}\)이다.

정리 7에서 직교사영이 어떻게 구성되는지 강조하기 위한 표기법을 도입하자. \(\mathcal{H}\)가 복소힐베르트공간이고 \(\mathcal{M}\)이 \(\mathcal{H}\)의 닫힌 부분벡터공간이라고 하자. 정리 7에서 구성된 치역 \(\mathcal{M}\)과 핵 \(\mathcal{M}^\perp\)를 가지는 직교사영 \(P_\mathcal{M} \in B(\mathcal{H})\)를 “\(\mathcal{H}\)를 \(\mathcal{M}\) 위로 사영하는 직교사영”이라고 부른다.

보기 6에서 살펴봤던 직교사영 \(P\)는 부분공간 \(\{(x,\,y,\,0) \,\vert\, x,\,y \in \mathbb{C}\}\) 위로의 직교사영이다.

정리 7의 증명에서, \(\mathcal{H}\)가 복소힐베르트공간이고, \(\mathcal{M}\)이 \(\mathcal{H}\)의 닫힌 부분벡터공간이며, \(P_\mathcal{M}\)이 \(\mathcal{H}\)를 \(\mathcal{M}\) 위로 사영하는 직교사영이면, 모든 \(y \in \mathcal{M}\)에 대하여 \(P_\mathcal{M} y = y\)이고 모든 \(z \in \mathcal{M}^\perp\)에 대하여 \(P_\mathcal{M} z = 0\)임을 보였다.

보조정리 8.

\(\mathcal{H}\)가 복소힐베르트공간이고 \(\mathcal{M}\)이 \(\mathcal{H}\)의 닫힌 부분벡터공간이며 \(P\)가 \(\mathcal{H}\)를 \(\mathcal{M}\) 위로 사영하는 직교사영이라고 하자. 그러면 \(I - P\)는 \(\mathcal{H}\)를 \(\mathcal{M}^\perp\) 위로 사영하는 직교사영이다.

증명

\(I\)와 \(P\)가 자기수반연산자이므로 \(I - P\)도 자기수반연산자이다. 또한, \(P^2 = P\)이므로 \[(I - P)^2 = I - 2P + P^2 = I - 2P + P = I - P\] 이며, \(I - P\)는 직교사영이다. \(x \in \mathcal{H}\)이고 \(x = y + z\)가 직교분해이며, \(y \in \mathcal{M}\)이고 \(z \in \mathcal{M}^\perp\)일 때, \(P(x) = y\)이므로 \[(I - P)(x) = x - y = z\]이다. 따라서 정리 7에 의해 \(I - P\)는 \(\mathcal{H}\)를 \(\mathcal{M}^\perp\) 위로 사영하는 직교사영이다.

\(P\)가 보기 6에서 살펴본 직교사영일 때, 연산자 \(I - P\)는 \[(I - P)(x,\,y,\,z) = (0,\,0,\,z)\] 로 주어지며 부분공간 \(\{(0,\,0,\,z) \,\vert\, z \in \mathbb{C}\}\) 위로의 직교사영이다.

만약 닫힌 부분벡터공간 \(\mathcal{M}\)이 정규직교기저를 가지면, 이 정규직교기저를 사용하여 \(\mathcal{M}\) 위로의 직교사영을 표현할 수 있다. 이 공식은 다음과 같다.

따름정리 9.

\(\mathcal{H}\)가 복소힐베르트공간이고 \(\mathcal{M}\)이 \(\mathcal{H}\)의 닫힌 선형 부분공간이며, \(\{e_n\}_{n=1}^J\)가 \(\mathcal{M}\)의 정규직교기저라고 하자. (여기서 \(J\)는 양의 정수이거나 \(\infty\)이다.) 만약 \(P\)가 \(\mathcal{H}\)를 \(\mathcal{M}\) 위로 사영하는 직교사영이면, 임의의 \(x\in \mathcal{H}\)에 대하여 \[Px = \sum_{n=1}^J \langle x,\,e_n \rangle e_n\] 이다.

직교사영의 정의에 의하여 \(P\)가 직교사영이면 \(P = P^2\)이 성립한다. 만약 다른 임의의 양연산자 \(T\)가 적당한 힐베르트공간에 정의되어 있다면, \(T\)의 제곱근이 존재하는지, 즉 \(R^2 = T\)를 만족시키는 연산자 \(R\)이 같은 공간에 존재하는지에 대한 의문이 생긴다.

정의 10. (연산자와 행렬의 제곱근)

  1. \(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)이라고 하자. \(T\)의 제곱근은 \(R^2 = T\)를 만족시키는 연산자 \(R \in B(\mathcal{H})\)를 뜻한다.
  2. \(A\)가 \(n \times n\) 행렬이라고 하자. \(A\)의 제곱근은 \(B^2 = A\)를 만족하는 행렬 \(B\)를 뜻한다.

보기 11.

\(\lambda_1,\, \lambda_2\)가 양의 실수이고 \[A = \begin{bmatrix} \lambda_1 & 0 \\ 0 & \lambda_2 \end{bmatrix}, \,\,\, B = \begin{bmatrix} \sqrt{\lambda_1} & 0 \\ 0 & \sqrt{\lambda_2} \end{bmatrix}\]라고 하자. 그러면 \(B^2 = A\)이므로 \(B\)는 \(A\)의 제곱근이다.

모든 복소수가 제곱근을 가지므로, 모든 복소행렬도 제곱근을 가질 것이라고 추측할 수 있다. 그러나 이것은 사실이 아니다.

보기 12.

행렬 \(A\)가 \[A = \begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix}\] 이라면, \(B^2 = A\)를 만족시키는 \(2 \times 2\) 행렬 \(B\)는 존재하지 않는다.

풀이

\(B\)가 \[B = \begin{bmatrix} a & b \\ c & d \end{bmatrix}\]인 행렬이고, \(B^2 = A\)를 만족시킨다고 가정하자. 그러면 행렬의 성분을 비교하여 다음을 얻는다. \[\begin{gathered} a^2 + bc = 0, \\[6pt] b(a + d) = 1, \\[6pt] c(a + d) = 0, \\[6pt] d^2 + bc = 0 . \end{gathered}\] \(b(a + d) = 1\)이고 \(c(a + d) = 0\)이므로 \(c = 0\)임을 알 수 있다. 그러면 \(a^2 = d^2 = 0\)이므로, \(a = d = 0\)인데 이는 \(b(a + d) = 1\)과 모순이다. 따라서 그러한 행렬 \(B\)는 존재하지 않는다.

모든 복소행렬이 제곱근을 갖는 것은 아니지만, 행렬이 양행렬인 경우에는 다른 결과를 얻을 수 있다. 다음 보조정리를 살펴보자.

보조정리 13.

\(\mathcal{H}\)가 복소힐베르트공간이고, \(\mathcal{S}\)가 \(B(\mathcal{H})\)의 모든 자기수반연산자들로 이루어진 실바나흐 공간이라고 하자. \(S \in \mathcal{S}\)라면 다음을 만족시키는 \(\Phi \in B(C_\mathbb{R}(\sigma(S)), \mathcal{S})\)가 존재한다.

  1. \(p\)가 \(C_\mathbb{R}(\sigma(S))\)의 다항식일 때마다 \(\Phi(p) = p(S)\)이다.
  2. 임의의 \(f,\, g \in C_\mathbb{R}(\sigma(S))\)에 대하여 \(\Phi(fg) = \Phi(f)\Phi(g)\)이다.

증명

\(P\)를 모든 다항식으로 구성된 \(C_\mathbb{R}(\sigma(S))\)의 부분벡터공간이라고 하자. \(\phi: P \to S\)를 \(\phi(p) = p(S)\)로 정의하자. 그러면 임의의 \(p\in P\)에 대하여 \(\phi(pq) = \phi(p)\phi(q)\)가 성립하며, \(p\)는 선형변환이다. 또한 \[ \begin{aligned} \lVert \phi(p) \rVert &= \lVert p(S) \rVert \\[6pt] &= r_\sigma(p(S)) \quad (\because \,\, p(S) \text{ is self-adjoint.}) \\[6pt] &= \sup\{|\mu| \,\vert\, \mu \in \sigma(p(S))\} \\[6pt] &= \sup\{|p(\lambda)| \,\vert\, \lambda \in \sigma(S)\} \\[6pt] &= \lVert p \rVert \end{aligned} \] 이다. 따라서 \(\phi\)는 등거리변환이다. \(S\)는 실바나흐 공간이고 \(P\)는 \(C_\mathbb{R}(\sigma(S))\)에서 조밀하므로, \(\Phi(p) = \phi(p)\)인 \(\Phi \in B(C_\mathbb{R}(\sigma(S)), \mathcal{S})\)가 존재한다. 더욱이 임의의 \(p\in P\)에 대하여 \(\phi(pq) = \phi(p)\phi(q)\)가 성립하므로, \(P\)가 \(C_\mathbb{R}(\sigma(S))\)에서 조밀하다는 사실과 \(\Phi\)의 연속성에 의하여, 임의의 \(f, g \in C_\mathbb{R}(\sigma(S))\)에 대하여 \(\Phi(fg) = \Phi(f)\Phi(g)\)가 성립한다.

위 정리의 \(\mathcal{H}, \) \(\mathcal{S} ,\) \(S ,\) \(\Phi\)와 임의의 \(f \in C_\mathbb{R}(\sigma(S))\)에 대하여 \(\Phi(f)\)를 \(f(S)\)로 표기한다.

위 보조정리는 자기수반연산자 \(S\)의 “함수”를 구성할 수 있게 해준다. 이전 글에서 \(p\)가 다항식일 때 집합 \(p(S)\)를 정의하였다. 보조정리 13은 이와 같은 정의를 \(f \in C_\mathbb{R}(\sigma(S))\)일 때 \(f(S)\)로 확장한다. 이제 \(\sigma(S) \subseteq [0, \infty)\)이고 \(g: \sigma(S) \to \mathbb{R}\)이 \(g(x) = x^{1/2}\)으로 정의된다고 하자. 그러면 \(g \in C_\mathbb{R}(\sigma(S))\)이므로 \(g(S)\)가 정의된다. 즉 이와 같은 표기법은 \(g(S)\)가 \(S\)의 제곱근임을 의미한다. 실제로 다음 정리를 통해 이것이 사실임을 증명하자.

정리 14.

\(\mathcal{H}\)가 복소힐베르트공간이고, \(\mathcal{S}\)가 \(B(\mathcal{H})\)의 모든 자기수반연산자의 바나흐 공간이며, \(S \in \mathcal{S}\)가 양연산자라고 하자.

  1. \(S\)의 양연산자 제곱근 \(R\)이 존재하며, 이는 \(S\)의 다항식 수열의 극한이다.
  2. \(Q\)가 \(S\)의 임의의 양연산자 제곱근이라면 \(R = Q\)이다.

증명

  1. \(P\)를 \(C_\mathbb{R}(\sigma(S))\)의 모든 다항식으로 이루어진 부분벡터공간이라고 하자. \(S\)가 양연산자이므로, \(\sigma(S) \subseteq [0,\, \infty)\)이다. 따라서 \(f: \sigma(S) \to \mathbb{R}\)과 \(g: \sigma(S) \to \mathbb{R}\) 그리고 \(j: \sigma(S) \to \mathbb{R}\)을 다음과 같이 정의하자. \[f(x) = x^{1/4},\,\, g(x) = x^{1/2},\,\, j(x) = x .\] 이 함수들은 모두 \(C_\mathbb{R}(\sigma(S))\)에 속한다. \(R = g(S)\)이고 \(T = f(S)\)라고 하면 \(R\)과 \(T\)는 자기수반연산자이다. \(P\)는 \(C_\mathbb{R}(\sigma(S))\)에서 조밀하다. 특히 \(g\)는 다항식의 수열의 극한이므로, \(R\)은 \(S\)의 다항식 수열의 극한이다. 또한 보조정리 13에 의해 \[R^2 = (g(S))^2 = g^2(S) = j(S) = S\] 이므로 \(R\)은 \(S\)의 제곱근이고 \[T^2 = (f(S))^2 = f^2(S) = g(S) = R\] 이므로 \(R\)은 양연산자이다.
  2. \(Q\)가 양연산자이므로, (a)에 의해 \(Q\)는 양연산자 제곱근 \(P\)를 가진다. \(x \in \mathcal{H}\)이고 \(y = (R - Q)x\)라고 하자. \(R^2 = Q^2 = S\)이므로 \[ \begin{aligned} \lVert T y \rVert^2 + \lVert P y \rVert^2 &= \langle T^2y,\,y \rangle + \langle P^2y,\,y \rangle \\[6pt] &= \langle (R + Q)y,\,y \rangle \\[6pt] &= \langle (R + Q)(R - Q)x,\,y \rangle \\[6pt] &= \langle (R^2 - Q^2)x,\,y \rangle \\[6pt] &= 0 \end{aligned} \] 이다. 따라서 \(Ty = Py = 0\)이고 그래서 \(T^2y = P^2y = 0\)이다. 그러므로 \(Ry = Qy = 0\)이고 \[\lVert (R - Q)x \rVert^2 = \langle (R - Q)^2x,\,x \rangle = \langle (R - Q)y,\,x \rangle = 0\] 이다. 따라서 \(R = Q\)이다.

\(\mathcal{H}\)가 복소힐베르트공간이고 \(S \in B(\mathcal{H})\)가 양연산자라고 하자. 정리 14에서 구성한 \(S\)의 유일한 양연산자 제곱근을 \(S^{1/2}\)으로 표기한다. 행렬의 경우에도 마찬가지로, 양행렬 \(A\)의 유일한 양행렬 제곱근을 \(A^{1/2}\)으로 표기한다.

보기 11에서 \(2 \times 2\) 대각행렬의 제곱근을 찾는 방법을 살펴보았는데, 임의의 \(n \times n\) 대각행렬에 대하여 같은 방법을 사용할 수 있다. 따라서 \(P\)가 임의의 양행렬이고 \(U\)가 유니타리 행렬이며 \(D=U^*PU\)가 대각행렬이라면, \(P^{1/2} = UD^{1/2}U^*\)이다.

제곱근을 계산하는 다른 방법이 있다. 이것은 제곱근을 구성하는 것에 더 가깝다. 서로 다른 고윳값을 가지는 \(2 \times 2\) 양행렬의 경우 이 방법을 살펴보자. \(A\)가 서로 다른 고윳값 \(\lambda_1\)과 \(\lambda_2\)를 가진 양행렬이라고 하고, 함수 \(p\)를 다음과 같이 정의하자. \[p(x) = \frac{x + \sqrt{\lambda_1\lambda_2}}{\sqrt{\lambda_1} + \sqrt{\lambda_2}} .\] 그러면 \(p\)는 \(p(\lambda_1) = \sqrt{\lambda_1}\)과 \(p(\lambda_2) = \sqrt{\lambda_2}\)를 만족시키는 일차함수이다. 따라서 모든 \(x \in \sigma(S)\)에 대하여 \(p(x) = \sqrt{x}\)가 성립한다. 이때 \(p(A)^2\)을 계산하면 \(A^{1/2} = p(A)\)라는 사실을 확인할 수 있다. 즉, 케일리-해밀턴 정리에 의하여 \[A^2 = (\lambda_1 + \lambda_2)A - (\lambda_1\lambda_2)I\] 이므로 \((p(A))^2\)은 다음과 같다. \[ \begin{aligned} (p(A))^2 &= \left(\frac{A + \sqrt{\lambda_1\lambda_2}I}{(\sqrt{\lambda_1} + \sqrt{\lambda_2})}\right)^2 \\[6pt] &= \frac{A^2 + 2\sqrt{\lambda_1\lambda_2}A + \lambda_1\lambda_2 I}{(\sqrt{\lambda_1} + \sqrt{\lambda_2})^2} = A. \end{aligned} \] 이제 힐베르트공간에서 정의된 연산자와 복소수 사이의 유사성을 보여주는 정리를 살펴보자. \(z \in \mathbb{C}\)가 가역이면 \(z\)의 절댓값 \((z\overline{z})^{1/2}\)은 양수이고 \(|z((z\overline{z})^{1/2})^{-1}| = 1\)이므로 \(z((z\overline{z})^{1/2})^{-1} = e^{i\theta}\)이며, \(\theta \in \mathbb{R}\)이고 \(-\pi < \theta \leq \pi\)이다. 복소수 \(z\)의 극형식은 \(e^{i\theta}(z\overline{z})^{1/2}\)이다. 힐베르트공간에서 가역인 연산자에 대해서도 비슷한 분해를 구할 수 있다. 단, 이 경우 인수는 유니타리 연산자와 양연산자이다.

정리 15.

\(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)가 가역인 연산자라고 하자. 그러면 유니타리 연산자 \(U\)와 양연산자 \(R\)이 존재하여 \(T = UR\)이다.

증명

\(T\)가 가역이므로 \(T^*\)와 \(T^*T\)도 가역이다. 이제, \(T^*T\)는 보기 3에 의해 양연산자이므로 정리 14에 의해 \(T^*T\)는 양연산자 제곱근 \(R = (T^*T)^{1/2}\)을 가진다. \(T^*T\)가 가역이므로 \(R\)도 가역이다. \(U = TR^{-1}\)라고 하자. 그러면 \(U\)는 가역이고, \(U\)의 치역은 \(\mathcal{H}\)이다. 또한 \[U^*U = (R^{-1})^*T^*TR^{-1} = R^{-1}R^2R^{-1} = I\] 이므로 \(U\)는 유니타리 연산자이다.

\(\mathcal{H}\)가 복소힐베르트공간이고 \(T \in B(\mathcal{H})\)가 가역인 연산자라고 하자. 정리 15에서 주어진 \(T\)의 분해 \(T = UR\)를 \(T\)의 극분해라고 부른다.

행렬에 대해서도 마찬가지로 정의한다. \(A\)가 가역인 행렬일 때, \(A\)를 연산자로 간주하여 위 정리에 해당하는 분해 \(A = BC\)를 얻는다. 물론 여기서 \(B\)는 유니타리 행렬이고 \(C\)는 양행렬이다. 이와 같은 분해를 \(A\)의 극분해라고 부른다.