컴팩트 연산자

by LY4I
13 views

컴팩트연산자는 유한차원 선형대수학에서 살펴본 선형변환의 많은 성질을 무한차원에서도 유지하고 있는 유용한 연산자이다. 이 글에서는 컴팩트연산자의 개념과 그 성질을 살펴본다. 별다른 언급이 없으면, 이 글에서 벡터공간은 복소체 위에서 정의된 것으로 약속한다.

정의 1. (컴팩트연산자)

\(X\)와 \(Y\)를 노름공간이라고 하자. 선형변환 \(T \in L(X,\, Y)\)가 컴팩트연산자라는 것은, \(X\)에서 임의의 유계수열 \(\{x_n\}\)에 대해, \(Y\)에서의 수열 \(\{Tx_n\}\)이 수렴하는 부분수열을 포함하는 것을 뜻한다. \(L(X,\, Y)\)에서 컴팩트변환의 집합을 \(K(X,\, Y)\)로 표기한다.

다음 두 정리를 통해 \(K(X,\,Y)\)가 \(B(X,\,Y)\)의 부분벡터공간임을 밝힌다. 이를 통해 \(B(X,\,Y)\)에서 성립하는 유용한 정리를 \(K(X,\,Y)\)에서도 사용할 수 있다.

정리 2. (컴팩트연산자는 연속이다)

\(X\)와 \(Y\)를 노름공간이라고 하고 \(T \in K(X,\, Y)\)라고 하자. 그러면 \(T\)는 연속이다. 즉 \(K(X,\, Y) \subset B(X,\, Y)\)이다.

증명

\(T\)가 연속이 아니라고 가정하자. 그러면 각 정수 \(n \geq 1\)에 대해, \(\|Tx_n\| \geq n\)인 단위벡터 \(x_n\)이 존재한다. 수열 \(\{x_n\}\)이 유계이므로 \(T\)의 컴팩트성에 의해 수렴하는 부분수열 \(\{Tx_{n(r)}\}\)이 존재한다. 그러나 이는 \(\|Tx_{n(r)}\| \geq n(r)\)이라는 조건에 모순이다. 따라서 \(T\)는 연속이다.

이어서 컴팩트연산자의 대수적 성질을 살펴보자.

정리 3. (컴팩트연산자의 대수적 성질)

\(X\), \(Y\), \(Z\)가 노름공간이라고 하자.

  1. \(S\), \(T \in K(X,\, Y)\)이고 \(\alpha\), \(\beta \in \mathbb{C}\)이면 \(\alpha S + \beta T\)는 컴팩트연산자이다. 따라서 \(K(X,\, Y)\)는 \(B(X,\, Y)\)의 부분벡터공간이다.
  2. \(S \in B(X,\, Y)\), \(T \in B(Y, Z)\)이고 연산자 \(S\), \(T\) 중 적어도 하나가 컴팩트연산자이면, \(TS \in B(X, Z)\)는 컴팩트연산자이다.

증명

  1. \(X\)에서 유계수열 \(\{x_n\}\)이 주어졌다고 하자. \(S\)가 컴팩트연산자이므로 \(\{Sx_{n(r)}\}\)의 수렴하는 부분수열 \(\{x_{n(r)}\}\)이 존재한다. 마찬가지로 \(\{x_{n(r)}\}\)이 유계이고 \(T\)가 컴팩트연산자이므로 \(\{Tx_{n(r(s))}\}\)의 수렴하는 \(\{x_{n(r)}\}\)의 부분수열 \(\{x_{n(r(s))}\}\)가 존재한다. 따라서 수열 \(\{\alpha Sx_{n(r(s))} + \beta Tx_{n(r(s))}\}\)는 수렴한다. 그러므로 \(\alpha S + \beta T\)는 컴팩트연산자이다.
  2. \(X\)에서 유계수열 \(\{x_n\}\)이 주어졌다고 하자. \(S\)가 컴팩트연산자이면 수렴하는 부분수열 \(\{Sx_{n(r)}\}\)이 존재한다. \(T\)가 연속이므로 수열 \(\{TSx_{n(r)}\}\)이 수렴한다. 따라서 \(TS\)는 컴팩트연산자이다.
    \(S\)가 연속이지만 컴팩트가 아닌 경우를 살펴보자. 수열 \(\{Sx_n\}\)이 유계이이고 \(T\)가 컴팩트연산자이므로, 수렴하는 부분수열 \(\{TSx_{n(r)}\}\)이 존재한다. 그러므로 \(TS\)는 컴팩트연산자이다.

컴팩트연산자의 정의와 위 정리의 증명 과정에서 보듯이 컴팩트연산자를 다룰 때는 반복하여 수열 \(\{x_n\}\)의 부분수열 \(\{x_{n(r)}\}\)과 그 수열의 부분수열 \(\{x_{n(r(s))}\}\)을 살펴보게 된다. 표기를 단순화하기 위하여 부분수열을 본래 수열과 마찬가지로 \(\{x_n\}\)으로 표기하기도 한다. 그러나 원래 수열이 가진 특성 속성이 증명 과정에서 필요한 경우에는 부분수열과 원래 수열을 구분하여 표기한다. (예를 들어 정규직교기저 \(\{e_n\}\)으로 시작하는 경우에는 자기 자신이 아닌 부분수열은 기저가 아닌 수열이 된다.)

다음 정리는 유한차원 공간의 모든 선형연산자가 컴팩트연산자라는 사실을 설명한다.

정리 4. (유한랭크 연산자와 컴팩트연산자)

\(X\), \(Y\)가 노름공간이고 \(T \in B(X,\, Y)\)라고 하자.

  1. \(T\)가 유한랭크를 가지면 \(T\)는 컴팩트연산자이다.
  2. \(X\) 또는 \(Y\)의 차원이 유한이면 \(T\)는 컴팩트연산자이다.

증명

  1. \(T\)가 유한랭크를 가지므로, 공간 \(Z = \operatorname{Im} T\)는 유한차원 노름공간이다. 또한, \(X\)에서 임의의 유계수열 \(\{x_n\}\)에 대하여, 수열 \(\{Tx_n\}\)은 \(Z\)에서 유계이므로, 볼자노-바이어슈트라스 정리에 의해 이 수열은 수렴하는 부분수열을 포함해야 한다. 따라서 \(T\)는 컴팩트연산자이다.
  2. \(X\)의 차원이 유한이면 \(r(T) \leq \text{dim } X\)이므로 \(r(T)\)는 유한이다. \(Y\)의 차원이 유한이면 \(\operatorname{Im} T \subset Y\)의 차원도 유한이어야 한다. 따라서 두 경우 모두 (a)에 의하여 바라는 결론을 얻는다.

다음 정리와 그 따름정리는 무한차원 공간에서 컴팩트가 아닌 연산자가 있음을 보여준다. 실제로 컴팩트성은 연속성보다 훨씬 더 강한 성질이다.

정리 5. (무한차원 항등연산자는 컴팩트가 아니다)

\(X\)가 무한차원 노름공간이면 \(X\) 위에서 정의된 항등연산자 \(I\)는 컴팩트가 아니다.

증명

\(X\)는 무한차원 노름공간이므로 수렴하는 부분수열을 갖지 않는 단위벡터의 수열 \(\{x_n\}\)이 \(X\)에 존재한다. 이때 수열 \(\{Ix_n\} = \{x_n\}\)은 수렴하는 부분수열을 갖지 않으므로, 연산자 \(I\)는 컴팩트가 아니다.

따름정리 6. (무한차원 컴팩트연산자는 가역이 아니다)

\(X\)가 무한차원 노름공간이고 \(T \in K(X)\)이면 \(T\)는 가역이 아니다.

증명

\(T\)가 가역이라고 가정하자. 그러면 정리 3에 의해, \(X\) 위에서 정의된 항등연산자 \(I = T^{-1}T\)는 컴팩트연산자여야 한다. 그러나 \(X\)가 무한차원이므로 이는 정리 5에 모순이다.

이제 연산자의 컴팩트성과 치역의 특성 사이의 관계를 살펴보자.

정리 7. (컴팩트연산자의 치역)

\(X\), \(Y\)를 노름공간이고 \(T \in L(X,\, Y)\)라 하자.

  1. \(T\)가 컴팩트연산자이기 위한 필요충분조건은 \(X\)의 임의의 유계부분집합 \(A\)에 대하여 집합 \(T(A) \subset Y\)가 상대적으로 컴팩트인 것이다.
  2. \(T\)가 컴팩트연산자이면 \(\operatorname{Im} T\)와 \(\overline{\operatorname{Im} T}\)는 가분이다.

증명

  1. \(T\)가 컴팩트연산자라고 가정하자. \(A \subset X\)가 유계이고 \(\{y_n\}\)이 \(T(A)\)에서의 임의의 수열이라고 하자. 그러면 각 \(n \in \mathbb{N}\)에 대하여 \[\|y_n - Tx_n\| < \frac{1}{n}\] 인 \(x_n \in A\)가 존재한다. 이때 \(A\)가 유계이므로 수열 \(\{x_n\}\)은 유계이다. 따라서 \(T\)의 컴팩트성에 의하여, 수열 \(\{Tx_n\}\)은 수렴하는 부분수열을 포함하고, \(\{y_n\}\)은 \(T(A)\)의 점에 수렴하는 부분수열을 포함한다. \(\{y_n\}\)이 유계인 임의의 수열이므로 \(T(A)\)가 컴팩트이다.
    \(X\)의 임의의 유계부분집합 \(A\)에 대해 \(T(A) \subset Y\)가 상대적으로 컴팩트라고 가정하자. 그러면 \(X\)에서의 임의의 유계수열 \(\{x_n\}\)에 대해 수열 \(\{Tx_n\}\)은 컴팩트 집합에 속하므로 수렴하는 부분수열을 포함한다. 따라서 \(T\)는 컴팩트연산자이다.
  2. 임의의 \(r \in \mathbb{N}\)에 대해, \(R_r = T(B_r(0)) \subset Y\)를 열린공 \(B_r(0) \subset X\)의 상이라고 하자. \(T\)가 컴팩트연산자이므로 집합 \(R_r\)은 상대적으로 컴팩트인 집합이며 가분이다. 또한 \(\operatorname{Im} T\)는 가산합집합 \[\bigcup_{r=1}^{\infty} R_r\]과 같으므로 가분이다. 마지막으로, \(\operatorname{Im} T\)의 부분집합이 \(\operatorname{Im} T\)에서 조밀하면 \(\overline{\operatorname{Im} T}\)에서도 조밀하므로, \(\overline{\operatorname{Im} T}\)는 가분이다.

위 정리의 (b)에 의하면, \(T\)가 컴팩트연산자일 때 \(X\)가 “큰” 집합이더라도(가분이 아니더라도) \(T\)의 치역은 “작다”(가분이다). 컴팩트연산자가 유한차원에서 정의된 연산자와 유사한 성질을 갖는 것은 이 때문이다.

이제 주어진 연산자가 컴팩트연산자임을 증명하는 방법을 살펴보자. 다음 정리는 \(B(X,\, Y)\)에서 컴팩트연산자로 이루어진 수열의 극한이 컴팩트연산자라는 것을 보여준다.

정리 8. (컴팩트연산자열의 극한)

\(X\)가 노름공간이고 \(Y\)가 바나흐공간이며 \(\{T_k\}\)가 연산자 \(T \in B(X,\, Y)\)로 수렴하는 \(K(X,\, Y)\)의 수열이라고 하자. 그러면 \(T\)는 컴팩트연산자이다. 즉 \(K(X,\, Y)\)는 \(B(X,\, Y)\)에서 닫혀 있다.

증명

\(X\)에서 유계수열 \(\{x_n\}\)이 주어졌다고 하자. 컴팩트연산자의 정의에 의하여 \(\{T_1x_{n(1,r)}\}\)이 수렴하도록 하는 \(\{x_n\}\)의 부분수열 \(\{x_{n(1,r)}\}\)이 존재한다. 마찬가지로 \(\{T_2x_{n(2,r)}\}\)이 수렴하도록 하는 \(\{x_{n(1,r)}\}\)의 부분수열 \(\{x_{n(2,r)}\}\)가 존재한다. 또한 \(\{T_1x_{n(2,r)}\}\)은 \(\{T_1x_{n(1,r)}\}\)의 부분수열이므로 수렴한다.

이 과정을 귀납적으로 반복하면, 각 \(j \in \mathbb{N}\)에 대해 다음 성질을 가진 부분수열 \(\{x_{n(j,r)}\}\)이 존재함을 알 수 있다. “임의의 \(k \leq j\)에 대하여 수열 \(\{T_kx_{n(j,r)}\}\)은 \(r \to \infty\)일 때 수렴한다.” \(n(r) = n(r,\, r)\)이라고 하면, 각 \(k \in \mathbb{N}\)에 대하여, \(r \to \infty\)일 때 수렴하는 \(\{T_kx_{n(r)}\}\)의 부분수열 \(\{x_{n(r)}\}\)을 얻는다.

이제 수열 \(\{Tx_{n(r)}\}\)이 수렴함을 보이자. \(Y\)가 바나흐공간이므로 \(\{Tx_{n(r)}\}\)이 코시 수열임을 보이면 충분하다.

\(\varepsilon > 0\)이 주어졌다고 하자. 부분수열 \(\{x_{n(r)}\}\)은 유계이므로 모든 \(r \in \mathbb{N}\)에 대해 \(\|x_{n(r)}\| \leq M\)인 \(M > 0\)이 존재한다. 또한, \(\|T_k - T\| \to 0\)이므로, \(\|T_K - T\| < \varepsilon/3M\)인 정수 \(K \geq 1\)이 존재한다. 다음으로 \(\{T_Kx_{n(r)}\}\)이 수렴하므로 \(r,\) \(s \geq R\)이면 \[\|T_Kx_{n(r)} - T_Kx_{n(s)}\| < \frac{\varepsilon}{3}\] 인 정수 \(R \geq 1\)이 존재한다. 그러면 \(r\), \(s \geq R\)에 대해 다음이 성립한다. \[\begin{aligned} \|Tx_{n(r)} & - Tx_{n(s)}\| \\[6pt] & \leq \|Tx_{n(r)} - T_Kx_{n(r)}\| + \|T_Kx_{n(r)} - T_Kx_{n(s)}\| + \|T_Kx_{n(s)} - Tx_{n(s)}\| < \varepsilon \end{aligned}\] 그러므로 \(\{Tx_{n(r)}\}\)은 코시수열이다.

따름정리 9. (유한랭크 연산자수열의 극한)

\(X\)가 노름공간이고 \(Y\)가 바나흐공간이며 \(\{T_k\}\)가 \(T \in B(X,\, Y)\)로 수렴하는 유한랭크를 가진 연속연산자의 수열이라면, \(T\)는 컴팩트연산자이다.

이제 주어진 연산자 \(T\)에 수렴하는 유한랭크 연산자의 수열을 구성하는 방법을 예를 통해 살펴보자. 이 과정은 연산자가 컴팩트연산자라는 것을 증명하는 가장 일반적인 방법 중 하나이다.

보기 10.

\(T\{a_n\} = \{n^{-1}a_n\}\)로 정의된 연산자 \(T \in B(\ell^2)\)는 컴팩트연산자이다

풀이

우선 \(T \in B(\ell^2)\)라는 사실을 알고 있다. 이제 각 \(k \in \mathbb{N}\)에 대해 연산자 \(T_k \in B(\ell^2)\)를 다음과 같이 정의하자. \[T_k\{a_n\} = \{b^k_n\}.\] 여기서 \[b^k_n = \begin{cases} n^{-1}a_n &\quad (\text{if } n \leq k) \\[6pt] 0 &\quad (\text{if } n > k) \end{cases}\] 이다. 연산자 \(T_k\)는 연속이고 선형이며 유한랭크를 가진다. 또한, 임의의 \(a \in \ell^2\)에 대하여 \[\|(T_k - T)a\|^2 = \sum_{n=k+1}^{\infty} \frac{|a_n|^2}{n^2} \leq (k + 1)^{-2} \sum_{n=k+1}^{\infty} |a_n|^2 \leq (k + 1)^{-2}\|a\|^2\] 이다. 따라서 \(\|T_k - T\| \leq (k + 1)^{-1}\)이고, \(\|T_k - T\| \to 0\)이다. 그러므로 따름정리 9에 의해 \(T\)는 컴팩트연산자이다.

일반적으로 \(Y\)가 바나흐공간일 때는 따름정리 9의 역이 성립하지 않지만, \(Y\)가 힐베르트공간일 때는 따름정리 9의 역이 성립한다.

정리 11. (컴팩트연산자의 유한랭크 근사)

\(X\)가 노름공간이고, \(\mathcal{H}\)가 힐베르트공간이며, \(T \in K(X,\, \mathcal{H})\)이면, \(B(X,\, \mathcal{H})\)에서 \(T\)로 수렴하는 유한랭크 연산자의 수열 \(\{T_k\}\)가 존재한다.

증명

\(T\) 자체가 유한랭크를 가지면 자명하게 바라는 결론을 얻는다. 그러므로 \(T\)가 유한랭크를 갖지 않는다고 가정하자. 정리 7에 의하여 집합 \(\overline{\operatorname{Im} T}\)는 무한차원이고 가분인 힐베르트공간이므로, 정규직교기저 \(\{e_n\}\)을 가진다.

각 정수 \(k \geq 1\)에 대해, \(P_k\)를 \(\overline{\operatorname{Im} T}\)에서 부분벡터공간 \(M_k = \operatorname{Sp} \{e_1,\,\ldots,\,e_k\}\)로의 직교사영이라고 하고, \(T_k = P_kT\)라 하자. \(\operatorname{Im} T_k \subset M_k\)이므로, 연산자 \(T_k\)는 유한랭크를 가진다.

\(k \to \infty\)일 때 \(\|T_k - T\| \to 0\)이 성립함을 보이자. 이것이 성립하지 않는다고 가정하자. 그러면 (필요하다면 수열 \(\{T_k\}\)의 부분수열을 취한 후) 모든 \(k\)에 대해 \(\|T_k - T\| \geq \varepsilon\)인 \(\varepsilon > 0\)이 존재한다. 따라서 모든 \(k\)에 대해 \(\|(T_k - T)x_k\| \geq \varepsilon/2\)인 \(X\)의 단위벡터 \(x_k\)의 수열이 존재한다. \(T\)가 컴팩트연산자이므로, 적당한 \(y \in \mathcal{H}\)가 존재하여 \(Tx_k \to y\)인 부분수열을 취할 수 있다. 이제 \(P_m\)의 정규직교전개를 사용하면 다음을 얻는다. \[\begin{aligned} (T_k - T)x_k &= (P_k - I)Tx_k \\[6pt] &= (P_k - I)y + (P_k - I)(Tx_k - y) \\[6pt] &= -\sum_{n=k+1}^{\infty} \langle y,\,e_n \rangle e_n + (P_k - I)(Tx_k - y). \end{aligned}\] 이 결과에 노름을 취하면 다음 부등식을 얻는다. \[\frac{\varepsilon}{2} \leq \|(T_k - T)x_k\| \leq \left(\sum_{n=k+1}^{\infty} |\langle y,\,e_n \rangle|^2\right)^{1/2} + 2\|Tx_k - y\| .\] \(k \to \infty\)일 때 이 부등식의 우변은 \(0\)에 수렴하는데, 이는 모순이다.

이러한 결과를 사용하여 컴팩트연산자의 수반연산자가 컴팩트연산자라는 사실을 보일 수 있다. 먼저 유한랭크 연산자를 살펴보자.

보조정리 12. (연산자와 그 수반연산자의 랭크)

\(\mathcal{H}\)가 힐베르트공간이고 \(T \in B(\mathcal{H})\)이면, \(r(T) = r(T^*)\)이다. (여기서 랭크는 유한일 수도 있고, 무한이리 수도 있다.) 특히, \(T\)가 유한랭크를 가지기 위한 필요충분조건은 \(T^*\)가 유한랭크를 가지는 것이다.

증명

먼저 \(r(T) < \infty\)이라고 가정하자. 임의의 \(x \in \mathcal{H}\)에 대하여, \(x\)를 \(\operatorname{Ker} T^*\)에 대해 \(x = u + v\)로 직교분해하자. 여기서 \(u \in \operatorname{Ker} T^*\)이고 \[v \in (\operatorname{Ker} T^*)^{\perp} = \overline{\operatorname{Im} T} = \operatorname{Im} T\]이다. 그러면 \[T^*x = T^*(u+v) = T^*v\]이고, 따라서 \(\operatorname{Im} T^* = T^*(\operatorname{Im} T)\)이므로, \(r(T^*) \leq r(T)\). 따라서, \(r(T) < \infty\)일 때 \(r(T^*) \leq r(T)\)이다.

이 결과를 \(T^*\)에 적용하고, \((T^*)^* = T\)을 사용하면, \(r(T^*) < \infty\)일 때도 \(r(T) \leq r(T^*)\)임을 알 수 있다.

정리 13. (컴팩트연산자의 수반연산자는 컴팩트연산자이다)

\(\mathcal{H}\)가 힐베르트공간이고 \(T \in B(\mathcal{H})\)라고 하자. 이때 \(T\)가 컴팩트연산자기이 위한 필요충분조건은 \(T^*\)가 컴팩트연산자인 것이다.

증명

\(T\)가 컴팩트연산자라고 가정하자. 그러면 정리 11에 의해 \(\|T_n - T\| \to 0\)인 유한랭크 연산자의 수열 \(\{T_n\}\)이 존재한다. 보조정리 12에 의해, 각 연산자 \(T^*_n\)은 유한랭크를 가지고, \(\|T^*_n - T^*\| = \|T_n - T\| \to 0\)이다. 따라서 따름정리 9에 의해 \(T^*\)는 컴팩트연산자이다. 그러므로, \(T\)가 컴팩트연산자이면 \(T^*\)도 컴팩트연산자이다.

이 결과와 등식 \((T^*)^* = T\)를 사용하면, \(T^*\)가 컴팩트연산자일 때 \(T\)도 컴팩트연산자라는 사실이 증명된다.

자주 사용되는 컴팩트연산자인 힐베르트-슈미트 연산자를 소개한다.

정의 14. (힐베르트-슈미트 연산자)

\(\mathcal{H}\)가 정규직교기저 \(\{e_n\}\)을 가진 무한차원 힐베르트공간이고 \(T \in B(\mathcal{H})\)라 하자. 만약 \[\sum_{n=1}^{\infty} \|Te_n\|^2 < \infty\] 가 성립하면 \(T\)를 힐베르트-슈미트 연산자라고 부른다.

언뜻 보기에는 이 정의가 \(\mathcal{H}\)의 정규직교기저에 종속될 것처럼 보인다. 다음 정리는 그렇지 않음을 보여준다.

정리 15. (힐베르트-슈미트 연산자의 정의의 독립성)

\(\mathcal{H}\)가 무한차원 힐베르트공간이고, \(\{e_n\}\)과 \(\{f_n\}\)을 \(\mathcal{H}\)의 정규직교기저라고 하자. 그리고 \(T \in B(\mathcal{H})\)라 하자. 이때 다음이 성립한다. \[ \sum_{n=1}^{\infty} \|Te_n\|^2 = \sum_{n=1}^{\infty} \|T^*f_n\|^2 = \sum_{n=1}^{\infty} \|Tf_n\|^2 .\] (이 합은 유한일 수도 있고 무한대일 수도 있다.) 즉 연산자가 힐베르트-슈미트 연산자인지 여부는 \(\mathcal{H}\)의 정규직교기저의 선택에 종속되지 않는다.

정리 16. (힐베르트-슈미트 연산자의 성질)

\(\mathcal{H}\)가 무한차원 힐베르트공간이고 \(T \in B(\mathcal{H})\)라 하자.

  1. \(T\)가 힐베르트-슈미트 연산자이기 위한 필요충분조건은 \(T^*\)가 힐베르트-슈미트 연산자인 것이다.
  2. \(T\)가 힐베르트-슈미트 연산자이면 \(T\)는 컴팩트연산자이다.
  3. 힐베르트-슈미트 연산자의 집합은 \(B(\mathcal{H})\)의 부분벡터공간이다.

참고로, 유한랭크 연산자는 힐베르트-슈미트 연산자이지만, 모든 컴팩트연산자가 힐베르트-슈미트 연산자인 것은 아니다.