힐베르트 공간 \(\mathcal{H}\)의 닫힌 부분벡터공간 \(Y\)이 있을 때 \(Y\)의 직교여공간 \(Y^{\perp}\)을 정의할 수 있다. 또한 임의의 \(x \in \mathcal{H}\)에 대하여 \(x = y + z\)인 \(y \in Y\)와 \(z \in Y^{\perp}\)가 각각 유일하게 존재한다. 이러한 분해 형태는 여공간의 개념이 얼마나 유용한지 보여주는 예이다.
이 글에서는 여공간의 개념을 더 자세히 살펴보고, 특히 노름공간에서의 “위상적” 여공간의 개념을 살펴본다. 또한 여공간과 “정사영” 연산자에 대해서도 살펴본다. 이 글에서 별다른 언급이 없으면 \(X\)는 벡터공간을 나타낸다.
정의 1. (여공간과 위상적 여공간)
\(X\)의 부분공간 \(U,\) \(V\)가 \(X\)에서 여공간이란 \(X = U \oplus V\)인 것을 의미한다. 또는 이와 동치인 조건으로서, 임의의 \(x \in X\)가 다음 형태의 유일한 분해를 가지는 경우를 말한다. \[x = u_x + v_x, \quad u_x \in U, v_x \in V. \tag{1}\]
\(X\)가 노름공간이고 \(X\)애서 정의된 대응 \(x \mapsto u_x\), \(x \mapsto v_x\)가 연속일 때, \(U\)와 \(V\)를 위상적 여공간이라고 부른다.
Zorn의 보조정리를 사용하면, 임의의 부분공간 \(U \subset X\)는 여공간 \(V\)를 가짐을 보일 수 있다. 그러나 일반적으로 이러한 부분공간이 위상적 여공간이 되는 것은 아니다. 함수해석학에서 여공간의 성질을 사용하여 해결하는 문제는 대부분 위상적 여공간을 필요로 한다. 위상적 여공간의 존재 여부는 더 자세히 논의할 필요가 있지만, 이를 논의하기 전에 먼저 “정사영” 연산자와 여공간 사이의 관계를 살펴보자.
정의 2. (정사영)
\(X\)에서의 정사영은 \(P^2 = P\)를 만족하는 선형연산자 \(P : X \rightarrow X\)이다.
보조정리 3.
\(P\)가 \(X\)에서의 정사영이라고 하자. 그러면 \(x \in \operatorname{Im} P\)이기 위한 필요충분조건은 \(Px = x\)인 것이다. 또한, 연산자 \(I - P\)는 정사영이고, 두 조건 \[\operatorname{Im} P = \operatorname{Ker} (I - P), \quad \operatorname{Ker} P = \operatorname{Im} (I - P)\] 를 만족시킨다.
증명
\(x \in \operatorname{Im} P\)라고 하자. 그러면 적당한 \(y \in X\)에 대하여 \(x = Py\)이므로, 정사영의 정의에 의해 \[Px = P^2y = Py = x\] 이다. 또한 이 명제의 역은 자명하다.
다음으로 정사영의 정의에 의해 \[(I - P)^2 = I - 2P + P^2 = I - P\] 이므로 \(I - P\)는 정사영이다. 이제 \(y \in \operatorname{Im} (I - P)\)라고 하자. 즉, 적당한 \(x \in X\)에 대해 \(y = (I - P)x\)라고 하자. 그러면 \[Py = Px - P^2x = 0\]이므로 \[\operatorname{Im} (I - P) \subset \operatorname{Ker} (P)\]이다. 이제 \(y \in \operatorname{Ker} (P)\)라고 가정하자. 그러면 \[y = (I - P)y \in \operatorname{Im} (I - P)\]이므로, \(\operatorname{Im} (I - P) = \operatorname{Ker} (P)\)이다.
\(P\)와 \(I - P\) 사이의 대칭성을 사용하면 두 번째 등식도 유사한 방법으로 증명된다.
정사영과 여공간 사이에는 다음과 같은 관계가 있다.
보조정리 4.
- \(U\)와 \(V\)가 \(X\)에서 여공간이라고 하고, 연산자 \(P_U : X \rightarrow U\)와 \(P_V : X \rightarrow V\)를 임의의 \(x\in X\)에 대하여 다음과 같이 정의하자. \[P_U x = u_x, \quad P_V x = v_x .\] 여기서 \(u_x\)와 \(v_x\)는 (1)에서 정의한 것과 같다. 그러면 \(P_U\)와 \(P_V\)는 \(X\)에서의 정사영이고, \(P_U + P_V = I\)이다.
- \(P\)가 \(X\)에서의 정사영이라고 하자. 그러면 부분공간 \(\operatorname{Im} P\)와 \(\operatorname{Im} (I - P)\)는 여공간이다.
증명
- \(P_U\)의 정의에 의하여, 임의의 \(\alpha,\, \beta \in \mathbb{F}\)와 \(x,\, y \in X\)에 대하여 다음이 성립한다. \[\begin{aligned} P_U(\alpha x + \beta y) &= P_U((\alpha u_x + \beta u_y) + (\alpha v_x + \beta v_y)) \\[6pt] &= \alpha u_x + \beta u_y = \alpha P_U x + \beta P_U y . \end{aligned}\] 즉 \(P_U\)가 선형이다. 또한 다음이 성립한다. \[P^2_U x = P_U u_x = u_x = P_U x .\] 그러므로 \(P_U\)는 정사영이다. 다음으로, (1)과 \(P_U,\) \(P_V\)의 정의로부터 모든 \(x \in X\)에 대해 \(x = P_U x + P_V x\)이므로, \(I = P_U + P_V\)이고, 따라서 \(P_V\)도 정사영이다.
- 임의의 \(x \in X\)가 주어졌다고 하고, \[u_x = Px \in \operatorname{Im} P, \quad v_x = (I - P)x \in \operatorname{Im} (I - P)\] 라고 하자. 명백히 \(x\)는 \(x = u_x + v_x\)의 꼴로 분해된다. 이제 \[x = u'_x + v'_x , \quad u'_x \in \operatorname{Im} P, \quad v'_x \in \operatorname{Im} (I - P)\] 라고 가정하자. 그러면 \(u_x - u'_x = v'_x - v_x\)이다. 이 등식에 \(P\)를 취하면 \(u_x - u'_x = 0\)이다. 같은 방법으로 \(v'_x - v_x = 0\)이므로, \(x\)의 분해 형태는 유일하다. 따라서 (1)에 의하여 바라는 결론을 얻는다.
정의 5.
\(X\)에서의 임의의 여공간 \(U,\) \(V\)에 대하여, 보조정리 4에서 구성된 정사영 \(P_U\)를 \(V\)를 따르는 \(U\)로의 정사영이라고 부른다. \(P_V\)에 대해서도 같은 방법으로 정의한다.
보조정리 4는 여공간과 정사영 사이의 관계를 설명했다. 다음 보조정리는 위상적 여공간과 유계 정사영 사이의 관계를 설명한다.
보조정리 6.
\(X\)가 노름공간이고 \(U,\) \(V \subset X\)가 여공간이라고 가정하자.
- \(U,\) \(V\)가 위상적 여공간이기 위한 필요충분조건은 보조정리 4에서 구성된 정사영 \(P_U,\) \(P_V\)가 유계인 것이다.
- \(U,\) \(V\)가 위상적 여공간이면 \(U,\) \(V\)는 닫혀 있다.
증명
보조정리 4에 의해, \(P_U\)와 \(P_V\)가 선형이므로, 위상적 여공간의 정의에 의하여 (a)를 얻는다.
다음으로, 보조정리 3에 의해 \(U = \operatorname{Im} P_U = \operatorname{Ker} (I - P_U)\)이므로, \(P_U\)가 연속이면 \(U\)는 닫혀 있다. 마찬가지로, \(P_V\)가 연속이면 \(V\)는 닫혀 있다. 그러므로 (b)가 성립한다.
다음 보조정리는 \(X\)가 바나흐 공간일 때 보조정리 6의 (b)의 부분적인 역이 성립함을 설명한다.
보조정리 7.
\(X\)가 바나흐 공간이고, \(U,\) \(V\)가 \(X\)에서의 닫힌 여공간이라고 하자. 그러면 \(U,\) \(V\)는 위상적 여공간이다.
증명
\(P_U\)가 연속임을 증명하자. 그러면 \(P_V\)도 연속이며, 보조정리 6의 (a)에 의해 바라는 결과를 얻기 때문이다. 닫힌 그래프 정리에 의하여, 그래프 \(G(P_U)\)가 닫혀 있음을 보이면 충분하다. 이를 위하여 \(G(P_U)\)에서 \(X \times X\)의 점 \((x,\, y)\)로 수렴하는 임의의 수열 \(\{(x_n,\, P_U x_n)\}\)을 생각하자. 이제 \((x,\, y) \in G(P_U)\) 즉 \(y = P_U x\)임을 보여야 한다.
먼저 \(P_U\)의 정의에 의하여, \(x \in U\)이면 \(P_U x = x\)이고, \(x \in V\)이면 \(P_U x = 0\)이다. 수열 \(\{P_U x_n\}\)이 \(U\)에 있고 \(U\)가 닫혀 있으므로 \(y \in U\)이다. 마찬가지로 \[x - y = \lim_{n \rightarrow \infty}(x_n - P_U x_n) \in V\]이다. 왜냐하면 수열 \(\{(I - P_U) x_n\}\)이 \(V\)에 있기 때문이다. 따라서 보조정리 3에 의하여 \[0 = P_U(x - y) = P_U x - P_U y = P_U x - y\] 이다.
앞에서 말한 바와 같이, 임의의 닫힌 부분공간 \(U\)가 주어졌을 때, \(U,\) \(V\)가 위상적 여공간이 되는 닫힌 부분공간 \(V\)가 존재하는지의 문제는 상당히 흥미롭다. 보조정리 6에 의하면, 이 문제는 다음 질문과 동치이다.
“\(U = \operatorname{Im} P\)를 만족시키는 유계인 정사영 \(P\)가 \(X\)에 존재하는가?”
일반적으로 이 질문에 대한 답은 부정적이다. 심지어 \(X\)가 바나흐 공간일 때도 그렇다. 그러나 힐베르트 공간에서는 긍정적인 답을 얻을 수 있다. 여기에서는 \(U\)가 유한차원인 경우를 살펴보자.
보조정리 8.
\(X\)가 노름공간이고 \(U\)가 \(X\)의 유한차원 부분공간이라고 하자. 그러면 \(\operatorname{Im} P = U\)를 만족시키는 유계인 정사영 \(P\)가 \(X\)에 존재한다.
증명
\(U\)의 기저 \(x_1, \ldots, x_n \in X\)를 취하자. 그러면 함수 \(f_1, \ldots, f_n \in X'\)이 존재하여, \(1\le j \le n ,\) \(1\le k \le n\)인 임의의 정수 \(j,\) \(k\)에 대하여 \(f_j (x_k ) = \delta_{jk}\)를 만족시킨다. 이제 임의의 \(x\in X\)에 대하여 \[Px = \sum_{i=1}^n f_i(x)x_i\] 라고 정의하면 \(P\)는 \(\operatorname{Im} P = U\)를 만족시키는 연속인 정사영이다.