벡터공간에 내적이 정의되어 있을 때, 내적을 사용하여 노름을 정의하고 ‘벡터의 길이’ 개념을 사용할 수 있다. 그러나 내적공간은 ‘벡터의 길이’ 뿐만 아니라 벡터의 직교성이라는 개념을 추가로 사용할 수 있으며, 이 개념으로부터 풍부한 성질을 끌어낼 수 있다.
\(X\)가 실내적공간이고 \(x,\) \(y\)가 영벡터가 아닌 벡터이면, 코시-슈바르츠 부등식에 의하여 다음이 성립한다. \[-1 \leq \frac{\langle x,\,y \rangle}{\|x\|\|y\|} \leq 1 .\] 이 식으로부터 \(x,\) \(y\) 사이의 각을 다음과 같이 정의할 수 있다. \[\theta = \cos^{-1}\left(\frac{\langle x,\,y \rangle}{\|x\|\|y\|}\right), \,\, 0\le \theta \le \pi .\] 복소 내적공간에서는 상황이 더 복잡하다. 내적 \(\langle x,\,y \rangle\)의 값이 허수일 수 있으며, ‘복소각’이 무엇을 의미하는지 명확하지 않기 때문이다. 그러나 모든 각을 다루지 않더라도, 실벡터공간과 복소벡터공간에서 공통적으로 \(\langle x,\,y \rangle = 0\)인 경우, 즉 벡터가 서로 직교하는 경우를 다룰 수 있다.
정의 1. (직교 벡터)
\(X\)를 내적공간이라 하자. 벡터 \(x,\,y \in X\)가 \(\langle x,\,y \rangle = 0\)을 만족시킬 때, “\(x\)와 \(y\)가 직교한다(orthogonal)”라고 표현한다. 두 벡터가 직교하는 것을 “두 벡터가 수직이다”라고 표현하기도 한다.
유한차원 내적공간에서의 정규직교집합의 개념을 선형대수학에서 살펴보았다. 이 개념은 임의의 내적공간으로 확장될 수 있다.
정의 2. (정규직교집합)
\(X\)를 내적공간이고 집합 \(E = \{e_1,\,\ldots,\,e_k\} \subset X\)가 \(X\)의 부분집합이라고 하자. 만약 이 집합이 두 조건을 모두 만족시키면 \(E\)를 정규직교집합(orthonormal set)이라고 부른다.
- 모든 \(1 \leq n \leq k\)에 대해 \(\|e_n\| = 1\)이다.
- \(1 \leq m \leq k ,\) \(1 \leq n \leq k, \) \(m \neq n\)인 임의의 \(m,\) \(n\)에 대해 \(\langle e_m,\,e_n \rangle = 0\)이다.
유한차원 내적공간에서 살펴보았던 정규직교집합의 성질을 상기하기 위하여 다음 정리로 소개한다.
보조정리 3. (정규직교집합의 성질)
\(X\)가 내적공간이라고 하자.
- \(E = \{e_1,\,\ldots,\,e_k\}\)가 \(X\)에서의 정규직교집합이면, \(E\)는 일차독립이다. 특히, \(X\)가 \(k\) 차원이면 집합 \(\{e_1,\,\ldots,\,e_k\}\)는 \(X\)의 기저이고, 임의의 벡터 \(x \in X\)는 다음 형태로 표현될 수 있다. \[x = \sum_{n=1}^k \langle x,\,e_n \rangle e_n . \tag{*}\] 이 경우 \(\{e_1,\,\ldots,\,e_k\}\)를 정규직교기저(orthonormal basis)라고 부르고, 스칼라 \(\langle x,\,e_n \rangle\)을 이 기저에 대한 \(x\)의 성분이라고 부른다.
- \(\{v_1,\,\ldots,\,v_k\}\)가 내적공간 \(X\)의 일차독립인 부분집합이고, \(S = \operatorname{Sp}\{v_1,\,\ldots,\,v_k\}\)라 하자. 그러면 \(S\)의 정규직교기저 \(\{e_1,\,\ldots,\,e_k\}\)가 존재한다.
증명
- \(\alpha_n \in \mathbb{F}\), \(n = 1,\,\ldots,\,k\)인 \(\alpha_n\)에 대하여
\[\sum_{n=1}^k \alpha_n e_n = 0\]
이라고 가정하자. 이 식의 양변에 \(e_m\)과의 내적을 취하고 정규직교성을 이용하면
\[0 = \left\langle\sum_{n=1}^k \alpha_n e_n,\,e_m\right\rangle = \alpha_m\]
이다. 이 식은 \(m = 1,\,\ldots,\,k\)에 대해 성립한다. 따라서 집합 \(\{e_1,\,\ldots,\,e_k\}\)는 일차독립이다.
다음으로, \(\{e_1,\,\ldots,\,e_k\}\)가 기저라고 가정하자. 그러면 \(\lambda_n \in \mathbb{F}\), \(n = 1,\,\ldots,\,k\)인 \(\lambda_n\)이 존재하여 \[x = \sum_{n=1}^k \lambda_n e_n\] 을 만족시킨다. 이 식의 양변에 \(e_m\)과의 내적을 취하고 정규직교성을 이용하면 \[\langle x,\,e_m \rangle = \left\langle\sum_{n=1}^k \lambda_n e_n,\,e_m\right\rangle = \sum_{n=1}^k \lambda_n \langle e_n,\,e_m \rangle = \lambda_m\] 이며, 이 식은 \(m = 1,\,\ldots,\,k\)에 대해 성립한다. - \(k\)에 대한 수학적 귀납법으로 증명한다.
\(k = 1\)인 경우, \(v_1 \neq 0\)이므로 \(v_1 \neq 0\)이다. 이때 \[e_1 = \frac{v_1}{\|v_1\|}\] 이라고 하면 \(\{e_1\}\)이 정규직교기저의 첫 원소이다.
이제 임의의 정수 \(k \geq 1\)에 대해 결과가 성립한다고 가정하자. \(\{v_1,\,\ldots,\,v_{k+1}\}\)가 일차독립인 집합이고 \(\{e_1,\,\ldots,\,e_k\}\)가 \(\operatorname{Sp}\{v_1,\,\ldots,\,v_k\}\)의 정규직교기저라고 가정하자. \(\{v_1,\,\ldots,\,v_{k+1}\}\)이 일차독립이므로, \(v_{k+1} \notin \text{Sp}\{v_1,\,\ldots,\,v_k\}\)이며 \(v_{k+1} \notin \text{Sp}\{e_1,\,\ldots,\,e_k\}\)이다. \[b_{k+1} = v_{k+1} - \sum_{n=1}^k \langle v_{k+1},\,e_n \rangle e_n\] 이라고 정의하자. 그러면 \(b_{k+1} \in \text{Sp}\{v_1,\,\ldots,\,v_{k+1}\}\)이고 \(b_{k+1} \neq 0\)이다. (그렇지 않으면 \(v_{k+1} \in \text{Sp}\{e_1,\,\ldots,\,e_k\}\)이기 때문이다.) 또한, 각 \(m = 1,\,\ldots,\,k\)에 대해, \[\begin{aligned} \langle b_{k+1},\,e_m \rangle &= \langle v_{k+1},\,e_m \rangle - \sum_{n=1}^k \langle v_{k+1},\,e_n \rangle\langle e_n,\,e_m \rangle \\ &= \langle v_{k+1},\,e_m \rangle - \langle v_{k+1},\,e_m \rangle = 0 \end{aligned}\] 이다. (집합 \(\{e_1,\,\ldots,\,e_k\}\)의 정규직교성에 의하여 등식이 성립한다.) 따라서, \(b_{k+1}\)은 \(\{e_1,\,\ldots,\,e_k\}\)의 모든 벡터와 직교한다. \[e_{k+1} = \frac{b_{k+1}}{\|b_{k+1}\|}\] 이라고 정의하자. 그러면 \(\{e_1,\,\ldots,\,e_{k+1}\}\)은 정규직교집합이고 \[\operatorname{Sp}\{e_1,\,\ldots,\,e_{k+1}\} \subset \operatorname{Sp}\{v_1,\,\ldots,\,v_{k+1}\}\] 이다. 그러나 이 부분공간들은 모두 \((k+1)\) 차원이므로 같아야 한다.
그러므로 수학적 귀납법에 의하여, 이와 같은 과정으로 구성한 벡터 \(e_n , \) \(n = 1,\,2,\,\ldots ,\, k\)는 \(X\)의 정규직교기저를 이룬다.
위 정리의 (b)부분에서 기저를 귀납적으로 구성하는 과정에서 다음 공식을 사용한다. \[\begin{aligned} b_{k+1} &= v_{k+1} - \sum_{n=1}^k \langle v_{k+1},\,e_n \rangle e_n, \\ e_{k+1} &= \frac{b_{k+1}}{\|b_{k+1}\|} . \end{aligned}\] 이 방법을 그람-슈미트 알고리즘이라고 부른다.
유한차원 내적공간에서 정규직교기저를 사용하면 벡터의 성분을 사용하여 벡터의 노름을 쉽게 계산할 수 있다. 다음 정리는 피타고라스 정리의 일반화이다.
정리 4. (일반화된 피타고라스 정리)
\(X\)를 \(k\) 차원 내적공간이라 하고 \(\{e_1,\,\ldots,\,e_k\}\)를 \(X\)의 정규직교기저라고 하자. 그러면, 임의의 스칼라 \(\alpha_n \in \mathbb{F}\), \(n = 1,\,\ldots,\,k\)에 대하여 다음이 성립한다. \[\left\|\sum_{n=1}^k \alpha_n e_n\right\|^2 = \sum_{n=1}^k |\alpha_n|^2.\]
증명
정규직교성과 내적의 성질을 사용하면 다음 등식을 얻는다. \[\begin{aligned} \left\|\sum_{n=1}^k \alpha_n e_n\right\|^2 &= \left\langle\sum_{m=1}^k \alpha_m e_m,\,\sum_{n=1}^k \alpha_n e_n\right\rangle \\ &= \sum_{m=1}^k\sum_{n=1}^k \alpha_m\overline{\alpha_n}\langle e_m,\,e_n \rangle \\ &= \sum_{n=1}^k \alpha_n\overline{\alpha_n} = \sum_{n=1}^k |\alpha_n|^2. \end{aligned}\]
노름공간과 관련된 이론을 논의할 때 완비성이 매우 중요한 역할을 했었던 것과 마찬가지로, 내적공간에서도 완비성이 매우 중요한 역할을 한다. 완비인 노름공간을 바나흐 공간이라 불렀듯이, 완비인 내적공간에도 이름이 있다.
정의 5. (힐베르트 공간)
내적에 의해 유도된 노름과 관련된 거리에 대해 완비인 내적공간을 힐베르트 공간(Hilbert space)이라고 부른다.
이전 포스트에서 살펴본 결과로부터 다음과 같은 힐베르트 공간의 예를 얻는다.
보기 6. (자주 사용하는 힐베르트 공간의 예)
- 유한차원 내적공간은 모두 힐베르트 공간이다. (무한차원 내적공간은 완비가 아닐 수 있다.)
- 표준내적을 가진 공간 \(L^2(X)\)는 힐베르트 공간이다.
- 표준내적을 가진 공간 \(\ell^2\)는 힐베르트 공간이다.
바나흐 공간의 부분벡터공간이 완비이기 위한 필요충분조건은 그 부분공간이 닫힌 집합임을 살펴보았다. 힐베르트 공간에 대해서도 유사한 결과가 성립한다.
보조정리 7. (힐베르트 공간의 닫힌 부분공간)
\(\mathcal{H}\)가 힐베르트 공간이고 \(Y \subset \mathcal{H}\)가 부분벡터공간이라고 하자. 이때 \(Y\)가 힐베르트 공간이기 위한 필요충분조건은 \(Y\)가 \(\mathcal{H}\)에서 닫혀있는 것이다.
증명
힐베르트 공간의 정의에 따라, \(Y\)가 완비일 때만 힐베르트 공간이다. 그러나 완비거리공간의 부분집합은 그것이 닫혀있을 때만 완비이다. 이 사실로부터 정리의 결과를 얻는다.