수학에서 많은 문제는 방정식 \(f(x) = y\)의 해 \(x\)를 찾는 문제로 귀결된다. 이 방정식을 \(x = T(x)\)의 형태로 변형하여 생각하면, 해를 찾는 문제는 연산자 \(T\)에 의해 변하지 않는 점, 즉 부동점(fixed point)을 찾는 문제가 된다.
부동점 이론은 이러한 관점에서 방정식의 해의 존재성을 다루는 비선형 함수해석학의 관심 분야이다. 그 중에서도 바나흐 축소 사상 원리(Banach contraction principle)는 가장 기본적이면서도 유용한 도구이다. 이 정리는 해의 존재성뿐만 아니라, 해의 유일성과 해를 구하는 구성적인 방법까지 제공한다.
이 글에서 \((X,\, d)\)는 완비거리공간을 나타낸다. 물론 바나흐 공간은 노름으로부터 거리 \(d(x,\, y) = \lVert x - y \rVert\)가 유도되므로 완비거리공간이다.
정의 1. (축소 사상)
\((X,\, d)\)가 거리공간이고 \(T : X \rightarrow X\)라고 하자. 만약 상수 \(0 \leq k < 1\)이 존재하여 임의의 \(x,\, y \in X\)에 대하여 \[d(Tx,\, Ty) \leq k d(x,\, y)\] 를 만족시키면, \(T\)를 축소 사상(contraction mapping)이라고 부른다. 이때 상수 \(k\)를 축소 상수라고 부른다.
축소 사상은 두 점 사이의 거리를 항상 일정 비율 \(k\) 미만으로 줄이는 함수이다. 이러한 성질은 점들을 공간의 한 점으로 ‘수축’시키는 효과를 낸다.
정리 2. (바나흐 축소 사상 원리)
\((X,\, d)\)가 공집합이 아닌 완비거리공간이고 \(T : X \rightarrow X\)가 축소 사상이라고 하자. 그러면 다음이 성립한다.
- \(T\)는 \(X\) 내에서 유일한 부동점 \(x^*\)를 가진다. (즉, \(Tx^* = x^*\)이다.)
- 임의의 시작점 \(x_0 \in X\)에 대하여, 반복적으로 정의된 수열 \(x_{n+1} = Tx_n\)은 \(x^*\)로 수렴한다.
- \(n\)번째 근사해의 오차는 다음과 같이 추정된다. \[d(x_n, x^*) \leq \frac{k^n}{1-k} d(x_1,\, x_0) .\]
증명
우선 부동점의 존재성을 보이자. 임의의 \(x_0 \in X\)를 선택하고 수열 \(\{x_n\}\)을 \(x_{n+1} = Tx_n\)으로 정의하자. 먼저 이 수열이 코시 수열임을 보인다. \(n \geq 1\)에 대해 \[d(x_{n+1}, x_n) = d(Tx_n, Tx_{n-1}) \leq k d(x_n, x_{n-1})\] 이다. 이 부등식을 반복하여 결합하면 \[d(x_{n+1}, x_n) \leq k^n d(x_1, x_0)\] 를 얻는다. 이제 \(m > n\)인 임의의 자연수 \(m,\, n\)에 대하여 삼각부등식과 기하급수의 합 공식을 이용하면 \[\begin{aligned} d(x_m, x_n) &\leq \sum_{j=n}^{m-1} d(x_{j+1}, x_j) \\[6pt] &\leq \sum_{j=n}^{m-1} k^j d(x_1, x_0) \\[6pt] &\leq \frac{k^n}{1-k} d(x_1, x_0) \end{aligned}\] 이다. \(0 \le k < 1\)이므로 \(n \to \infty\)일 때 \(k^n \to 0\)이고, 따라서 \(d(x_m,\, x_n) \to 0\)이다. 즉, \(\{x_n\}\)은 코시 수열이다. \(X\)가 완비 공간이므로 이 수열은 어떤 점 \(x^* \in X\)로 수렴한다.
이제 \(x^*\)가 부동점임을 보이자. 축소 사상은 립시츠 연속인 연속함수이므로, \[x^* = \lim_{n \to \infty} x_{n+1} = \lim_{n \to \infty} T(x_n) = T(\lim_{n \to \infty} x_n) = Tx^*\] 이다. 따라서 \(x^*\)는 부동점이다.
다음으로 부동점의 유일성을 보이자. \(y^*\)도 \(T\)의 부동점이라고 가정하자. 즉 \(Ty^* = y^*\)이다. 그러면 \[d(x^*, y^*) = d(Tx^*, Ty^*) \leq k d(x^*, y^*)\] 이다. \((1-k)d(x^*, y^*) \leq 0\)이고 \(1-k > 0\)이므로, \(d(x^*, y^*) = 0\)이어야 한다. 따라서 \(x^* = y^*\)이다.
끝으로 오차 추정 부등식을 유도하자. 앞서 유도한 식에서 \(m \to \infty\)인 극한을 취하면 \(x_m \to x^*\)이므로 \[d(x^*, x_n) \leq \frac{k^n}{1-k} d(x_1, x_0)\] 를 얻는다.
바나흐 축소 사상 원리는 매우 실용적이다. 해의 존재성을 보장할 뿐만 아니라, 임의의 점에서 시작하여 함수를 반복 적용하기만 하면 해에 근사할 수 있다는 알고리즘을 제공하기 때문이다. 이 방법을 피카르 반복법(Picard iteration)이라고 부른다.
보기 3. (실수 방정식의 해)
방정식 \(x = \frac{1}{2}\cos x\)의 해가 실수 전체 집합 \(\mathbb{R}\)에서 유일하게 존재함을 보이시오.
풀이
\(T(x) = \frac{1}{2}\cos x\)라고 정의하자. \(\mathbb{R}\)은 완비거리공간이다. 평균값 정리에 의해 \[|T(x) - T(y)| = \left| \frac{1}{2}(\cos x - \cos y) \right| = \left| -\frac{1}{2}\sin c (x-y) \right|\] 인 \(c\)가 \(x\)와 \(y\) 사이에 존재한다. \(|\sin c| \leq 1\)이므로 \[|T(x) - T(y)| \leq \frac{1}{2} |x - y|\] 이다. \(k = 1/2 < 1\)이므로 \(T\)는 축소 사상이다. 정리 2에 의해 유일한 해가 존재한다.
이제 함수해석학에서 중요한 정리 중 하나인 미분방정식의 해의 존재성 정리를 살펴보자. 이 정리는 바나흐의 축소 사상 원리를 함수 공간에 적용하여 증명한다.
정리 4. (피카르-린델뢰프 정리)
초깃값 문제 \[y' = f(t, y), \quad y(t_0) = y_0\] 를 고려하자. 함수 \(f(t,\, y)\)가 점 \((t_0,\, y_0)\)를 포함하는 직사각형 영역 \(D\)에서 연속이고, 변수 \(y\)에 대하여 립시츠 조건을 만족한다고 하자. 즉, 상수 \(L\)이 존재하여 \(D\) 안의 모든 \((t,\, y_1), (t,\, y_2)\)에 대해 \[|f(t,\, y_1) - f(t,\, y_2)| \leq L |y_1 - y_2|\] 가 성립한다면, \(t_0\)의 적당한 구간 \(I = [t_0 - \delta,\, t_0 + \delta]\)에서 유일한 해 \(y(t)\)가 존재한다.
증명
여기서는 증명의 개요를 살펴보자. 정리의 미분방정식은 다음 적분방정식과 동치이다. \[y(t) = y_0 + \int_{t_0}^t f(s, y(s)) \, ds .\] 이제 바나흐 공간 \(X = C(I)\)를 생각하자. 즉 구간 \(I\)에서 정의된 연속함수 공간을 생각하자. 여기서 노름은 최대 노름 \(\lVert \cdot \rVert_\infty\)이 부여되어 있다. 연산자 \(T : X \rightarrow X\)를 다음과 같이 정의한다. \[(Ty)(t) = y_0 + \int_{t_0}^t f(s, y(s)) \, ds .\] 임의의 \(y, z \in X\)에 대하여 다음이 성립한다. \[\begin{aligned} |(Ty)(t) - (Tz)(t)| &= \left| \int_{t_0}^t (f(s, y(s)) - f(s, z(s))) \, ds \right| \\[6pt] &\leq \left| \int_{t_0}^t |f(s, y(s)) - f(s, z(s))| \, ds \right| \\[6pt] &\leq \left| \int_{t_0}^t L |y(s) - z(s)| \, ds \right| \\[6pt] &\leq L \delta \lVert y - z \rVert_\infty . \end{aligned}\] 따라서 \(\lVert Ty - Tz \rVert_\infty \leq (L\delta) \lVert y - z \rVert_\infty\)이다. 구간의 길이 \(\delta\)를 충분히 작게 잡아서 \(L\delta < 1\)이 되도록 하면, \(T\)는 축소 사상이 된다. 바나흐 축소 사상 원리에 의해 \(T\)는 유일한 부동점 \(y\)를 가지며, 이 \(y\)가 바로 미분방정식의 해가 된다.
바나흐의 축소 사상 원리는 강력하지만, ‘축소(contraction)’라는 조건이 필요하다는 제약이 있다. 즉, \(k < 1\)이어야 한다. 만약 \(T\)가 거리를 줄이지는 않지만 늘리지도 않는다면(non-expansive), 혹은 단순히 연속이기만 하다면 해가 존재할까? 이 질문에 답하기 위해서는 공간의 컴팩트성이나 볼록성과 같은 위상적 성질을 이용해야 한다. 다음 글에서는 이러한 일반적인 조건에서의 부동점 정리인 브라우어의 부동점 정리와 샤우더의 부동점 정리를 살펴보자.