수학에서 많은 문제는 방정식 \(f(x) = y\)의 해 \(x\)를 찾는 문제로 귀결된다. 이 방정식을 \(x = T(x)\)의 형태로 변형하여 생각하면, 해를 찾는 문제는 연산자 \(T\)에 의해 변하지 않는 점, 즉 부동점(fixed point)을 찾는 문제가 된다.
부동점 이론은 이러한 관점에서 방정식의 해의 존재성을 다루는 비선형 함수해석학의 관심 분야이다. 그 중에서도 바나흐 축소 사상 원리(Banach contraction principle)는 가장 기본적이면서도 유용한 도구이다. 이 정리는 해의 존재성뿐만 아니라, 해의 유일성과 해를 구하는 구성적인 방법까지 제공한다.
이 글에서 \((X,\, d)\)는 완비거리공간을 나타낸다. 물론 바나흐 공간은 노름으로부터 거리 \(d(x,\, y) = \lVert x - y \rVert\)가 유도되므로 완비거리공간이다.
정의 1. (축소 사상)
\((X,\, d)\)가 거리공간이고 \(T : X \rightarrow X\)라고 하자. 만약 상수 \(0 \leq k < 1\)이 존재하여 임의의 \(x,\, y \in X\)에 대하여 \[d(Tx,\, Ty) \leq k d(x,\, y)\] 를 만족시키면, \(T\)를 축소 사상(contraction mapping)이라고 부른다. 이때 상수 \(k\)를 축소 상수라고 부른다.
축소 사상은 두 점 사이의 거리를 원래 거리의 \(k\)배 이하로 줄이는 함수이다. 특히 \(x \neq y\)이면 \[d(Tx, Ty) \le k\,d(x,y) < d(x,y)\] 이므로 거리가 실제로 줄어든다. 이러한 성질은 반복 적용 시 점들이 한 부동점으로 모이게 하는 효과를 낸다.
정리 2. (바나흐 축소 사상 원리)
\((X,\, d)\)가 공집합이 아닌 완비거리공간이고 \(T : X \rightarrow X\)가 축소 사상이라고 하자. 그러면 다음이 성립한다.
- \(T\)는 \(X\) 내에서 유일한 부동점 \(x^*\)를 가진다. (즉, \(Tx^* = x^*\)이다.)
- 임의의 시작점 \(x_0 \in X\)에 대하여, 반복적으로 정의된 수열 \(x_{n+1} = Tx_n\)은 \(x^*\)로 수렴한다.
- \(n\)번째 근사해의 오차는 다음과 같이 추정된다. \[d(x_n, x^*) \leq \frac{k^n}{1-k} d(x_1,\, x_0) .\]
증명
우선 부동점의 존재성을 보이자. 임의의 \(x_0 \in X\)를 선택하고 수열 \(\{x_n\}\)을 \(x_{n+1} = Tx_n\)으로 정의하자. 먼저 이 수열이 코시 수열임을 보인다. \(n \geq 1\)에 대해 \[d(x_{n+1}, x_n) = d(Tx_n, Tx_{n-1}) \leq k d(x_n, x_{n-1})\] 이다. 이 부등식을 반복하여 결합하면 \[d(x_{n+1}, x_n) \leq k^n d(x_1, x_0)\] 를 얻는다. 이제 \(m > n\)인 임의의 자연수 \(m,\, n\)에 대하여 삼각부등식과 기하급수의 합 공식을 이용하면 \[\begin{aligned} d(x_m, x_n) &\leq \sum_{j=n}^{m-1} d(x_{j+1}, x_j) \\[6pt] &\leq \sum_{j=n}^{m-1} k^j d(x_1, x_0) \\[6pt] &\leq \frac{k^n}{1-k} d(x_1, x_0) \end{aligned}\] 이다. \(0 \le k < 1\)이므로 우변은 \(n \to \infty\)일 때 \(0\)으로 간다. 따라서 \(m>n\)인 모든 경우에 대해 \(d(x_m, x_n)\)을 \(n\)만으로 제어할 수 있으므로 \(\{x_n\}\)은 코시 수열이다. \(X\)가 완비거리공간이므로 이 수열은 어떤 점 \(x^* \in X\)로 수렴한다.
이제 \(x^*\)가 부동점임을 보이자. 축소 사상은 립시츠 연속인 연속함수이므로, \[x^* = \lim_{n \to \infty} x_{n+1} = \lim_{n \to \infty} T(x_n) = T(\lim_{n \to \infty} x_n) = Tx^*\] 이다. 따라서 \(x^*\)는 부동점이다.
다음으로 부동점의 유일성을 보이자. \(y^*\)도 \(T\)의 부동점이라고 가정하자. 즉 \(Ty^* = y^*\)이다. 그러면 \[d(x^*, y^*) = d(Tx^*, Ty^*) \leq k d(x^*, y^*)\] 이다. \((1-k)d(x^*, y^*) \leq 0\)이고 \(1-k > 0\)이므로, \(d(x^*, y^*) = 0\)이어야 한다. 따라서 \(x^* = y^*\)이다.
끝으로 오차 추정 부등식을 유도하자. 앞서 유도한 식에서 \(m \to \infty\)인 극한을 취하면 \(x_m \to x^*\)이므로 \[d(x^*, x_n) \leq \frac{k^n}{1-k} d(x_1, x_0)\] 를 얻는다.
바나흐 축소 사상 원리는 매우 실용적이다. 해의 존재성을 보장할 뿐만 아니라, 임의의 점에서 시작하여 함수를 반복 적용하기만 하면 해에 근사할 수 있다는 알고리즘을 제공하기 때문이다. 이 방법을 피카르 반복법(Picard iteration)이라고 부른다.
보기 3. (실수 방정식의 해)
방정식 \(x = \frac{1}{2}\cos x\)의 해가 실수 전체 집합 \(\mathbb{R}\)에서 유일하게 존재함을 보이시오.
풀이
\(T(x) = \frac{1}{2}\cos x\)라고 정의하자. \(\mathbb{R}\)은 완비거리공간이다. 평균값 정리에 의해 \[|T(x) - T(y)| = \left| \frac{1}{2}(\cos x - \cos y) \right| = \left| -\frac{1}{2}\sin c (x-y) \right|\] 인 \(c\)가 \(x\)와 \(y\) 사이에 존재한다. \(|\sin c| \leq 1\)이므로 \[|T(x) - T(y)| \leq \frac{1}{2} |x - y|\] 이다. \(k = 1/2 < 1\)이므로 \(T\)는 축소 사상이다. 정리 2에 의해 유일한 해가 존재한다.
이제 함수해석학에서 중요한 정리 중 하나인 미분방정식의 해의 존재성 정리를 살펴보자. 이 정리는 바나흐의 축소 사상 원리를 함수 공간에 적용하여 증명한다.
정리 4. (피카르-린델뢰프 정리)
초깃값 문제 \[y' = f(t, y), \quad y(t_0) = y_0\] 를 고려하자. 함수 \(f(t,\, y)\)가 점 \((t_0,\, y_0)\)를 포함하는 직사각형 영역 \(D\)에서 연속이고, 변수 \(y\)에 대하여 립시츠 조건을 만족한다고 하자. 즉, 상수 \(L\)이 존재하여 \(D\) 안의 모든 \((t,\, y_1), (t,\, y_2)\)에 대해 \[|f(t,\, y_1) - f(t,\, y_2)| \leq L |y_1 - y_2|\] 가 성립한다면, \(t_0\)의 적당한 구간 \(I = [t_0 - \delta,\, t_0 + \delta]\)에서 유일한 해 \(y(t)\)가 존재한다.
증명
여기서는 증명의 개요를 살펴보자. 먼저 \((t_0,\, y_0)\)를 포함하면서 \(D\)에 포함되는 닫힌 직사각형 \[R = [t_0-a,\, t_0+a] \times [y_0-b,\, y_0+b]\] 를 하나 잡자. 함수 \(f\)는 \(R\)에서 연속이므로 \[M = \sup_{(t,y)\in R} |f(t,\, y)| < \infty\] 이다. 이제 \(\delta > 0\)를 \[\delta \le a, \qquad M\delta \le b, \qquad L\delta < 1\] 이 되도록 택하고 \(I = [t_0-\delta,\, t_0+\delta]\)라 하자.
바나흐 공간 \(C(I)\)의 부분집합 \[X = \{y \in C(I) : \|y-y_0\|_\infty \le b\}\] 를 생각하자. \(X\)는 \(C(I)\)의 닫힌 부분집합이므로 완비이다. 이제 \(T : X \to X\)를 \[(Ty)(t) = y_0 + \int_{t_0}^t f(s,\, y(s))\,ds\] 로 정의하자. \(y \in X\)이면 모든 \(t \in I\)에 대해 \((t,\, y(t)) \in R\)이므로 \(T\)는 잘 정의된다. 또한 \[\begin{aligned} |(Ty)(t)-y_0| &= \left|\int_{t_0}^t f(s,\, y(s))\,ds\right| \\ &\le \int_{\min\{t,t_0\}}^{\max\{t,t_0\}} |f(s,\, y(s))|\,ds \\ &\le M|t-t_0| \\ &\le M\delta \le b \end{aligned}\] 이므로 \(Ty \in X\)이다.
이제 임의의 \(y,\, z \in X\)와 \(t \in I\)에 대하여 \[\begin{aligned} |(Ty)(t) - (Tz)(t)| &= \left| \int_{t_0}^t (f(s, y(s)) - f(s, z(s))) \, ds \right| \\[6pt] &\le \int_{\min\{t,t_0\}}^{\max\{t,t_0\}} |f(s, y(s)) - f(s, z(s))| \, ds \\[6pt] &\le L \int_{\min\{t,t_0\}}^{\max\{t,t_0\}} |y(s) - z(s)| \, ds \\[6pt] &\le L\delta \lVert y - z \rVert_\infty \end{aligned}\] 이므로 \[\|Ty - Tz\|_\infty \le L\delta \|y-z\|_\infty\] 이다. 따라서 \(T\)는 완비거리공간 \(X\) 위의 축소 사상이다.
그러므로 바나흐 축소 사상 원리에 의해 \(T\)는 \(X\)에서 유일한 부동점 \(y\)를 가진다. 이 부동점은 \[y(t) = y_0 + \int_{t_0}^t f(s,\, y(s))\,ds\] 를 만족하므로 미적분학의 기본정리에 의해 \[y' = f(t,\, y), \qquad y(t_0)=y_0\] 의 해가 된다. 또한 이 구간 \(I\)에서의 해는 위의 추정에 의해 자동으로 \(X\)에 속하므로 유일성도 따른다.
바나흐의 축소 사상 원리는 강력하지만, ‘축소(contraction)’라는 조건이 필요하다는 제약이 있다. 즉, \(k < 1\)이어야 한다. 만약 \(T\)가 거리를 줄이지는 않지만 늘리지도 않는다면(non-expansive), 혹은 단순히 연속이기만 하다면 해가 존재할까? 이 질문에 답하기 위해서는 공간의 컴팩트성이나 볼록성과 같은 위상적 성질을 이용해야 한다. 다음 글에서는 이러한 일반적인 조건에서의 부동점 정리인 브라우어의 부동점 정리와 샤우더의 부동점 정리를 살펴보자.