지난 글에서 우리는 바나흐 공간에서의 미분(프레셰 미분)을 정의하고, 이를 통해 비선형 함수를 국소적으로 선형 함수로 근사하는 방법을 살펴보았다. 이 글에서는 비선형 방정식의 해의 존재성과 유일성을 다루는 두 가지 중요한 정리인 역함수 정리(Inverse Function Theorem)와 음함수 정리(Implicit Function Theorem)를 증명할 것이다. 이 글에서 \(X,\, Y,\, Z\)는 바나흐 공간을 나타내며, \(U\)는 \(X\)의 열린 부분집합이다.
우선 바나흐 공간에서의 축소 사상과 관련된 보조정리를 하나 소개한다. 이 보조정리는 역함수 정리를 증명할 때 사용된다.
보조정리 1. (바나흐 공간에서의 축소 사상)
\(X\)가 바나흐 공간이고 \(U \subset X\)가 열린 집합이며, \(\Phi : U \rightarrow X\)가 축소 사상(contraction mapping)이라고 하자. 즉, 상수 \(k \in (0, 1)\)이 존재하여 임의의 \(x, y \in U\)에 대해 다음을 만족시킨다고 하자. \[\lVert \Phi(x) - \Phi(y) \rVert \leq k \lVert x - y \rVert .\] 만약 \(B_r(x_0) \subset U\)이고 \(\lVert \Phi(x_0) - x_0 \rVert < (1-k)r\)이라면, \(\Phi\)는 \(B_r(x_0)\) 내에서 유일한 고정점 \(x^*\)를 가진다. (즉, \(\Phi(x^*) = x^*\)이다.)
증명
이 정리는 바나흐의 고정점 정리(Banach Fixed Point Theorem)와 유사하다. 즉 귀납적으로 정의된 수열 \(x_{n+1} = \Phi(x_n)\)이 \(B_r(x_0)\)를 벗어나지 않음을 보이면, 바나흐 공간의 완비성에 의해 이 수열이 수렴함을 알 수 있다. \[\lVert x_1 - x_0 \rVert = \lVert \Phi(x_0) - x_0 \rVert < (1-k)r\] 이고, 귀납적으로 \[\lVert x_{n+1} - x_n \rVert \leq k^n \lVert x_1 - x_0 \rVert\] 이므로, \[\lVert x_n - x_0 \rVert \leq \sum_{j=0}^{n-1} \lVert x_{j+1} - x_j \rVert \leq \frac{1-k^n}{1-k} \lVert x_1 - x_0 \rVert < r\] 이다. 따라서 수열 \(\left\{x_n \right\}\)은 \(B_r(x_0)\) 내에 머무르며 코시 수열이 되고, 그 극한 \(x^*\)는 유일한 고정점이 된다.
역함수 정리는 함수 \(F\)의 도함수 \(F'(x_0)\)가 가역인 선형연산자이면, \(F\) 자체도 \(x_0\) 근방에서 국소적으로 가역임을 말해준다.
정리 2. (역함수 정리)
\(F : U \subset X \rightarrow Y\)가 \(C^1\) 함수이고, \(x_0 \in U\)라고 하자. 만약 \(F'(x_0) : X \rightarrow Y\)가 유계 선형 위상동형사상(bounded linear homeomorphism)이라면, 즉 만약 \(F'(x_0)\)가 가역이고 그 역연산자도 유계라면, 다음이 성립한다.
- \(x_0\)의 열린 근방 \(V \subset U\)와 \(y_0 = F(x_0)\)의 열린 근방 \(W \subset Y\)가 존재하여, \(F\)는 \(V\)에서 \(W\)로 가는 일대일 대응이다.
- 역함수 \(F^{-1} : W \rightarrow V\) 또한 \(C^1\) 함수이다.
- 임의의 \(y \in W\)에 대하여, \(x = F^{-1}(y)\)일 때 역함수의 미분은 다음과 같다. \[(F^{-1})'(y) = [F'(x)]^{-1} .\]
증명
일반성을 잃지 않고 \(x_0 = 0\), \(y_0 = 0\)이라 가정하고, \(X=Y\)이며 \(F'(0) = I\) (항등연산자)라고 가정하자. (일반적인 경우는 좌표 변환 \(G(x) = [F'(x_0)]^{-1}(F(x+x_0) - y_0)\)를 통해 이 경우로 환원될 수 있다.)
먼저 국소 가역성을 보이자. \(F\)가 \(C^1\)급이므로, \(F'\)은 연속이다. 따라서 \(0\)의 충분히 작은 근방 \(B_r(0)\)에서 \(\lVert F'(x) - I \rVert < 1/2\)을 만족시키도록 \(r > 0\)을 잡을 수 있다. 임의의 \(y \in B_{r/2}(0)\)에 대하여, 방정식 \(F(x) = y\)를 푸는 것은 \(\Phi_y(x) = x - F(x) + y\)의 고정점을 찾는 것과 같다. 평균값 정리에 의하여, \(x_1, x_2 \in B_r(0)\)에 대해 \[\begin{aligned} \lVert \Phi_y(x_1) - \Phi_y(x_2) \rVert &= \lVert x_1 - x_2 - (F(x_1) - F(x_2)) \rVert \\[6pt] &\leq \sup_{z \in B_r(0)} \lVert I - F'(z) \rVert \cdot \lVert x_1 - x_2 \rVert \\[6pt] &\leq \frac{1}{2} \lVert x_1 - x_2 \rVert \end{aligned}\] 이다. 즉 \(\Phi_y\)는 축소 상수 \(k=1/2\)인 축소 사상이다. 또한 \(\lVert \Phi_y(0) - 0 \rVert = \lVert y \rVert < r/2 = (1-1/2)r\)이므로, 보조정리 1에 의해 \(B_r(0)\) 내에 유일한 해 \(x\)가 존재한다. 따라서 \(F\)는 국소적으로 일대일이며 위로의 함수이다.
다음으로 역함수의 연속성을 보이자. 위의 부등식으로부터 \[\lVert x_1 - x_2 \rVert - \lVert F(x_1) - F(x_2) \rVert \leq \lVert x_1 - x_2 - (F(x_1) - F(x_2)) \rVert \leq \frac{1}{2}\lVert x_1 - x_2 \rVert\] 이므로, \(\frac{1}{2}\lVert x_1 - x_2 \rVert \leq \lVert F(x_1) - F(x_2) \rVert\)이다. 이는 \(F^{-1}\)가 립시츠 연속임을 보여준다.
끝으로 역함수의 미분 가능성을 보이자. \(y,\, y+k \in W\)이고 \(x = F^{-1}(y), x+h = F^{-1}(y+k)\)라 하자. \(F\)의 미분가능성에 의해 \[k = F(x+h) - F(x) = F'(x)h + R(h)\] 이다. 여기서 \(\lVert R(h) \rVert / \lVert h \rVert \to 0\)이다. 작은 근방에서 \(F'(x)\)는 가역이므로, \[h = [F'(x)]^{-1}k - [F'(x)]^{-1}R(h) \] 이다. 따라서 \[F^{-1}(y+k) - F^{-1}(y) - [F'(x)]^{-1}k = -[F'(x)]^{-1}R(h)\] 이다. \(F^{-1}\)가 립시츠 연속이므로 \(\lVert h \rVert = O(\lVert k \rVert)\)이고, 따라서 \(k \to 0\)일 때 우변은 \(0\)으로 수렴한다. 그러므로 \(F^{-1}\)는 미분가능하며 \((F^{-1})'(y) = [F'(x)]^{-1}\)이다.
이제 음함수 정리를 살펴보자. 음함수 정리는 방정식 \(F(x,\, y) = 0\)이 주어졌을 때, 변수 \(y\)를 \(x\)에 대한 함수 \(y = g(x)\)로 표현할 수 있는 조건을 제시한다. 이것은 역함수 정리를 사용하여 증명할 수 있다.
정리 3. (음함수 정리)
\(X,\, Y,\, Z\)가 바나흐 공간이고, \(U \subset X \times Y\)가 열린 집합이라고 하자. \(F : U \rightarrow Z\)가 \(C^1\)-함수이고 \((x_0 ,\, y_0) \in U\)에서 \(F(x_0 ,\, y_0) = 0\)을 만족시킨다고 하자. 만약 \(y\)에 대한 편미분 연산자 \[\partial_y F(x_0,\, y_0) : Y \rightarrow Z\] 가 유계 선형 위상동형사상(가역)이라면, 다음을 만족시키는 \(x_0\)의 열린 근방 \(V \subset X\)와 \(y_0\)의 열린 근방 \(W \subset Y\), 그리고 유일한 함수 \(g : V \rightarrow W\)가 존재한다.
- 임의의 \(x \in V\)에 대하여 \(F(x,\, g(x)) = 0\)이다.
- \(g\)는 \(V\)에서 \(C^1\) 함수이다.
- \(g\)의 미분은 다음과 같다. \[g'(x) = - [\partial_y F(x,\, g(x))]^{-1} \circ [\partial_x F(x,\, g(x))] .\]
증명
새로운 함수 \(\Psi : U \rightarrow X \times Z\)를 다음과 같이 정의하자. \[\Psi(x,\, y) = (x,\, F(x,\, y)) .\] 그러면 \(\Psi\)는 \(C^1\) 함수이며, \((x_0,\, y_0)\)에서의 프레셰 도함수는 다음과 같은 블록 행렬 형태의 연산자이다. \[\Psi'(x_0,\, y_0) = \begin{pmatrix} I_X & 0 \\ \partial_x F(x_0,\, y_0) & \partial_y F(x_0,\, y_0) \end{pmatrix} .\] 가정에 의해 대각 성분인 \(I_X\)와 \(\partial_y F(x_0,\, y_0)\)가 모두 가역이므로, \(\Psi'(x_0,\, y_0)\)는 \(X \times Y\)에서 \(X \times Z\)로 가는 가역 선형연산자이다.
따라서 역함수 정리에 의하여, \((x_0,\, y_0)\)의 근방과 \((x_0,\, 0)\)의 근방 사이에서 \(\Psi\)는 \(C^1\) 역함수 \(\Psi^{-1}\)를 가진다. \(\Psi^{-1}\)는 다음과 같은 형태를 가진다. \[\Psi^{-1}(x,\, z) = (x,\, h(x,\, z)) .\] 이제 \(g(x) = h(x,\, 0)\)이라고 정의하자. 그러면 \[(x,\, 0) = \Psi(x,\, g(x)) = (x,\, F(x,\, g(x)))\] 이므로, \(F(x,\, g(x)) = 0\)을 만족시킨다. \(g\)는 \(C^1\) 함수들의 합성이므로 \(C^1\)이다.
마지막으로 연쇄법칙을 사용하여 \(F(x,\, g(x)) = 0\)의 양변을 \(x\)에 대해 미분하면 \[\partial_x F(x,\, g(x)) + \partial_y F(x,\, g(x)) \circ g'(x) = 0\] 이다. \(\partial_y F\)가 가역이므로, 위 식을 \(g ' (x)\)에 대하여 풀면 \[g'(x) = - [\partial_y F(x,\, g(x))]^{-1} \circ \partial_x F(x,\, g(x))\] 를 얻는다.
역함수 정리와 음함수 정리는 비선형 미분방정식의 해의 존재성을 증명하거나, 해공간의 기하학적 구조(다양체 구조 등)를 밝힐 때 유용하게 사용된다. 다음 글에서는 이러한 미분법의 응용으로서, 범함수의 극값을 찾는 문제와 관련된 변분법의 기초를 살펴보자.