지난 글에서 “컴팩트 집합 위에서 정의된 하반연속 함수는 최솟값을 가진다”라는 일반화된 바이어슈트라스 정리를 살펴보았다. 그러나 무한차원 바나흐 공간에서는 유계이고 닫힌집합이 노름 위상에서 컴팩트가 아닐 수 있다. 따라서 기존의 방식으로는 최솟값의 존재를 보장할 수 없다.
이 난관을 돌파하는 열쇠는 바로 약위상(weak topology)이다. 힐베르트 공간이나 반사적 바나흐 공간에서 유계인 닫힌집합은 약컴팩트(weakly compact) 집합이다. 따라서 함수가 노름 위상이 아닌, ‘약위상’에 대해 하반연속이라면 최솟값의 존재를 증명할 수 있다.
이 글에서는 변분법의 직접법(direct method)이라 불리는 최솟값 존재 정리를 살펴본다. 이 그레서 \(X\)는 바나흐 공간을 의미한다.
정의 1. (약하반연속성)
함수 \(f : X \rightarrow \mathbb{R} \cup \{+\infty\}\)가 약하반연속(Weakly Lower Semicontinuous, w.l.s.c.)이라는 것은, \(X\)에서 \(x\)로 약수렴하는 임의의 수열 \(x_n \rightharpoonup x\)에 대하여 다음이 성립함을 의미한다. \[f(x) \leq \liminf_{n \rightarrow \infty} f(x_n) .\]
노름 연속인 함수라도 약하반연속이 아닐 수 있다. 하지만 함수가 볼록함수라면 이야기가 달라진다. 볼록해석학의 가장 아름다운 결과 중 하나는 볼록성이 위상 간의 차이를 메워준다는 것이다.
정리 2. (볼록성과 약하반연속성)
\(f : X \rightarrow \mathbb{R} \cup \{+\infty\}\)가 볼록함수이고 (노름)하반연속이라고 하자. 그러면 \(f\)는 약하반연속이다.
증명
지난 글에서 \(f\)가 하반연속일 필요충분조건은 에피그래프 \(\operatorname{epi}(f)\)가 닫힌집합인 것임을 보였다. \(f\)가 볼록함수이므로 \(\operatorname{epi}(f)\)는 \(X \times \mathbb{R}\)에서 볼록집합이다.
마주르의 정리(Mazur’s theorem)에 의하여, 바나흐 공간에서 볼록하고 닫힌집합은 약하게 닫힌(weakly closed) 집합이다. 따라서 \(\operatorname{epi}(f)\)는 약위상에서도 닫혀 있다. 에피그래프가 약하게 닫힌집합이라는 것은 함수가 약하반연속이라는 것과 동치이므로, \(f\)는 약하반연속이다.
이제 최솟값 존재를 위한 또 하나의 조건인 강압성(coercivity)을 정의하자. 강압성은 정의역이 유계가 아닐 때, 최소화 수열이 무한대로 발산하지 못하도록 막아주는 역할을 한다.
정의 3. (강압성)
함수 \(f : X \rightarrow \mathbb{R} \cup \{+\infty\}\)가 강압적(coercive)이라는 것은 노름이 무한대로 갈 때 함숫값도 무한대로 발산함을 의미한다. \[\lim_{\lVert x \rVert \rightarrow \infty} f(x) = +\infty .\]
이제 드디어 변분법의 기본 정리를 증명할 준비가 되었다. 이 정리는 미분방정식의 약해(weak solution)를 찾는 데 가장 자주 사용되는 도구이다.
정리 4. (변분법의 기본 정리 - 직접법)
\(X\)가 반사적 바나흐 공간이고, 함수 \(f : X \rightarrow \mathbb{R} \cup \{+\infty\}\)가 다음 세 조건을 만족시킨다고 하자.
- \(f\)는 볼록함수이다.
- \(f\)는 하반연속이다. (노름 위상을 가정한다.)
- \(f\)는 강압적이다. (단, 정의역이 유계라면 생략 가능하다.)
그러면 \(f\)는 \(X\)에서 최솟값을 가진다. 즉, \(f(x^*) = \inf_{x \in X} f(x)\)인 \(x^* \in X\)가 존재한다. 만약 \(f\)가 강볼록(strictly convex)하다면, 최솟값을 갖는 점은 유일하다.
증명
네 단계를 통해 증명한다. 여기서는 그 과정을 간략하게 살펴보자.
- 1단계. 최소화 수열을 구성한다. 즉 하한값을 \(m = \inf_{x \in X} f(x)\)라고 하자. \(f(x_n) \rightarrow m\)인 최소화 수열 \(\{x_n\}\)을 선택한다.
- 2단계. \(f\)가 강압적이므로, 수열 \(\{x_n\}\)은 유계여야 한다. 만약 \(\lVert x_n \rVert \to \infty\)라면 \(f(x_n) \to \infty\)가 되어 최소화 수열이라는 가정에 모순이다.
- 3단계. \(X\)가 반사적 공간이므로, Eberlein-Smulian 정리에 의하여 유계 수열 \(\{x_n\}\)은 약수렴하는 부분수열을 가진다. 편의상 부분수열을 다시 \(\{x_n\}\)이라 하고, 약극한을 \(x^*\)라고 하자. \[x_n \rightharpoonup x^* .\]
- 4단계. 정리 2에 의하여, 볼록하고 하반연속인 \(f\)는 약하반연속이다. 따라서 약극한 \(x^*\)에 대하여 다음 부등식이 성립한다. \[f(x^*) \leq \liminf_{n \rightarrow \infty} f(x_n) .\] 우변의 극한값은 \(m\)이므로, \(f(x^*) \leq m\)이다. 그런데 \(m\)은 하한(infimum)이므로 \(f(x^*) < m\)일 수는 없다. 따라서 \(f(x^*) = m\)이다. 즉, \(x^*\)가 최솟값이다.
보기 5. (디리클레 원리)
유계 영역 \(\Omega \subset \mathbb{R}^n\)에서 다음 에너지 범함수(디리클레 적분)를 최소화하는 함수 \(u\)를 찾고자 한다. \[J(u) = \int_\Omega \frac{1}{2} |\nabla u(x)|^2 \, dx - \int_\Omega f(x)u(x) \, dx .\] 공간은 소볼레프 공간 \(X = H_0^1(\Omega)\)이다.
- \(H_0^1(\Omega)\)는 힐베르트 공간이므로 반사적이다.
- \(|\nabla u|^2\)은 2차 함수이므로 볼록하고, 선형항도 볼록하므로 \(J\)는 볼록하다.
- \(J\)는 노름에 대해 연속이므로 하반연속이다.
- 푸앵카레 부등식(Poincaré inequality)에 의해 \(\int |\nabla u|^2 \geq C \lVert u \rVert^2\)이므로, \(u\)가 커지면 \(J(u)\)도 무한대로 발산한다. 즉 강압성 조건을 만족시킨다.
따라서 정리 4에 의해 \(J(u)\)를 최소화하는 해 \(u^*\)가 반드시 존재한다. 이 \(u^*\)는 오일러-라그랑주 방정식인 포아송 방정식 \(-\Delta u = f\)의 약해(weak solution)가 된다.
이처럼 약하반연속성은 편미분방정식의 해를 변분법적으로 찾는 데 있어 가장 강력한 도구를 제공한다. 하지만 모든 문제가 최솟값 문제로 귀결되는 것은 아니다. 때로는 최솟값이 아닌 임계점(안장점 등)을 찾아야 할 때가 있다. 다음 글에서는 최솟값에 “거의” 도달하는 점들의 성질을 다루는 에켈랜드 변분 원리를 살펴보자.