지난 글에서 살펴본 변분법의 직접법은 범함수가 하반연속이고 강압적일 때 전역 최솟값의 존재를 보장한다. 그러나 많은 비선형 문제, 특히 불안정한 평형 상태를 기술하는 문제에서는 최솟값이 아닌 임계점, 즉 안장점(saddle point)을 찾아야 할 필요가 있다.
안장점을 찾는 이론을 임계점 이론(critical point theory)이라고 부르며, 그 중 가장 기본이 되는 정리가 산악 통행로 정리(mountain pass theorem)이다. 무한차원 공간에서 이러한 임계점의 존재성을 증명하기 위해서는, 범함수의 기하학적 구조를 제한하는 조건과 더불어 수렴성을 보장하는 컴팩트성 조건이 필요하다. 이 컴팩트성 조건을 팔레-스메일 조건이라고 부른다.
이 글에서 \(X\)는 실바나흐 공간을 나타내며, \(J \in C^1(X, \mathbb{R})\)은 프레셰 미분가능하고 연속인 도함수를 갖는 범함수를 나타낸다.
정의 1. (팔레-스메일 조건)
범함수 \(J \in C^1(X,\, \mathbb{R})\)이 다음 조건을 만족시킬 때, “\(J\)는 팔레-스메일 조건(Palais-Smale condition)을 만족시킨다”라고 말한다.
\(\{u_n\} \subset X\)이 다음 두 조건을 만족하는 임의의 수열이라고 하자.
- \(\{J(u_n)\}\)은 유계이다.
- \(X^*\)에서 \(J'(u_n) \to 0\)이다. (즉, \(\lim_{n \to \infty} \|J'(u_n)\|_{X^*} = 0\)이다.)
이때 수열 \(\{u_n\}\)이 수렴하는 부분수열을 가진다면, \(J\)는 PS 조건을 만족시킨다.
위 정의에서 조건 (a)와 (b)를 만족하는 수열 \(\{u_n\}\)을 PS 수열이라고 부른다. 유한차원 공간에서는 유계이고 닫힌집합이 컴팩트 집합이므로, PS 수열이 유계임만 보이면 PS 조건이 성립한다. 그러나 무한차원 공간에서는 수열이 유계일지라도 수렴하는 부분수열을 갖지 않을 수 있다. 따라서 PS 조건은 무한차원 변분 문제에서 해의 존재성을 보장하기 위한 필수적인 컴팩트성 조건이다.
다음으로 산악 통행로 정리의 기하학적 조건을 설명하는 정의를 도 입하자. 이 구조는 산으로 둘러싸인 분지에서 출발하여 산을 넘어 다른 저지대로 이동하는 경로 중, 가장 높은 지점의 높이가 최소가 되는 경로를 찾는 문제와 유사하다.
정의 2. (산악 통행로 기하 구조)
범함수 \(J \in C^1(X,\, \mathbb{R})\)이 \(J(0) = 0\)을 만족하고 다음 두 조건을 만족시킬 때, \(J\)는 산악 통행로 기하 구조(mountain pass geometry)를 가진다고 말한다.
- 산맥의 존재: 상수 \(\rho > 0\)와 \(\alpha > 0\)가 존재하여, \(\|u\| = \rho\)인 모든 \(u\)에 대해 \(J(u) \ge \alpha\)이다.
- 산 너머의 계곡: \(\|e\| > \rho\)를 만족하는 원소 \(e \in X\)가 존재하여 \(J(e) \le 0\)이다.
조건 (a)는 원점 \(0\)이 국소적 최솟값(또는 그와 유사한 상태)임을 의미하며, 조건 (b)는 원점에서 어느 정도 떨어진 곳에 원점보다 높지 않은 지점이 존재함을 의미한다. 따라서 원점에서 \(e\)로 가기 위해서는 반드시 함수값이 \(\alpha\) 이상인 영역(산맥)을 통과해야 한다.
이제 임계점 이론의 유명한 정리인 산악 통행로 정리를 기술한다.
정리 3. (산악 통행로 정리, Ambrosetti-Rabinowitz)
\(X\)가 바나흐 공간이고 \(J \in C^1(X,\, \mathbb{R})\)이 팔레-스메일 조건을 만족시키며 산악 통행로 기하 구조를 가진다고 하자.
경로들의 집합 \(\Gamma\)를 다음과 같이 정의한다. \[\Gamma = \{ \gamma \in C([0,\, 1], X) \mid \gamma(0) = 0,\, \gamma(1) = e \} .\] 그리고 실수 \(c\)를 다음과 같이 정의한다. \[ c = \inf_{ \gamma \in \Gamma } \max_{ t \in [0 , \, 1] } J(\gamma(t)) .\] 그러면 \(c \ge \alpha\)이고, \(c\)는 \(J\)의 임곗값이다. 즉, \(J(u) = c\)이고 \(J'(u) = 0\)인 임계점 \(u \in X\)가 존재한다.
증명
세 단계로 나누어 간략하게 살펴보자.
- \(c \ge \alpha\)임을 보이자. 모든 경로 \(\gamma \in \Gamma\)는 원점 \(0\)과 \(e\)를 연결한다. \(\|0\| = 0 < \rho\)이고 \(\|e\| > \rho\)이므로, 사잇값 정리에 의해 모든 경로는 구면 \(\partial B_\rho(0)\)와 교차한다. 즉, 각 \(\gamma\)에 대해 \(\|\gamma(t_0)\| = \rho\)인 \(t_0 \in (0,\, 1)\)이 존재한다. 기하 구조의 조건 (a)에 의해 \[\max_{t \in [0, 1]} J(\gamma(t)) \ge J(\gamma(t_0)) \ge \alpha\] 이다. 이 부등식은 모든 \(\gamma \in \Gamma\)에 대해 성립하므로, 하한을 취하면 \(c \ge \alpha\)이다.
- 다음 단계로, PS 수열을 구성하자. 에켈랜드 변분 원리를 사용하여, 준위 \(c\) 근방에서 다음과 같은 PS 수열 \(\{u_n\}\)이 존재함을 보일 수 있다. \[J(u_n) \to c, \quad \|J'(u_n)\|_{X^*} \to 0 .\] 엄밀하게 증명하려면 변형 보조정리(deformation lemma)를 사용한다. 즉, 만약 \(c\)가 임곗값이 아니라면 경로를 변형하여 최대 높이를 \(c\)보다 낮출 수 있음을 보여 모순을 유도한다.
- 마지막 단계로, 임계점이 존재함을 보이자. 가정에 의해 \(J\)는 PS 조건을 만족시킨다. 따라서 PS 수열 \(\{u_n\}\)은 수렴하는 부분수열 \(\{u_{n_k}\}\)를 가진다. 그 극한을 \(u\)라고 하자. 즉 \(u_{n_k} \to u\)라고 하자. \(J\)는 \(C^1\) 함수이므로 \(J\)와 \(J'\)은 연속이다. 따라서 \[J(u) = \lim_{k \to \infty} J(u_{n_k}) = c\] 이고 \[J'(u) = \lim_{k \to \infty} J'(u_{n_k}) = 0\] 이다. 즉, \(u\)는 \(J(u)=c \ge \alpha > 0 = J(0)\)을 만족시키는 임계점이다. 따라서 \(u\)는 비자명 해이다.
산악 통행로 정리는 타원형 편미분방정식의 비자명 해(nontrivial solution)의 존재성을 보이는 데 사용된다.
보기 4. (반선형 타원형 방정식)
유계인 영역 \(\Omega \subset \mathbb{R}^n\)에서 다음과 같은 디리클레 문제를 살펴보자. \[\begin{cases} -\Delta u = |u|^{p-1}u & \text{in } \Omega \\ u = 0 & \text{on } \partial\Omega \end{cases}\] 여기서 \(1 < p < \frac{n+2}{n-2}\)라고 가정한다. 이 문제에 대응하는 에너지 범함수 \(J : H_0^1(\Omega) \to \mathbb{R}\)은 다음과 같다. \[J(u) = \frac{1}{2} \int_\Omega |\nabla u|^2 \, dx - \frac{1}{p+1} \int_\Omega |u|^{p+1} \, dx .\]
- \(u=0\) 근방에서는 2차항 \(|\nabla u|^2\)이 \(p+1\)차항보다 \(0\)에 가까우므로 \(u=0\)은 국소적 최솟값이다. 즉 산맥 조건이 충족된다.
- \(u\)의 크기가 매우 커지면 \(p+1\)차항(음수)이 2차항(양수)보다 훨씬 빠르게 감소하므로, \(t \to \infty\)일 때 \(J(tu) \to -\infty\)가 된다. 따라서 \(J(e) < 0\)인 \(e\)를 찾을 수 있다.
- 소볼레프 임베딩의 컴팩트성(렐리히-콘드라쇼프 정리)에 의해 \(J\)는 PS 조건을 만족시킨다.
따라서 산악 통행로 정리에 의해, 이 방정식은 자명한 해 \(u=0\) 이외에 적어도 하나의 비자명 해(약해)를 가진다.