이전 글에서 살펴본 민티-브라우더 정리는 시간 변수가 없는 정적(stationary) 방정식 \(A(u) = f\)의 해를 구할 때 사용하는 도구이다. 그러나 열 전도나 파동의 전파처럼 시간이 흐름에 따라 상태가 변하는 현상을 기술하기 위해서는 시간 미분항이 포함된 발전방정식(evolution equation)을 풀어야 한다.
가장 기본적인 형태는 다음과 같은 1계 코시 문제(abstract Cauchy problem)이다. \[\begin{cases} \frac{du}{dt}(t) + A(u(t)) \ni 0 & (t > 0) \\[6pt] u(0) = u_0 \end{cases}\] 여기서 \(A\)는 일반적으로 비선형 연산자이다. 이 방정식의 해가 존재하고 유일하며 초기 조건에 연속적으로 의존한다는 것을 보장하기 위해서는, \(A\)가 단순한 단조성을 넘어선 극대단조성(maximal monotonicity)을 가져야 한다.
이 글에서는 힐베르트 공간 \(H\) 위에서의 극대단조연산자 이론을 살펴본다.
정의 1. (다가연산자와 그래프)
비선형 해석학에서는 연산자가 하나의 값만을 갖지 않고 집합을 값으로 갖는 다가연산자(multi-valued operator)를 허용하는 것이 편리하다. \(A : H \rightarrow 2^H\)를 다가연산자라고 할 때, \(A\)의 그래프를 다음과 같이 정의한다. \[G(A) = \{(x,\, y) \in H \times H \,\vert\, y \in Ax\} .\] \(A\)의 정의역 \(D(A)\)는 \(Ax \neq \varnothing\)인 \(x\)들의 집합이다.
단조성은 그래프의 관점에서 다음과 같이 정의된다. \[\langle y_1 - y_2,\, x_1 - x_2 \rangle \geq 0, \quad \forall (x_1,\, y_1),\, (x_2,\, y_2) \in G(A) .\]
정의 2. (극대단조연산자)
연산자 \(A\)가 단조(monotone)이고, 그 그래프 \(G(A)\)가 포함 관계에 있어 극대(maximal)라면, 즉 \(G(A)\)를 진부분집합으로 포함하는 다른 단조연산자의 그래프가 존재하지 않는다면, \(A\)를 극대단조연산자(maximal monotone operator)라고 부른다.
극대단조성은 연산자의 그래프가 “구멍 없이 꽉 차 있음”을 의미한다. 힐베르트 공간에서 민티(Minty)는 극대단조성을 판별하는 매우 중요한 정리를 증명했다.
정리 3. (민티의 정리)
힐베르트 공간 \(H\)에서 단조연산자 \(A\)가 극대단조이기 위한 필요충분조건은, 임의의 \(\lambda > 0\)에 대하여 연산자 \(I + \lambda A\)가 전사(surjective)인 것이다. 즉, \[R(I + \lambda A) = H .\]
이 정리는 방정식 \(u + \lambda A(u) \ni f\)가 모든 \(f \in H\)에 대해 해를 가짐을 의미한다. 이와 같은 성질은 시간 이산화(implicit Euler method)를 가능하게 하는 중요한 성질이다.
선형 이론에서 \(u' + Au = 0\)의 해는 \(e^{-tA}u_0\)로 표현되며, \(\{e^{-tA}\}_{t \ge 0}\)는 축소 반군(semigroup of contractions)을 이룬다. 비선형 극대단조연산자 \(A\)에 대해서도 이와 유사한 이론을 전개할 수 있다.
정리 4. (비선형 반군의 생성)
\(A\)가 힐베르트 공간 \(H\)의 극대단조연산자라고 하자. 그러면 임의의 \(u_0 \in \overline{D(A)}\)에 대하여, 다음을 만족시키는 유일한 함수 \(u \in C([0, \infty);\, H)\)가 존재한다.
- 거의 모든 \(t\)에 대해 \(u(t) \in D(A)\)이다.
- \(u(0) = u_0\)
- \(\left\| \frac{du}{dt}(t) \right\| \leq \frac{C}{t}\)
- \(u(t)\)는 거의 모든 \(t\)에 대해 미분방정식 \(\frac{du}{dt}(t) + A(u(t)) \ni 0\)을 만족시킨다.
이 해를 \(u(t) = S(t)u_0\)로 표기하면, \(S(t)\)는 \(H\) 위에서 비선형 축소 반군을 형성한다. 즉, \(\|S(t)x - S(t)y\| \leq \|x - y\|\)이다.
이 정리는 \(A\)가 비선형이더라도, \(A\)가 극대단조라면 시스템이 안정적이며(축소 성질), 시간이 지남에 따라 해가 존재함을 보장한다.
극대단조연산자의 중요한 예로서 볼록함수의 하미분(subdifferential)을 생각할 수 있다.
정의 5. (하미분)
\(\phi : H \rightarrow (-\infty,\, \infty]\)가 하반연속인 볼록함수라고 하자. 또한 \(\phi\)의 함숫값이 유계인 점이 하나 이상 존재한다고 하자. \(x\)에서의 하미분 \(\partial\phi(x)\)는 다음과 같이 정의된다. \[\partial\phi(x) = \{w \in H \,\vert\, \phi(y) \geq \phi(x) + \langle w,\, y - x \rangle,\, \forall y \in H\} .\]
함수 \(\phi\)가 미분가능하다면 \(\partial\phi(x)\)는 단일 원소 \(\{\nabla\phi(x)\}\)를 갖지만, \(|x|\)와 같이 뾰족한 점이 있는 경우 \(\partial\phi(0) = [-1,\, 1]\)과 같이 집합이 될 수 있다. 록카펠라의 정리(Rockafellar’s theorem)에 의하면, 이러한 \(\partial\phi\)는 항상 극대단조연산자이다.
보기 6. (열 방정식과 경사류)
다음과 같은 에너지 범함수를 살펴보자. \[\phi(u) = \frac{1}{2} \int_\Omega |\nabla u|^2 dx\] 적절한 경계 조건이 주어졌을 때, 이 함수의 하미분은 음의 라플라스 연산자 \(A = -\Delta\)이다. 따라서 발전방정식 \(u' + \partial\phi(u) \ni 0\)은 열 방정식 \[\frac{\partial u}{\partial t} - \Delta u = 0\] 이 된다. 정리 4에 의해, 초기 조건 \(u_0 \in L^2(\Omega)\)에 대해 열 방정식의 유일한 해가 존재함을 알 수 있다. 이처럼 에너지 함수 \(\phi\)의 가장 가파른 내리막길을 따라가는 흐름을 경사류(gradient flow)라고 부른다.