이전 글에서 살펴본 민티-브라우더 정리는 시간 변수가 없는 정적(stationary) 방정식 \(A(u) = f\)의 해를 구할 때 사용하는 도구이다. 그러나 열 전도나 파동의 전파처럼 시간이 흐름에 따라 상태가 변하는 현상을 기술하기 위해서는 시간 미분항이 포함된 발전방정식(evolution equation)을 풀어야 한다.
가장 기본적인 형태는 다음과 같은 1계 코시 문제(abstract Cauchy problem)이다. \[\begin{cases} \frac{du}{dt}(t) + A(u(t)) \ni 0 & (t > 0) \\[6pt] u(0) = u_0 \end{cases}\] 여기서 \(A\)는 일반적으로 비선형 연산자이다. 이 방정식의 해가 존재하고 유일하며 초기 조건에 연속적으로 의존한다는 것을 보장하기 위해서는, \(A\)가 단순한 단조성을 넘어선 극대단조성(maximal monotonicity)을 가져야 한다.
이 글에서는 힐베르트 공간 \(H\) 위에서의 극대단조연산자 이론을 살펴본다.
정의 1. (다가연산자와 그래프)
비선형 해석학에서는 연산자가 하나의 값만을 갖지 않고 집합을 값으로 갖는 다가연산자(multi-valued operator)를 허용하는 것이 편리하다. \(A : H \rightarrow 2^H\)를 다가연산자라고 할 때, \(A\)의 그래프를 다음과 같이 정의한다. \[G(A) = \{(x,\, y) \in H \times H \,\vert\, y \in Ax\} .\] \(A\)의 정의역 \(D(A)\)는 \(Ax \neq \varnothing\)인 \(x\)들의 집합이다.
단조성은 그래프의 관점에서 다음과 같이 정의된다. \[\langle y_1 - y_2,\, x_1 - x_2 \rangle \geq 0, \quad \forall (x_1,\, y_1),\, (x_2,\, y_2) \in G(A) .\]
정의 2. (극대단조연산자)
연산자 \(A\)가 단조(monotone)이고, 그 그래프 \(G(A)\)가 포함 관계에 있어 극대(maximal)라면, 즉 \(G(A)\)를 진부분집합으로 포함하는 다른 단조연산자의 그래프가 존재하지 않는다면, \(A\)를 극대단조연산자(maximal monotone operator)라고 부른다.
극대단조성은 연산자의 그래프가 “구멍 없이 꽉 차 있음”을 의미한다. 힐베르트 공간에서 민티(Minty)는 극대단조성을 판별하는 매우 중요한 정리를 증명했다.
정리 3. (민티의 정리)
힐베르트 공간 \(H\)에서 단조연산자 \(A\)가 극대단조이기 위한 필요충분조건은, 임의의 \(\lambda > 0\)에 대하여 연산자 \(I + \lambda A\)가 전사(surjective)인 것이다. 즉, \[R(I + \lambda A) = H .\]
이 정리는 방정식 \(u + \lambda A(u) \ni f\)가 모든 \(f \in H\)에 대해 해를 가짐을 의미한다. 이와 같은 성질은 시간 이산화(implicit Euler method)를 가능하게 하는 중요한 성질이다.
특히 \(A\)가 극대단조이면 각 \(\lambda > 0\)에 대하여 resolvent \[J_\lambda = (I+\lambda A)^{-1}\] 가 \(H\) 위에서 잘 정의되며, 이는 시간 이산화 \[u_{n+1} = J_\tau u_n\] 을 가능하게 하는 중요한 도구가 된다.
선형 이론에서 \(u' + Au = 0\)의 해는 \(e^{-tA}u_0\)로 표현되며, \(\{e^{-tA}\}_{t \ge 0}\)는 축소 반군(semigroup of contractions)을 이룬다. 비선형 극대단조연산자 \(A\)에 대해서도 이와 유사한 이론을 전개할 수 있다.
정리 4. (비선형 축소 반군의 생성)
\(A\)가 힐베르트 공간 \(H\)의 극대단조연산자라고 하자. 그러면 \(\overline{D(A)}\) 위에 정의된 연산자족 \(\{S(t)\}_{t \ge 0}\)가 존재하여 다음을 만족한다.
- \(S(0) = I\)이고, 임의의 \(s, t \ge 0\)에 대하여 \[S(t+s) = S(t)S(s)\] 이다.
- 임의의 \(x, y \in \overline{D(A)}\)와 \(t \ge 0\)에 대하여 \[\|S(t)x - S(t)y\| \le \|x-y\|\] 이다.
- 임의의 \(u_0 \in \overline{D(A)}\)에 대하여 \(u(t)=S(t)u_0\)는 \(C([0,\infty);H)\)에 속하고 \(u(0)=u_0\)이다.
- 추가로 \(u_0 \in D(A)\)이면 \(u\)는 \([0,\infty)\)의 임의의 유계구간에서 절대연속이고, 거의 모든 \(t>0\)에 대하여 \[u'(t) + A(u(t)) \ni 0\] 를 만족한다.
즉, \(A\)는 \(\overline{D(A)}\) 위에서 유일한 비선형 축소 반군을 생성한다.
이 정리는 \(A\)가 비선형이더라도, \(A\)가 극대단조이면 해가 전역적으로 존재하고, 또한 축소 성질 \[\|S(t)x-S(t)y\| \le \|x-y\|\] 에 의해 초기값에 대한 안정성이 보장됨을 뜻한다.
극대단조연산자의 중요한 예로서 볼록함수의 하미분(subdifferential)을 생각할 수 있다.
정의 5. (하미분)
\(\phi : H \rightarrow (-\infty,\, \infty]\)가 순수한 하반연속 볼록함수라고 하자. 즉, \(\phi \not\equiv \infty\)이고 어떤 \(x \in H\)에 대해서는 \(\phi(x) < \infty\)라고 하자. \(x\)에서의 하미분 \(\partial\phi(x)\)는 다음과 같이 정의된다. \[\partial\phi(x) = \{w \in H \,\vert\, \phi(y) \geq \phi(x) + \langle w,\, y - x \rangle,\ \forall y \in H\} .\]
함수 \(\phi\)가 미분가능하다면 \(\partial\phi(x)\)는 단일 원소 \(\{\nabla\phi(x)\}\)를 갖지만, \(|x|\)와 같이 뾰족한 점이 있는 경우 \(\partial\phi(0) = [-1,\, 1]\)과 같이 집합이 될 수 있다. 록카펠라의 정리(Rockafellar’s theorem)에 의하면, 이러한 \(\partial\phi\)는 항상 극대단조연산자이다.
보기 6. (열 방정식과 경사류)
\(H=L^2(\Omega)\)라 하고, 동차 Dirichlet 경계조건을 반영하여 에너지 범함수 \(\phi : L^2(\Omega) \to (-\infty,\infty]\)를 \[\phi(u)= \begin{cases} \displaystyle \frac12 \int_\Omega |\nabla u|^2\,dx, & u \in H_0^1(\Omega),\\[8pt] \infty, & u \notin H_0^1(\Omega) \end{cases}\] 로 정의하자. 그러면 \(\phi\)는 proper한 하반연속 볼록함수이고, 그 하미분 \(\partial\phi\)는 적절한 의미에서 Dirichlet 라플라시안 \(A=-\Delta\)에 해당한다.
따라서 발전포함식 \[u'(t)+\partial\phi(u(t))\ni 0\] 은 열 방정식 \[\frac{\partial u}{\partial t}-\Delta u=0\] 과 대응한다. 또한 \(H_0^1(\Omega)\)는 \(L^2(\Omega)\)에 조밀하므로 \(\overline{D(\partial\phi)}=L^2(\Omega)\)이다. 따라서 정리 4에 의해 임의의 \(u_0 \in L^2(\Omega)\)에 대하여 유일한 \(L^2\)-축소 반군 해가 존재한다. 이 흐름은 에너지 함수 \(\phi\)의 가장 가파른 내리막길을 따라가는 흐름이며, 이를 경사류(gradient flow)라고 부른다.