선형 함수해석학에서 힐베르트 공간 \(H\) 위의 선형연산자 \(T\)가 양연산자(positive operator)라는 것은 모든 \(x \in H\)에 대하여 \(\langle Tx,\, x \rangle \geq 0\)임을 의미한다. 이를 일변수함수 \(f : \mathbb{R} \rightarrow \mathbb{R}\)에 비유하면, 원점을 지나는 직선의 기울기가 양수라는 것과 유사하다.
비선형 해석학에서는 이를 일반화하여, 함수의 도함수가 양수인 성질, 즉 함수가 증가하는(또는 단조인) 성질에 대응하는 개념을 도입한다. 실수 함수 \(f\)가 단조증가한다는 것은 \((f(x) - f(y))(x - y) \geq 0\)임을 의미한다. 이 개념을 바나흐 공간으로 확장한 것이 바로 단조연산자이다. 단조연산자 이론은 비선형 편미분방정식의 해의 존재성과 유일성을 증명하는 데 있어 변분법과 더불어 강력한 접근법이다.
이 글에서 \(X\)는 실바나흐 공간을 나타내며, \(X^*\)는 그 쌍대공간을 나타낸다. 또한 \(\langle f,\, x \rangle\)는 \(f \in X^*\)와 \(x \in X\) 사이의 쌍대곱(duality pairing)을 의미한다.
정의 1. (단조연산자)
\(T : X \rightarrow X^*\)가 연산자라고 하자.
- \(T\)가 단조(monotone)라는 것은 임의의 \(u,\, v \in X\)에 대하여 다음이 성립함을 의미한다. \[\langle T(u) - T(v),\, u - v \rangle \geq 0 .\]
- \(T\)가 순단조(strictly monotone)라는 것은 \(u \neq v\)일 때 \[\langle T(u) - T(v),\, u - v \rangle > 0\] 가 성립함을 의미한다.
- \(T\)가 강단조(strongly monotone)라는 것은 상수 \(c > 0\)가 존재하여 임의의 \(u,\, v \in X\)에 대하여 \[\langle T(u) - T(v),\, u - v \rangle \geq c \|u - v\|^2\] 이 성립함을 의미한다.
실힐베르트 공간 \(H\) 위의 선형연산자 \(L : H \rightarrow H\)의 경우, 단조성은 \[\langle L(u-v),\, u-v \rangle \geq 0 \qquad (u,v \in H)\] 와 동치이며, 이는 모든 \(x \in H\)에 대하여 \[\langle Lx,\, x \rangle \geq 0\] 이 성립한다는 뜻과 같다. 따라서 실힐베르트 공간에서는 선형연산자의 단조성이 양연산자 조건과 일치한다. 단조연산자가 중요한 이유는 이것이 볼록성과 깊은 관련을 가지고 있기 때문이다.
정리 2. (볼록성과 단조성)
범함수 \(\phi : X \rightarrow \mathbb{R}\)가 게토 미분가능하다고 하자. 그러면 \(\phi\)가 볼록함수이기 위한 필요충분조건은 그 도함수 \(T(u) = \phi'(u) : X \rightarrow X^*\)가 단조연산자인 것이다.
증명
\(\phi\)가 볼록함수라고 가정하자. 볼록함수의 성질에 의해 임의의 \(u,\, v \in X\)에 대하여 \[\phi(v) \geq \phi(u) + \langle \phi'(u),\, v - u \rangle\] 가 성립한다. \(u\)와 \(v\)의 역할을 바꾸면 \[\phi(u) \geq \phi(v) + \langle \phi'(v),\, u - v \rangle\] 이다. 두 부등식을 변마다 더하면 \[\phi(v) + \phi(u) \geq \phi(u) + \phi(v) + \langle \phi'(u) - \phi'(v),\, v - u \rangle\] 이므로, \[0 \geq -\langle \phi'(u) - \phi'(v),\, u - v \rangle .\] 즉, \[\langle T(u) - T(v),\, u - v \rangle \geq 0\] 이다.
역으로 \(T=\phi'\)이 단조라고 가정하자. \(h = v-u\)라 두고 \[g(t) = \phi(u + th)\qquad (t \in [0,1])\] 를 생각하자. \(\phi\)가 게토 미분가능하므로 \(g\)는 미분가능하고 \[g'(t) = \langle T(u+th),\, h \rangle\] 이다. 이제 \(0 \le s < t \le 1\)이면 단조성에 의해 \[0 \le \langle T(u+th)-T(u+sh),\, (u+th)-(u+sh)\rangle = (t-s)\langle T(u+th)-T(u+sh),\, h\rangle .\] 따라서 \(t-s>0\)이므로 \[g'(t) \ge g'(s)\] 이다. 즉, \(g'\)는 증가함수이다. 그러므로 \(g\)는 볼록함수이고, \[g(1) \ge g(0) + g'(0)\] 를 얻는다. 이것은 \[\phi(v) \ge \phi(u) + \langle T(u),\, v-u\rangle\] 와 같다. 따라서 \(\phi\)는 볼록함수이다.
비선형연산자를 다룰 때는 연속성의 개념을 세분화할 필요가 있다. 특히 단조연산자 이론에서는 일반적인 노름 연속성보다 약한 연속성 조건만으로도 충분한 경우가 많다.
정의 3. (헤미연속성)
연산자 \(T : X \rightarrow X^*\)가 헤미연속(hemicontinuous)이라는 것은, 임의의 \(u,\, v,\, w \in X\)에 대하여 실수 함수 \[t \mapsto \langle T(u + tv),\, w \rangle\] 가 연속임을 의미한다. 동치인 명제를 사용하여 달리 표현하면, 임의의 \(u,\, v \in X\)에 대하여 \(t \mapsto T(u+tv)\)는 \(X^*\)의 약한 위상 \(\sigma(X^*,X)\)에 관하여 연속이다.
헤미연속성은 유계 선형연산자의 연속성이나 프레셰 미분가능성보다 훨씬 약한 조건이다. 그러나 단조성과 결합하면 매우 강력한 성질을 갖는다.
단조연산자의 대표적인 예시로 p-라플라시안(p-Laplacian) 연산자가 있다. 이 연산자는 비선형 타원형 편미분방정식을 연구할 때 사용된다.
보기 4. (p-라플라시안)
\(\Omega \subset \mathbb{R}^n\)이 유계인 영역이고 \(1 < p < \infty\)라고 하자. 소볼레프 공간 \(X = W_0^{1,p}(\Omega)\)에서 연산자 \(A : X \rightarrow X^*\)를 다음과 같이 정의한다. \[\langle A(u), v \rangle = \int_\Omega |\nabla u(x)|^{p-2} \nabla u(x) \cdot \nabla v(x) \, dx .\] 이 연산자 \(A\)는 단조연산자이다.
풀이
\(\mathbb{R}^n\)에서 사상 \(\xi \mapsto |\xi|^{p-2}\xi\)는 \(1 < p < \infty\)일 때 단조이며, 더 나아가 모든 \(\xi,\, \eta \in \mathbb{R}^n\)에 대하여 \[\bigl(|\xi|^{p-2}\xi - |\eta|^{p-2}\eta\bigr) \cdot (\xi - \eta) \ge 0\] 가 성립하고, 등호는 \(\xi=\eta\)일 때에만 성립한다. 따라서 \[\langle A(u) - A(v),\, u - v \rangle = \int_\Omega \bigl(|\nabla u|^{p-2}\nabla u - |\nabla v|^{p-2}\nabla v\bigr)\cdot(\nabla u-\nabla v)\,dx\ge 0 \] 이므로 \(A\)는 단조연산자이다.
또한 위 적분값이 \(0\)이면 \(\nabla u = \nabla v\)가 거의 모든 곳에서 성립한다. 따라서 \(u-v \in W_0^{1,p}(\Omega)\)이고 \(\nabla(u-v)=0\) a.e.이므로 \(u=v\)이다. 그러므로 \(A\)는 실제로 순단조연산자이다.
이제 단조연산자가 무엇인지 정의했으므로, 이 연산자를 포함하는 방정식 \(T(u) = f\)의 해를 구하는 문제가 남았다. 다음 글에서는 단조연산자 이론의 기본 정리인 민티-브라우더 정리를 통해 단조성, 헤미연속성, 그리고 강압성이 어떻게 해의 존재성과 유일성을 보장하는지 살펴보자.