선형 함수해석학에서 힐베르트 공간 \(H\) 위의 선형연산자 \(T\)가 양연산자(positive operator)라는 것은 모든 \(x \in H\)에 대하여 \(\langle Tx,\, x \rangle \geq 0\)임을 의미한다. 이를 일변수함수 \(f : \mathbb{R} \rightarrow \mathbb{R}\)에 비유하면, 원점을 지나는 직선의 기울기가 양수라는 것과 유사하다.
비선형 해석학에서는 이를 일반화하여, 함수의 도함수가 양수인 성질, 즉 함수가 증가하는(또는 단조인) 성질에 대응하는 개념을 도입한다. 실수 함수 \(f\)가 단조증가한다는 것은 \((f(x) - f(y))(x - y) \geq 0\)임을 의미한다. 이 개념을 바나흐 공간으로 확장한 것이 바로 단조연산자이다. 단조연산자 이론은 비선형 편미분방정식의 해의 존재성과 유일성을 증명하는 데 있어 변분법과 더불어 강력한 접근법이다.
이 글에서 \(X\)는 실바나흐 공간을 나타내며, \(X^*\)는 그 쌍대공간을 나타낸다. 또한 \(\langle f,\, x \rangle\)는 \(f \in X^*\)와 \(x \in X\) 사이의 쌍대곱(duality pairing)을 의미한다.
정의 1. (단조연산자)
\(T : X \rightarrow X^*\)가 비선형연산자라고 하자.
- \(T\)가 단조(monotone)라는 것은 임의의 \(u,\, v \in X\)에 대하여 다음이 성립함을 의미한다. \[\langle T(u) - T(v),\, u - v \rangle \geq 0 .\]
- \(T\)가 순단조(strictly monotone)라는 것은 \(u \neq v\)일 때 위 부등식의 등호가 성립하지 않음을 의미한다. 즉, \[\langle T(u) - T(v),\, u - v \rangle > 0 \quad (u \neq v) .\]
- \(T\)가 강단조(strongly monotone) 또는 강압적 단조라는 것은 상수 \(c > 0\)이 존재하여 임의의 \(u,\, v \in X\)에 대해 다음이 성립함을 의미한다. \[\langle T(u) - T(v),\, u - v \rangle \geq c \|u - v\|^2 .\]
선형연산자 \(L : H \rightarrow H\)의 경우, 단조성은 \(\langle L(u-v),\, u-v \rangle \geq 0\)이 되어 양연산자의 정의와 일치한다. 단조연산자가 중요한 이유는 이것이 볼록성과 깊은 관련을 가지고 있기 때문이다.
정리 2. (볼록성과 단조성)
범함수 \(\phi : X \rightarrow \mathbb{R}\)가 게토 미분가능하다고 하자. 그러면 \(\phi\)가 볼록함수이기 위한 필요충분조건은 그 도함수 \(T(u) = \phi'(u) : X \rightarrow X^*\)가 단조연산자인 것이다.
증명
\(\phi\)가 볼록함수라고 가정하자. 볼록함수의 성질에 의해 임의의 \(u,\, v \in X\)에 대하여 \[\phi(v) \geq \phi(u) + \langle \phi'(u),\, v - u \rangle\] 가 성립한다. \(u\)와 \(v\)의 역할을 바꾸면 \[\phi(u) \geq \phi(v) + \langle \phi'(v),\, u - v \rangle\] 이다. 두 부등식을 변마다 더하면 \[\phi(v) + \phi(u) \geq \phi(u) + \phi(v) + \langle \phi'(u) - \phi'(v),\, v - u \rangle\] 이므로, \[0 \geq -\langle \phi'(u) - \phi'(v),\, u - v \rangle\] 즉, \(\langle T(u) - T(v),\, u - v \rangle \geq 0\)이다.
역으로 \(T=\phi'\)이 단조라고 가정하자. \(t \in [0, 1]\)에 대해 함수 \(g(t) = \phi(u + t(v-u))\)를 생각하면, 미적분학의 기본정리에 의해 \[\phi(v) - \phi(u) = \int_0^1 g'(t) \, dt = \int_0^1 \langle T(u + t(v-u)),\, v - u \rangle \, dt\] 이다. 단조성에 의해 \(\langle T(u + t(v-u)) - T(u), t(v-u) \rangle \geq 0\)이므로, \(t \ge 0\)일 때 \[\langle T(u + t(v-u)),\, v-u \rangle \geq \langle T(u),\, v-u \rangle\]이다. 따라서 \[\phi(v) - \phi(u) \geq \int_0^1 \langle T(u),\, v - u \rangle \, dt = \langle T(u),\, v - u \rangle\] 이므로 \(\phi\)는 볼록함수이다.
비선형연산자를 다룰 때는 연속성의 개념을 세분화할 필요가 있다. 특히 단조연산자 이론에서는 일반적인 노름 연속성보다 약한 연속성 조건만으로도 충분한 경우가 많다.
정의 3. (헤미연속성)
연산자 \(T : X \rightarrow X^*\)가 헤미연속(hemicontinuous)이라는 것은, 임의의 \(u,\, v,\, w \in X\)에 대하여 실수 함수 \(t \mapsto \langle T(u + tv),\, w \rangle\)가 \(t=0\)에서 연속임을 의미한다. 즉, \(T\)는 직선 위에서 약한 위상으로 연속이다.
헤미연속성은 유계 선형연산자의 연속성이나 프레셰 미분가능성보다 훨씬 약한 조건이다. 그러나 단조성과 결합하면 매우 강력한 성질을 갖는다.
단조연산자의 대표적인 예시로 p-라플라시안(p-Laplacian) 연산자가 있다. 이 연산자는 비선형 타원형 편미분방정식을 연구할 때 사용된다.
보기 4. (p-라플라시안)
\(\Omega \subset \mathbb{R}^n\)이 유계인 영역이고 \(1 < p < \infty\)라고 하자. 소볼레프 공간 \(X = W_0^{1,p}(\Omega)\)에서 연산자 \(A : X \rightarrow X^*\)를 다음과 같이 정의한다. \[\langle A(u), v \rangle = \int_\Omega |\nabla u(x)|^{p-2} \nabla u(x) \cdot \nabla v(x) \, dx .\] 이 연산자 \(A\)는 단조연산자이다.
풀이
벡터 함수 \(\xi,\, \eta \in \mathbb{R}^n\)에 대하여 부등식 \[(|\xi|^{p-2}\xi - |\eta|^{p-2}\eta) \cdot (\xi - \eta) \geq 0\] 이 성립한다. (엄밀하게는 \(p \geq 2\)일 때 상수 \(c|\xi - \eta|^p\)보다 크고, \(1 < p < 2\)일 때도 양수이다.) 적분을 사용하여 위 부등식을 나타내면 다음과 같다. \[ \langle A(u) - A(v), u - v \rangle = \int_\Omega (|\nabla u|^{p-2}\nabla u - |\nabla v|^{p-2}\nabla v) \cdot (\nabla u - \nabla v) \, dx \geq 0 . \] 따라서 \(A\)는 단조연산자이다. 더 나아가 \(p \geq 2\)일 때는 순단조와 유사한 성질을 가진다.
이제 단조연산자가 무엇인지 정의했으므로, 이 연산자를 포함하는 방정식 \(T(u) = f\)의 해를 구하는 문제가 남았다. 다음 글에서는 단조연산자 이론의 기본 정리인 민티-브라우더 정리를 통해 단조성, 헤미연속성, 그리고 강압성이 어떻게 해의 존재성과 유일성을 보장하는지 살펴보자.