이전 글에서 바나흐 공간에서의 미분을 정의하였다. 유한차원 미적분학에서 함수 \(f\)가 \(x\)에서 극값을 가질 필요조건이 \(f'(x) = 0\)인 것처럼, 무한차원 공간에서도 범함수 \(J\)가 \(y\)에서 극값을 가질 필요조건은 \(J'(y) = 0\)이다.
변분법(calculus of variations)은 이러한 원리를 바탕으로, 적분 형태로 표현된 범함수의 최솟값이나 최댓값을 찾는 수학 분야이다. 이 글에서는 변분법의 가장 기본이 되는 오일러-라그랑주 방정식을 살펴보자.
이 글에서는 고전적인 오일러-라그랑주 방정식을 다루기 위하여 admissible class를 \[\mathcal{A}=\{\, y\in C^2[a,b] \mid y(a)=y_a,\; y(b)=y_b \,\}\] 로 두겠다. 또한 변분 \(h\)는 \[h \in C^1[a,b], \qquad h(a)=h(b)=0\] 를 만족하는 함수로 잡는다.
정의 1. (범함수와 변분)
구간 \([a,\, b]\)에서 정의된 함수들의 공간 \(X\)를 생각하자. 다음과 같은 형태의 적분으로 정의된 범함수 \(J : X \rightarrow \mathbb{R}\)를 살펴보자. \[J(y) = \int_a^b L(x, y(x), y'(x)) \, dx .\] 여기서 \(L(x,\, y,\, y')\)은 위치 \(x\), 함수값 \(y\), 도함수 \(y'\)에 의존하는 함수이며, 이를 라그랑주 함수(Lagrangian)라고 부른다.
또한 \(y \in X\)와 변분 \(h\)에 대하여 \(J\)의 방향미분 \[\delta J(y;h)=\left.\frac{d}{dt}\right|_{t=0} J(y+th)\] 이 존재하면, 이를 \(J\)의 \(y\)에서 방향 \(h\)에 대한 제1변분(first variation)이라고 부른다.
우리의 목표는 경계 조건 \(y(a) = y_a,\) \(y(b) = y_b\)를 만족시키면서 \(J(y)\)를 최소화(또는 최대화)하는 함수 \(y\)를 찾는 것이다. 이를 위해 \(y\)에 작은 변화(perturbation)를 주어 미분계수가 \(0\)이 되는 조건을 찾는다.
오일러-라그랑주 방정식을 유도하기 위해서는 다음 보조정리가 필수적이다. 다음 보조정리는 적분값이 모든 테스트 함수에 대해 \(0\)이라면, 피적분 함수 자체가 \(0\)이어야 함을 의미한다.
보조정리 2. (변분법의 기본 정리)
\(f\)가 \([a,\, b]\)에서 연속인 함수라고 하자. 만약 \(h(a) = h(b) = 0\)을 만족시키고 미분 가능하며 연속인 도함수를 갖는 임의의 함수 \(h(x)\)에 대하여 \[\int_a^b f(x)h(x) \, dx = 0\] 이 성립한다면, 모든 \(x \in [a,\, b]\)에 대하여 \(f(x) = 0\)이다.
증명
결론을 부정하여 어떤 \(x_0 \in (a,\, b)\)에 대해 \(f(x_0) > 0\)이라고 가정하자. \(f\)가 연속이므로 적당한 \(\delta >0\)에 대하여 \((x_0-\delta,\,x_0+\delta)\subset (a,b)\)이고 그 구간에서 \(f(x)>0\)이다. 이제 \[h(x)= \begin{cases} (x-(x_0-\delta))((x_0+\delta)-x), & \text{if } |x-x_0|<\delta,\\[6pt] 0, & \text{otherwise} \end{cases}\] 라고 두자. 이 함수는 \(C^1[a,b]\)에 속하고 \(h(a)=h(b)=0\)이며, \((x_0-\delta,\,x_0+\delta)\)에서 양수이다. 따라서 \[\int_a^b f(x)h(x)\,dx = \int_{x_0-\delta}^{x_0+\delta} f(x)h(x)\,dx > 0\] 이 되어 가정에 모순이다. \(f(x_0)<0\)인 경우도 마찬가지이다. 따라서 \(f(x)\equiv 0\)이다.
이제 변분법의 핵심 정리인 오일러-라그랑주 방정식을 유도하자. 이 등식은 미분방정식을 사용하여 \(J'(y) = 0\)이라는 방정식을 구체적인 형태로 표현한 것이다.
정리 3. (오일러-라그랑주 방정식)
\(L \in C^2([a,b]\times \mathbb{R}\times \mathbb{R})\)라고 하자. 범함수 \[J(y)=\int_a^b L(x,\, y(x),\, y'(x))\,dx\] 를 \(\mathcal{A}\) 위에 정의하자. 만약 \(y \in \mathcal{A}\)가 \(J\)의 국소적 극값을 주면, \(y\)는 \([a,b]\)에서 다음 오일러-라그랑주 방정식을 만족한다. \[\frac{\partial L}{\partial y}(x, y(x), y'(x)) -\frac{d}{dx}\!\left(\frac{\partial L}{\partial y'}(x, y(x), y'(x))\right)=0 .\]
증명
\(y \in \mathcal{A}\)에서 \(J\)가 국소적 극값을 가진다고 하자. \(h \in C^1[a,b]\)가 \(h(a)=h(b)=0\)을 만족하면, 충분히 작은 \(t\)에 대하여 \(y+th\)도 같은 경계 조건을 만족한다. 따라서 \[g(t)=J(y+th)=\int_a^b L\bigl(x,\, y(x)+t h(x),\, y'(x)+t h'(x)\bigr)\,dx\] 를 정의하면 \(t=0\)은 \(g\)의 극값점이므로 \(g'(0)=0\)이다.
\(L\in C^2\)이고 \(y\in C^2[a,b]\), \(h\in C^1[a,b]\)이므로 적분 안에서 미분할 수 있어 \[\begin{aligned} 0=g'(0) &= \int_a^b \left( \frac{\partial L}{\partial y}(x, y(x), y'(x))\,h(x) +\frac{\partial L}{\partial y'}(x, y(x), y'(x))\,h'(x) \right)\,dx . \end{aligned}\] 를 얻는다.
이제 \[p(x)=\frac{\partial L}{\partial y'}(x, y(x), y'(x))\] 라고 두자. \(L\in C^2\)이고 \(y\in C^2[a,b]\)이므로 \(p\in C^1[a,b]\)이다. 따라서 부분적분을 적용하면 \[\int_a^b p(x)h'(x)\,dx = [p(x)h(x)]_a^b-\int_a^b p'(x)h(x)\,dx . \] 그런데 \(h(a)=h(b)=0\)이므로 경계항은 \(0\)이다. 따라서 \[ 0=\int_a^b \left( \frac{\partial L}{\partial y}(x, y(x), y'(x)) -\frac{d}{dx}\frac{\partial L}{\partial y'}(x, y(x), y'(x)) \right) h(x)\,dx . \] 이 식이 모든 \(h\in C^1[a,b]\) with \(h(a)=h(b)=0\)에 대하여 성립하므로, 변분법의 기본 정리(보조정리 2)에 의해 \[\frac{\partial L}{\partial y}(x, y(x), y'(x)) -\frac{d}{dx}\!\left(\frac{\partial L}{\partial y'}(x, y(x), y'(x))\right)=0\] 가 \([a,b]\)의 모든 \(x\)에 대하여 성립한다.
이 방정식은 범함수의 임계점(critical point)을 찾는 필요조건이다. 이 방정식은 일반적으로 \(y\)에 대한 2계 비선형 상미분방정식이 된다.
보기 4. (평면 위의 최단 거리)
평면 위의 두 점 \((a,\, y_a)\)와 \((b,\, y_b)\)를 잇는 곡선 중 길이가 가장 짧은 것을 찾아보자. 곡선의 길이는 다음과 같은 범함수로 주어진다. \[J(y) = \int_a^b \sqrt{1 + (y')^2} \, dx .\] 여기서 \(L(x,\, y,\, y') = \sqrt{1 + (y')^2}\)이다.
풀이
오일러-라그랑주 방정식을 적용하기 위해 편미분을 계산하자. \(L\)이 \(y\)를 명시적으로 포함하지 않으므로 \(\frac{\partial L}{\partial y} = 0\)이다. 또한 \[\frac{\partial L}{\partial y'} = \frac{1}{2\sqrt{1 + (y')^2}} \cdot 2y' = \frac{y'}{\sqrt{1 + (y')^2}}\] 이다. 오일러-라그랑주 방정식에 대입하면 \[0 - \frac{d}{dx} \left( \frac{y'}{\sqrt{1 + (y')^2}} \right) = 0\] 이다. 즉, 괄호 안의 식은 상수 \(C\)여야 한다. \[\frac{y'}{\sqrt{1 + (y')^2}} = C .\] 이 식을 \(y'\)에 대해 풀면 \(y' = \text{(constant)}\) 꼴이 되므로, \(y(x) = mx + k\) 형태의 일차함수가 된다. 따라서 두 점 사이의 최단 거리는 선분의 길이이다.