이전 글에서 바나흐 공간에서의 미분을 정의하였다. 유한차원 미적분학에서 함수 \(f\)가 \(x\)에서 극값을 가질 필요조건이 \(f'(x) = 0\)인 것처럼, 무한차원 공간에서도 범함수 \(J\)가 \(y\)에서 극값을 가질 필요조건은 \(J'(y) = 0\)이다.
변분법(calculus of variations)은 이러한 원리를 바탕으로, 적분 형태로 표현된 범함수의 최솟값이나 최댓값을 찾는 수학 분야이다. 이 글에서는 변분법의 가장 기본이 되는 오일러-라그랑주 방정식을 살펴보자.
정의 1. (범함수와 변분)
구간 \([a,\, b]\)에서 정의된 함수들의 공간 \(X\)를 생각하자. (예를 들어 \(C^1[a,\, b]\) 같은 공간을 생각할 수 있다.) 다음과 같은 형태의 적분으로 정의된 범함수 \(J : X \rightarrow \mathbb{R}\)를 살펴보자. \[J(y) = \int_a^b L(x, y(x), y'(x)) \, dx .\] 여기서 \(L(x,\, y,\, y')\)은 위치 \(x\), 함수값 \(y\), 도함수 \(y'\)에 의존하는 함수이다. 이 함수를 라그랑주 함수(Lagrangian)라고 부른다. 또한, \(J\)의 게토 미분을 \(J\)의 제 1 변분(first variation)이라고 부르며 \(\delta J\)로 표기하기도 한다.
우리의 목표는 경계 조건 \(y(a) = y_a,\) \(y(b) = y_b\)를 만족시키면서 \(J(y)\)를 최소화(또는 최대화)하는 함수 \(y\)를 찾는 것이다. 이를 위해 \(y\)에 작은 변화(perturbation)를 주어 미분계수가 \(0\)이 되는 조건을 찾는다.
오일러-라그랑주 방정식을 유도하기 위해서는 다음 보조정리가 필수적이다. 다음 보조정리는 적분값이 모든 테스트 함수에 대해 \(0\)이라면, 피적분 함수 자체가 \(0\)이어야 함을 의미한다.
보조정리 2. (변분법의 기본 정리)
\(f\)가 \([a,\, b]\)에서 연속인 함수라고 하자. 만약 \(h(a) = h(b) = 0\)을 만족시키고 미분 가능하며 연속인 도함수를 갖는 임의의 함수 \(h(x)\)에 대하여 \[\int_a^b f(x)h(x) \, dx = 0\] 이 성립한다면, 모든 \(x \in [a,\, b]\)에 대하여 \(f(x) = 0\)이다.
증명
결론을 부정하여 어떤 \(x_0 \in (a,\, b)\)에 대해 \(f(x_0) > 0\)이라고 가정하자. \(f\)가 연속이므로 \(x_0\)의 적당한 근방 \((x_0 - \delta,\, x_0 + \delta)\)에서 \(f(x) > 0\)이다. 이제 함수 \(h(x)\)를 다음과 같이 정의하자. \[h(x) = \begin{cases} (x - (x_0 - \delta))( (x_0 + \delta) - x ) & \text{if } |x - x_0| < \delta , \\[6pt] 0 & \text{otherwise} \end{cases}\] 이 함수 \(h\)는 연속이며, 경계 조건을 만족시키고, 구간 \((x_0 - \delta, x_0 + \delta)\)에서 양수이다. 따라서 \[\int_a^b f(x)h(x) \, dx = \int_{x_0-\delta}^{x_0+\delta} f(x)h(x) \, dx > 0\] 이 되어 가정에 모순이다. \(f(x_0) < 0\)인 경우도 마찬가지이다. 따라서 \(f(x) \equiv 0\)이다.
이제 변분법의 핵심 정리인 오일러-라그랑주 방정식을 유도하자. 이 등식은 미분방정식을 사용하여 \(J'(y) = 0\)이라는 방정식을 구체적인 형태로 표현한 것이다.
정리 3. (오일러-라그랑주 방정식)
\(L\)이 각 변수에 대해 두 번 미분가능하고, 연속인 이계도함수를 가진다고 하자. 함수 \(y\)가 범함수 \(J(y) = \int_a^b L(x,\, y,\, y') \, dx\)가 극값을 갖는 점이며, 경계 조건 \(y(a)=y_a,\, y(b)=y_b\)가 고정되어 있다면, \(y\)는 다음 미분방정식을 만족시킨다. \[\frac{\partial L}{\partial y} - \frac{d}{dx} \left( \frac{\partial L}{\partial y'} \right) = 0 .\]
증명
\(y\)가 \(J(y)\)가 극값을 갖게 하는 함수라고 가정하자. 경계 조건이 고정되어 있으므로, \(h(a) = h(b) = 0\)을 만족시키는 임의의 함수 \(h\)에 대하여 \(y + th\) 형태의 변화를 고려해야 한다. \(t\)에 대한 함수 \(g(t) = J(y + th)\)를 정의하면, \(y\)가 극값이므로 \(g'(0) = 0\)이어야 한다. 이것은 \(y\)에서의 방향 \(h\)에 대한 게토 미분이 \(0\)이라는 것과 같다. 따라서 연쇄 법칙에 의하여 다음 등식을 얻는다. \[\begin{aligned} 0 = g'(0) &= \frac{d}{dt} \bigg|_{t=0} \int_a^b L(x, y+th, y'+th') \, dx \\[6pt] &= \int_a^b \left( \frac{\partial L}{\partial y} h + \frac{\partial L}{\partial y'} h' \right) \, dx . \end{aligned}\] 이제 두 번째 항 \(\frac{\partial L}{\partial y'} h'\)에 부분적분법을 적용하자. \[\int_a^b \frac{\partial L}{\partial y'} h' \, dx = \left[ \frac{\partial L}{\partial y'} h \right]_a^b - \int_a^b \frac{d}{dx} \left( \frac{\partial L}{\partial y'} \right) h \, dx .\] 가정에 의해 \(h(a) = h(b) = 0\)이므로, 대괄호 항(경계항)은 \(0\)이 되어 사라진다. 따라서 식을 정리하면 다음과 같다. \[0 = \int_a^b \left( \frac{\partial L}{\partial y} - \frac{d}{dx} \left( \frac{\partial L}{\partial y'} \right) \right) h(x) \, dx .\] 이 등식이 임의의 \(h\)에 대해 성립하므로, 변분법의 기본 정리(보조정리 2)에 의하여 피적분 함수의 괄호 부분은 \(0\)이어야 한다. \[\frac{\partial L}{\partial y} - \frac{d}{dx} \left( \frac{\partial L}{\partial y'} \right) = 0 .\] 이로써 바라는 결과를 얻는다.
이 방정식은 범함수의 임계점(critical point)을 찾는 필요조건이다. 이 방정식은 일반적으로 \(y\)에 대한 2계 비선형 상미분방정식이 된다.
보기 4. (평면 위의 최단 거리)
평면 위의 두 점 \((a,\, y_a)\)와 \((b,\, y_b)\)를 잇는 곡선 중 길이가 가장 짧은 것을 찾아보자. 곡선의 길이는 다음과 같은 범함수로 주어진다. \[J(y) = \int_a^b \sqrt{1 + (y')^2} \, dx .\] 여기서 \(L(x,\, y,\, y') = \sqrt{1 + (y')^2}\)이다.
풀이
오일러-라그랑주 방정식을 적용하기 위해 편미분을 계산하자. \(L\)이 \(y\)를 명시적으로 포함하지 않으므로 \(\frac{\partial L}{\partial y} = 0\)이다. 또한 \[\frac{\partial L}{\partial y'} = \frac{1}{2\sqrt{1 + (y')^2}} \cdot 2y' = \frac{y'}{\sqrt{1 + (y')^2}}\] 이다. 오일러-라그랑주 방정식에 대입하면 \[0 - \frac{d}{dx} \left( \frac{y'}{\sqrt{1 + (y')^2}} \right) = 0\] 이다. 즉, 괄호 안의 식은 상수 \(C\)여야 한다. \[\frac{y'}{\sqrt{1 + (y')^2}} = C .\] 이 식을 \(y'\)에 대해 풀면 \(y' = \text{(constant)}\) 꼴이 되므로, \(y(x) = mx + k\) 형태의 일차함수가 된다. 따라서 두 점 사이의 최단 거리는 선분의 길이이다.