적분론 2부: 리만-스틸체스 적분

28

구간 \([a,b]\)에 가느다란 막대가 놓여 있고, 각 점에서 막대의 밀도가 연속함수 \(\rho(x)\)로 주어졌다고 하자. 이때 막대 전체의 질량은 다음과 같은 리만 적분으로 계산된다. \[\int_a^b\rho(x)\,dx\] 이번에는 막대 위의 한 점 \(c\)에 질량 \(m_0\)이 통째로 얹혀 있다고 생각해 보자. 이런 점질량(point mass)은 리만 적분을 사용하여 나타낼 수 없다.

리만 적분을 정의할 때 도입했던 리만 합의 구조를 다시 살펴보자. 소구간의 폭 \(x_k-x_{k-1}\)은 그 소구간이 실직선 위에서 차지하는 길이이다. 이 길이 대신 다른 기준으로 소구간에 ‘무게’를 배정하는 방법을 생각할 수 있다. 증가함수 \(\alpha:[a,b]\to\mathbb R\)를 하나 골라서, 리만 합을 \[ S=\sum_{k=1}^n f(t_k)\left[\alpha(x_k)-\alpha(x_{k-1})\right] \] 로 바꾸어 보자. \(\alpha(x)=x\)이면 이 합은 리만 적분의 리만 합과 같다. 그런데 \(\alpha\)가 점 \(c\)에서 \(m_0\)만큼 뛰어오르고, 점 \(c\)외 왼쪽 구간과 오른쪽 구간에서는 각각 상수인 계단함수라면, 이 합은 오직 점 \(c\)를 원소로 가지는 소구간 하나에서만 계산하면 되고, 분할에서 소구간의 길이가 충분히 작아질 때 그 값은 \(f(c)\,m_0\)에 가까워진다. 밀도를 적분하는 일과 점질량을 계산하는 일을 하나의 식으로 할 수 있게 되는 셈이다.

이 발상을 정확히 다듬어 하나의 적분으로 완성한 사람은 스틸체스다. 리만이 소구간에 ‘무게’를 배정할 때 “구간의 길이”라는 하나의 기준만 사용했다면, 스틸체스는 그 기준 자체를 “함수”로 바꾸었다. 이 적분을 리만-스틸체스 적분(Riemann-Stieltjes integral)이라고 부른다. [토마스 얀 스틸체스가 1894년 논문 “연분수에 관한 연구”(Recherches sur les fractions continues)에서 도입했다. 스틸체스는 모멘트 문제, 즉 주어진 수열 \(\mu_0,\) \(\mu_1,\) \(\mu_2,\) \(\ldots\)에 대해 \(\mu_n=\int x^n\,d\alpha(x)\)를 만족시키는 증가함수 \(\alpha\)가 존재하는지를 연구하고 있었다. 이 문제에서는 질량이 유한 개의 점에 뭉쳐 있는 경우와 연속적으로 퍼진 경우를 모두 다룰 수 있는 적분이 반드시 필요했다.]

이 글에서는 리만-스틸체스 적분(RS 적분)을 정의하고, RS 적분의 값이 존재하는 것이 언제인지, RS 적분이 어떤 성질을 갖는지 살펴본다. 그 과정에서 유계변동 함수라는 새로운 개념을 도입하고, RS 적분이 이산확률과 연속확률을 모두 다룰 수 있는 도구임을 확인한다. RS 적분의 이러한 성질은 뒤에서 확률론을 다룰 때 다시 등장한다.

리만-스틸체스 상합과 하합

지금부터 별다른 언급이 없는 한 함수 \(f:[a,b]\to\mathbb R\)은 유계인 함수이고, 함수 \(\alpha:[a,b]\to\mathbb R\)은 증가함수라고 가정한다. \(\alpha\)가 증가함수가 아닌 일반적인 경우는 세 번째 절에서 다룬다.

구간 \([a,b]\)의 분할 \[P:\,a=x_0 < x_1 < \cdots < x_n=b\] 가 주어졌다고 하고, 각 소구간에서 다음과 같은 기호를 도입하자. \[ \Delta\alpha_k=\alpha(x_k)-\alpha(x_{k-1}),\quad M_k=\sup_{[x_{k-1},x_k]}f,\quad m_k=\inf_{[x_{k-1},x_k]}f \] \(\alpha\)가 증가함수이므로 \(\Delta\alpha_k\ge0\)이고, \(f\)가 유계인 함수이므로 \(M_k,\) \(m_k\)는 항상 존재하는 실수이다. 이제 다음 두 값을 정의한다. \[ U(f,P,\alpha)=\sum_{k=1}^n M_k\Delta\alpha_k,\quad L(f,P,\alpha)=\sum_{k=1}^n m_k\Delta\alpha_k \] 이때 \(U(f,P,\alpha)\)와 \(L(f,P,\alpha)\)를 각각 \(\alpha\)에 대한 리만-스틸체스 상합과 리만-스틸체스 하합이라고 부른다. 임의의 \(k\)에 대하여 \(\Delta\alpha_k\ge 0\)이므로 \(m_k\le M_k\)이며, 따라서 다음 부등식을 얻는다. \[ L(f,P,\alpha)\le U(f,P,\alpha) \] \(\alpha(x)=x\)인 경우에는 \(\Delta\alpha_k=x_k-x_{k-1}\)이 되며, 이 정의는 리만 적분을 정의할 때 사용했던 상합, 하합과 일치한다.

세련분할에 대해서도 리만 적분과 같은 부등식이 성립한다.

증명은 리만 적분과 완전히 같은 방식으로 진행된다. \(P'=P\cup\{c\}\)이고 \(c\)가 소구간의 안쪽 \(\left( x_{k-1}, \, x_k \right)\) 안쪽에 있는 경우만 보이면 충분하다. \[m_k'=\inf_{[x_{k-1},c]}f,\quad m_k''=\inf_{[c,x_k]}f\] 라고 하면 \[m_k'\ge m_k ,\quad m_k''\ge m_k\] 이고, \(\alpha\)가 증가함수이므로 \[\alpha(c)-\alpha(x_{k-1})\ge 0,\quad \alpha(x_k)-\alpha(c)\ge0\] 이다. 그러므로 \[\begin{aligned} m_k'\left[\alpha(c)-\alpha(x_{k-1})\right] + & m_k''\left[ \alpha(x_k)-\alpha(c)\right] \\[6pt] & \ge m_k \left[ \alpha(c)-\alpha(x_{k-1})\right] + m_k \left[ \alpha(x_k)-\alpha(c)\right] \\[6pt] &= m_k\Delta\alpha_k \end{aligned}\] 이다. 여기서 좌변은 \(L(f,P',\alpha)\)에서 이 소구간이 영향을 미치는 값이며 우변은 \(L(f,P,\alpha)\)에서 같은 소구간이 영향을 미치는 값이다. 나머지 소구간이 영향을 미치는 값은 두 분할에서 동일하므로 \(L(f,P,\alpha)\le L(f,P',\alpha)\)이다. 한편, 두 부등식 \(M_k'\le M_k\)와 \(M_k''\le M_k\)를 사용하면 같은 방식으로 상합에 대한 부등식을 얻는다.

증명은 다음과 같다. \(P^*=P_1\cup P_2\)를 두 분할의 공통세련분할이라고 하면, 세련분할 보조정리와 부등식 \(L\le U\)를 사용하여 다음을 얻는다. \[ L(f,P_1,\alpha)\le L(f,P^*,\alpha)\le U(f,P^*,\alpha)\le U(f,P_2,\alpha) \] 이 보조정리에 의하여 하합의 모임은 위쪽으로 유계이고 상합의 모임은 아래쪽으로 유계이므로, 다음 두 값이 실수로서 존재한다. \[ \underline{\int_a^b}f\,d\alpha=\sup_PL(f,P,\alpha),\quad \overline{\int_a^b}f\,d\alpha=\inf_PU(f,P,\alpha) \] 두 값을 각각 \(\alpha\)에 대한 하적분, \(\alpha\)에 대한 상적분이라고 부른다. 상합과 하합의 성질에 의하여 항상 \[\underline{\int_a^b}f\,d\alpha\le\overline{\int_a^b}f\,d\alpha\] 가 성립한다. 이 식에서 등식이 성립할 때 비로소 다음과 같이 정의한다.

리만 적분에 대해 증명한 선형성, 순서보존성, 구간가법성, 삼각부등식은 여기서도 그대로 성립하고 증명 방식도 동일하다. \(\Delta\alpha_k\ge0\)이라는 사실만 있으면 리만 적분의 성질을 증명할 때 사용한 방법을 그대로 사용할 수 있기 때문이다.

예를 들어 선형성을 증명할 때 사용한 부등식 \(\sup_S(f+g)\le\sup_Sf+\sup_Sg\)의 양변에 \(\Delta\alpha_k\)를 곱해도 부등식의 방향이 바뀌지 않는다. 왜냐하면 \(\Delta\alpha_k\ge 0\)이기 때문이다. 그러므로 이 글에서는 리만 적분과 공통된 리만-스틸체스 적분의 성질을 증명하지 않고, 리만-스틸체스 적분만 가진 고유한 성질에 집중하기로 한다.

리만-스틸체스 판정법과 연속함수의 적분 가능성

주어지 함수가 리만 적분 가능한지 판정하는 방법이 있었던 것처럼 리만-스틸체스 적분 가능성을 판정하는 방법이 있다.

증명은 리만 적분에 대한 리만 판정법과 같은 방식으로 진행된다. 우선 (⇐) 방향을 살펴보자. 임의의 \(\varepsilon > 0\)에 대하여 정리의 조건을 만족시키는 분할 \(P\)가 항상 존재한다고 하자. 임의의 \(\varepsilon > 0\)에 대해 그런 \(P\)를 하나 고르면 \[ 0\le\overline{\int_a^b}f\,d\alpha-\underline{\int_a^b}f\,d\alpha\le U(f,P,\alpha)-L(f,P,\alpha) < \varepsilon \] 이다. \(\varepsilon\)이 임의의 양수이므로 상적분과 하적분의 차는 \(0\)일 수밖에 없다. 즉 \(f\)는 적분 가능하다.

이제 반대로 (⇒) 방향을 살펴보자. \(f\)가 적분 가능하다고 하고, 적분값을 \(I\)로 나타내자. 즉 \[I=\sup_PL(f,P,\alpha)=\inf_PU(f,P,\alpha)\] 라고 하자. \(\varepsilon > 0\)이 임의로 주어지면 상한과 하한의 성질에 의하여 \[L(f,P_1,\alpha)>I- \frac{\varepsilon}{2} ,\quad U(f,P_2,\alpha) < I+\frac{\varepsilon}{2}\] 인 분할 \(P_1\)과 \(P_2\)가 존재한다. \(P=P_1\cup P_2\)라고 하면 세련분할 보조정리에 의하여 \[\begin{aligned} L(f,P,\alpha)\ge L(f,P_1,\alpha) & > I-\frac\varepsilon2, \\[6pt] U(f,P,\alpha)\le U(f,P_2,\alpha) & < I+\frac\varepsilon2 \end{aligned} \] 이다. 두 부등식에서 변마다 차를 구하면 \(U(f,P,\alpha)-L(f,P,\alpha) < \varepsilon\)을 얻는다.

증명은 다음과 같다. \(\alpha(a)=\alpha(b)\)이면 \(\alpha\)는 상수함수이므로 모든 \(\Delta\alpha_k=0\)이고 \(U(f,P,\alpha)=L(f,P,\alpha)=0\)이 성립한다. 따라서 \(f\)는 \(\alpha\)에 대하여 자명하게 적분 가능하다. 그러므로 \(\alpha(a) < \alpha(b)\)인 경우만 살펴보면 충분하다.

함수 \(f\)는 콤팩트 구간 위의 연속함수이므로 균등연속이다. \(\varepsilon > 0\)이 임의로 주어졌다고 하자. 균등연속성에 의하여 적당한 \(\delta > 0\)가 존재하여 \[ |x-y| < \delta\ \Longrightarrow\ |f(x)-f(y)| < \frac{\varepsilon}{\alpha(b)-\alpha(a)} \] 을 만족시킨다. 소구간의 길이가 전부 \(\delta\)보다 작은 분할 \(P:a=x_0 < \cdots < x_n=b\)를 잡으면, 연속함수의 최대·최소 정리에 의하여 각 소구간에서 \[ M_k-m_k < \frac{\varepsilon}{\alpha(b)-\alpha(a)} \] 이 성립한다. 그러므로 \[\begin{aligned} U(f,P,\alpha)-L(f,P,\alpha) &= \sum_{k=1}^n(M_k-m_k)\Delta\alpha_k \\[4pt] &< \frac{\varepsilon}{\alpha(b)-\alpha(a)}\sum_{k=1}^n\Delta\alpha_k \\[4pt] &= \frac{\varepsilon}{\alpha(b)-\alpha(a)} \left[\alpha(b)-\alpha(a)\right]=\varepsilon \end{aligned}\] 이다. [마지막 합에서 \(\Delta\alpha_k\)는 인접한 항끼리 상쇄되어 \(\alpha(b)-\alpha(a)\)가 된다.] 그러므로 리만-스틸체스 판정법에 의하여 \(f\)는 적분 가능하다.

유계변동 함수와 조르당 분해

지금까지는 \(\alpha\)가 증가함수라고 가정했다. 점질량을 다루다 보면 부호가 서로 다른 점질량을 함께 다루어야 하는데, 그러한 상황에서 \(\alpha\)는 어느 구간에서는 증가하고 어느 구간에서는 감소한다. \(\alpha\)가 증가함수가 아니면 \(\Delta\alpha_k\)의 부호가 소구간마다 달라질 수 있으므로, 상합과 하합을 정의할 때 사용한 부등식 \(m_k\Delta\alpha_k\le M_k\Delta\alpha_k\)를 사용할 수 없다. 그러므로 \(\alpha\)가 단조가 아닌 경우, \(\alpha\)에 대한 \(f\)의 적분을 정의하기 위하여 상합과 하합을 직접 정의하는 대신, \(\alpha\)를 두 개의 증가함수의 차로 나타내는 방법을 사용한다.

구간 \([a,b]\)의 분할 \(P:a=x_0 < \cdots < x_n=b\)에 대하여 \[ V(\alpha,P)=\sum_{k=1}^n|\alpha(x_k)-\alpha(x_{k-1})| \] 로 두고, 분할 \(P\)를 변수로 했을 때 위 값의 상한 \[ V_\alpha(a,b)=\sup_PV(\alpha,P) \] 를 \(\alpha\)의 \([a,b]\)에서의 전변동(total variation)이라고 정의한다. 또한 \(V_\alpha(a,b) < \infty\)이면 “\(\alpha\)는 \([a,b]\)에서 유계변동(bounded variation)이다”라고 말한다. [\(\alpha\)가 유계변동이면 \(\alpha\)가 유계임을 알 수 있다. 임의의 \(x\in[a,b]\)에 대해 두 점 \(a,x\)만으로 이루어진 (자명한) 분할을 생각하면 \(|\alpha(x)-\alpha(a)|\le V_\alpha(a,b) < \infty\)이기 때문이다.]

\(P '\)이 \(P\)의 세련분할일 때 두 전변동 \(V(\alpha,P)\)과 \(V(\alpha,P')\)의 대소관계를 비교해 보자. \(P'=P\cup\{c\}\)인 경우만 살펴봐도 충분하다. \(c\in(x_{k-1},x_k)\)이면 삼각부등식에 의하여 \[ |\alpha(x_k)-\alpha(x_{k-1})|\le|\alpha(x_k)-\alpha(c)|+|\alpha(c)-\alpha(x_{k-1})| \] 이므로 \(V(\alpha,P)\le V(\alpha,P')\)이다. 수학적 귀납법을 사용하면, \(P ' \)이 \(P\)의 임의의 세련분할일 때에도 같은 결과를 얻는다.

증명은 다음과 같다. \([a,c]\)의 임의의 분할 \(P_1\)과 \([c,b]\)의 임의의 분할 \(P_2\)에 대해 \(P_1\cup P_2\)는 \(c\)를 지나는 \([a,b]\)의 분할이고, 점 \(c\)에서 합이 정확히 둘로 갈라지므로 \[ V(\alpha,P_1\cup P_2)=V(\alpha,P_1)+V(\alpha,P_2) \] 이다. \(P_1\cup P_2\)는 \([a,b]\)의 분할이므로 \(V(\alpha,P_1\cup P_2)\le V_\alpha(a,b)\)이다. 두 분할 \(P_1\)과 \(P_2\)를 변수로 하는 상한을 취하면 \[ V_\alpha(a,c)+V_\alpha(c,b)\le V_\alpha(a,b) \] 를 얻는다.

부등식이 반대로 성립함을 보이자. \([a,b]\)의 임의의 분할 \(P\)에 대해 \(P'=P\cup\{c\}\)로 두면 \(P '\)이 \(P\)의 세련분할이므로 \(V(\alpha,P)\le V(\alpha,P')\)이다. \(P'\)은 \(c\)를 지나므로 \(P_1'=P'\cap[a,c]\), \(P_2'=P'\cap[c,b]\)로 쪼개어 \[ V(\alpha,P')=V(\alpha,P_1')+V(\alpha,P_2')\le V_\alpha(a,c)+V_\alpha(c,b) \] 를 얻는다. 그러므로 \(V(\alpha,P)\le V_\alpha(a,c)+V_\alpha(c,b)\)이다. 이 부등식에 \(P\)를 변수로 하는 상한을 취하면 \[ V_\alpha(a,b)\le V_\alpha(a,c)+V_\alpha(c,b) \] 이다. 두 부등식을 합치면 등식을 얻는다.

이제 유계변동 함수가 항상 두 증가함수의 차로 표현된다는 사실을 증명하자. [이 분해의 존재성을 밝힌 사람은 조르당이다. 카미유 조르당이 1881년 논문 “푸리에 급수에 관하여”(Sur la série de Fourier)에서 유계변동 함수를 처음 정의했다. 디리클레의 1829년 정리, 즉 극값과 불연속점이 유한 개인 함수의 푸리에 급수가 원래 함수로 수렴한다는 결과를, 유계변동 함수 전체로 확장하려는 목적이었다. 실제로 유계변동 함수의 푸리에 급수는 각 점에서 좌극한과 우극한의 평균으로 수렴한다는 것이 조르당의 정리다.]

우선 (⇐) 방향을 살펴보자. \(\alpha=p-n\)이고 \(p,\,n\)이 증가함수라고 하자. \(p,n\)이 증가함수이므로 임의의 분할 \(P\)의 각 소구간에서 \[p(x_k)-p(x_{k-1})\ge0 ,\quad n(x_k)-n(x_{k-1})\ge0\] 이고, 따라서 \[\begin{aligned} |\alpha(x_k)-\alpha(x_{k-1})| &= \left|[p(x_k)-p(x_{k-1})]-[n(x_k)-n(x_{k-1})]\right| \\[5pt] & \le[p(x_k)-p(x_{k-1})]+[n(x_k)-n(x_{k-1})] \end{aligned}\] 이다. \(k = 1,\,2,\,3,\,\ldots,\,n\)일 때, 위 등식을 변마다 더하면 \[\begin{aligned} V(\alpha,P) & \le\sum_{k=1}^n[p(x_k)-p(x_{k-1})]+\sum_{k=1}^n[n(x_k)-n(x_{k-1})]\\[4pt] &=[p(b)-p(a)]+[n(b)-n(a)] \end{aligned}\] 이다. 이 부등식의 마지막 식은 \(P\)와 무관한 상수이므로 \[V_\alpha(a,b)\le[p(b)-p(a)]+[n(b)-n(a)] < \infty\] 이다. 즉 \(\alpha\)는 유계변동이다.

이제 반대로 (⇒) 방향을 살펴보자. \(\alpha\)가 유계변동이라고 하자. \(x\in[a,b]\)에 대해 \[ p(x)=V_\alpha(a,x) \] 로 두자. (단, \(p(a)=0\)으로 둔다.) 전변동의 가법성에 의하여 \(a\le x < y\le b\)일 때 \[ p(y)-p(x)=V_\alpha(x,y)\ge0 \] 이므로 \(p\)는 증가함수다.

이제 \(n:=p-\alpha\)로 두고 \(n\)도 증가함수임을 보이자. \(a\le x < y\le b\)에 대해 \[\begin{aligned} n(y)-n(x) &= \left[p(y)-p(x)\right]-\left[\alpha(y)-\alpha(x)\right]\\[5pt] &= V_\alpha(x,y)-\left[\alpha(y)-\alpha(x)\right] \end{aligned}\] 인데, 구간 \([x,y]\)의 분할 중 두 점 \(x,\,y\)만으로 이루어진 (자명한) 분할을 고려하면 \(|\alpha(y)-\alpha(x)|\le V_\alpha(x,y)\)이다. 그러므로 \[\begin{aligned} n(y)-n(x) &= V_\alpha(x,y)-\left[\alpha(y)-\alpha(x)\right] \\[6pt] & \ge V_\alpha(x,y)-|\alpha(y)-\alpha(x)|\ge0 \end{aligned}\] 이고, \(n\)도 증가함수다. 즉 \(\alpha=p-n\)이므로, 바라는 분해를 얻는다.

이 분해는 유일하지 않다. \(p,n\)에 같은 증가함수를 동시에 더해도 \(\alpha=p-n\)은 그대로 유지되기 때문이다. 다만 방금 만든 \(p(x)=V_\alpha(a,x)\)와 \(n=p-\alpha\)는 각각 \(\alpha\)의 양의 변동, 음의 변동이라고 불리며 \(p(x)+n(x)=V_\alpha(a,x)\)를 만족시키는, 가장 작다는 뜻에서 표준적인 분해다. 이러한 성질은 뒤에서 더 일반적인 형태로 다시 만날 것이다. 즉 부호가 있는 측도를 정의할 때, 부호측도가 양의 측도와 음의 측도의 차로 분해된다는 사실은 바로 이 조르당 분해를 함수에서 측도로 옮긴 것이다.

일반화된 존재 정리와 적분의 선형성

조르당 분해를 사용하면 \(\alpha\)가 증가함수가 아니더라도 \(\alpha\)에 대한 적분 \(\int_a^bf\,d\alpha\)를 정의할 수 있다. 그런데 그전에 확인해 둘 것이 있다. 적분이 \(\alpha\)에 대해서도 선형이라는 사실이다.

증명은 다음과 같다. 임의의 분할 \(P\)에서 \(M_k,\,m_k\)는 \(f\)에 의해서만 정해지고 \(\alpha,\beta\)와는 무관하므로, \[ U(f,P,\alpha+\beta)=\sum_kM_k\left[\Delta\alpha_k+\Delta\beta_k\right]=U(f,P,\alpha)+U(f,P,\beta) \] 이다. 같은 방식으로 \[L(f,P,\alpha+\beta)=L(f,P,\alpha)+L(f,P,\beta)\] 이다. \(\varepsilon > 0\)이 임의로 주어지면, \(f\)가 \(\alpha\)와 \(\beta\)에 대해 각각 적분 가능하므로, \[U(f,P_1,\alpha)-L(f,P_1,\alpha) < \frac{\varepsilon}{2},\quad U(f,P_2,\beta)-L(f,P_2,\beta) < \frac{\varepsilon}{2}\] 을 만족시키는 분할 \(P_1\)과 \(P_2\)가 존재한다. \(P=P_1\cup P_2\)로 두면 세련분할 보조정리에 의하여 두 부등식이 \(P\)에 대해서도 유지되므로 \[\begin{aligned} U(f,P,\alpha+\beta)- & L(f,P,\alpha+\beta) \\[5pt] & =\left[U(f,P,\alpha)-L(f,P,\alpha)\right]+\left[U(f,P,\beta)-L(f,P,\beta)\right] < \varepsilon \end{aligned}\] 이다. 그러므로 \(f\)는 \(\alpha+\beta\)에 대해 적분 가능하다. 이제 \(\alpha + \beta\)에 대한 \(f\)의 적분값을 구하자. \[\begin{aligned} L(f,P,\alpha+\beta) &=L(f,P,\alpha)+L(f,P,\beta) \\[5pt] &\le\int_a^bf\,d\alpha+\int_a^bf\,d\beta \\ &\le U(f,P,\alpha)+U(f,P,\beta) \\[5pt] &=U(f,P,\alpha+\beta) \end{aligned} \] 인데, 적분값 \(\int_a^bf\,d(\alpha+\beta)\)도 같은 구간 \([L(f,P,\alpha+\beta),\,U(f,P,\alpha+\beta)]\) 안에 있다. 그러므로 두 값의 차가 이 구간의 길이인 \(\varepsilon\)보다 작다. 그런데 \(\varepsilon\)이 임의의 양수이므로 두 값은 같다.

\(\alpha\)가 유계변동이면(반드시 증가함수가 아니어도), 조르당 분해 \(\alpha=p-n\) (\(p,\,n\)은 증가함수)을 하나 골라 \[ \int_a^bf\,d\alpha:=\int_a^bf\,dp-\int_a^bf\,dn \] 으로 정의한다. 이 정의가 적분값으로 의미를 가지려면 그 값이 조르당 분해를 선택하는 방법과 무관해야 하는데, 이것은 방금 증명한 선형성에서 나온다. \(\alpha=p_1-n_1=p_2-n_2\)가 두 가지 분해라면 \(p_1+n_2=p_2+n_1\)인데, 이 등식의 양변에 선형성을 적용하면 \[ \int f\,dp_1+\int f\,dn_2=\int f\,dp_2+\int f\,dn_1 \] 즉 \[\int f\,dp_1-\int f\,dn_1=\int f\,dp_2-\int f\,dn_2\]이다. 그러므로 어느 분해를 쓰든 \(\int_a^bf\,d\alpha\)의 값은 일정하다.

증명은 다음과 같다. \(\alpha=p-n\)을 조르당 분해라고 하면 \(p,\,n\)은 증가함수이므로, 앞 절에서 증명한 존재 정리에 의하여 \(f\)는 \(p\)와 \(n\) 각각에 대하여 적분 가능하다. 그러므로 적분을 정의한 등식 \(\int_a^bf\,d\alpha=\int_a^bf\,dp-\int_a^bf\,dn\)의 우변이 잘 정의되고, \(f\)는 \(\alpha\)에 대해 적분 가능하다.

사실 이 조건은 더 완화할 수 있다. \(f\)와 \(\alpha\)가 \([a,b]\)의 어느 점에서도 동시에 불연속이지 않으면, \(f\)가 그 자체로 연속이 아니어도 \(\int_a^bf\,d\alpha\)가 존재한다는 것이 알려져 있다. 직관적으로, \(\alpha\)가 불연속인 점에서 \(f\)가 매끄럽기만 하면 그 지점에서 적분값의 변화량은 \(f\)의 값 하나에만 영향을 받으며, \(f\)가 불연속인 지점에서는 \(\alpha\)가 연속이므로 애초에 그 지점이 상합과 하합의 차이가 크지 않다. 이 사실을 밝히려면 진동량을 더 세심하게 다루어야 하므로 여기서는 증명하지 않는다.

부분적분 공식

리만-스틸체스 적분에는 통상적인 부분적분과 형태가 같은, 그러나 그 자체로 흥미로운 공식이 있다.

증명은 다음과 같다. 논의를 간단히 하기 위해 \(\alpha\)가 증가함수인 경우를 먼저 살펴보자.

\(\varepsilon > 0\)이 임의로 주어졌다고 하자. 함수 \(f\)가 \(\alpha\)에 대하여 적분 가능하므로, \(U(f,P_0,\alpha)-L(f,P_0,\alpha) < \varepsilon\)인 분할 \(P_0\)가 존재한다. \(P_0\)의 임의의 세련분할 \(P:a=x_0 < \cdots < x_n=b\)와, 각 소구간에서 임의로 고른 표본점 \(y_i\in[x_{i-1},x_i]\)에 대하여, 합 \[ S=\sum_{i=1}^n\alpha(y_i)\left[f(x_i)-f(x_{i-1})\right] \] 을 생각하자. 분할을 세련하여 소구간의 길이가 작아질수록 이 합이 \[f(b)\alpha(b)-f(a)\alpha(a)-\int_a^bf\,d\alpha\]의 값에 가까워짐을 보이면, 이것이 바로 적분 \(\int_a^b\alpha\,df\)가 존재하며, 그 적분값이 위 식의 값과 같다는 뜻이다.

\(i=1,\ldots,n\)일 때 식 \(f(x_i)\alpha(x_i)-f(x_{i-1})\alpha(x_{i-1})\)을 더하면 \[ f(b)\alpha(b)-f(a)\alpha(a)=\sum_{i=1}^n\left[f(x_i)\alpha(x_i)-f(x_{i-1})\alpha(x_{i-1})\right] \] 이다. 이 등식에서 \(S\)를 빼면 \[\begin{aligned} f(b)\alpha(b)-f(a)\alpha(a)-S&=\sum_{i=1}^n\left\{f(x_i)\alpha(x_i)-f(x_{i-1})\alpha(x_{i-1})-\alpha(y_i)\left[f(x_i)-f(x_{i-1})\right]\right\} \\[3pt] &=\sum_{i=1}^n\left\{f(x_i)\left[\alpha(x_i)-\alpha(y_i)\right]+f(x_{i-1})\left[\alpha(y_i)-\alpha(x_{i-1})\right]\right\} \end{aligned}\] 이다. 그런데 이 마지막 합은, 분할 \(P\)에 표본점 \(y_1,\ldots,y_n\)을 전부 추가하여 얻은 세련분할 \(P^*=P\cup\{y_1,\ldots,y_n\}\) 위에서 \(f\)를 \(\alpha\)에 대해 적분한 리만-스틸체스 합이다. [소구간 \([y_i,x_i]\)에서는 표본점을 오른쪽 끝 \(x_i\)로, 소구간 \([x_{i-1},y_i]\)에서는 표본점을 왼쪽 끝 \(x_{i-1}\)로 고른 셈이다.] 그러므로 이 합은 \(L(f,P^*,\alpha)\)와 \(U(f,P^*,\alpha)\) 사이에 있다. \(P^*\)은 \(P_0\)의 세련분할이므로 세련분할 보조정리에 의하여 \[ U(f,P^*,\alpha)-L(f,P^*,\alpha)\le U(f,P_0,\alpha)-L(f,P_0,\alpha) < \varepsilon \] 이고, \(\int_a^bf\,d\alpha\)도 같은 구간 \([L(f,P^*,\alpha),\,U(f,P^*,\alpha)]\) 안에 있으므로 \[ \left|f(b)\alpha(b)-f(a)\alpha(a)-S-\int_a^bf\,d\alpha\right| < \varepsilon \] 이다. 이것은 \(P_0\)의 임의의 세련분할과 임의의 표본점에 대해 성립하므로, \(S\)는 분할을 세련화할수록 \(f(b)\alpha(b)-f(a)\alpha(a)-\int_a^bf\,d\alpha\)에 가까워진다. 즉 \[ \int_a^b\alpha\,df=f(b)\alpha(b)-f(a)\alpha(a)-\int_a^bf\,d\alpha \] 이다. [엄밀하게 말하면, 여기서 증명한 것은 분할을 세련할수록 표본점의 선택과 무관하게 리만-스틸체스 합이 하나의 값에 가까워진다는 뜻에서의 적분 가능성이다. 함수 \(f\) 자신은 증가함수가 아닐 수도 있으므로 \(\int\alpha\,df\)에 대해서는 상합과 하합을 직접 정의할 수 없는데, 그 대신 이 조건 자체를 적분 가능성의 정의로 삼는다. \(f\)가 유계변동이면 이와 같은 \(f\)의 적분 가능성의 정의와, 상합과 하합을 사용한 적분 가능성의 정의와 일치한다는 사실이 알려져 있다.]

계단함수와 점질량

이 글을 시작할 때 이산적으로 배정된 질량과 연속적으로 분포하는 질량을 다룰 때 모두 사용할 수 있는 적분이 있는지 물었다. 이제 리만-스틸체스 적분이 바로 그러한 역할을 한다는 사실을 밝히자. 먼저 \(\alpha\)가 한 점에서만 뛰어오르는 계단함수인 경우부터 살펴본다.

위 공식을 증명해 보자. \([a,b]\)의 임의의 분할 \(P:a=t_0 < t_1 < \cdots < t_n=b\)가 주어졌다고 하자. (점질량의 위치 \(x_0\)와 구별하기 위해 분할의 점은 \(t_k\)로 나타낸다.) \(t_{k-1} < x_0\le t_k\)를 만족시키는 단 하나의 소구간을 제외하면, 모든 소구간에서 \(\Delta\alpha_k=\alpha(t_k)-\alpha(t_{k-1}) =0\)이다. \(t_{k-1} < x_0\le t_k\)를 만족시키는 소구간을 \([t_{k_0-1},t_{k_0}]\)이라 하고 \(M_{k_0},\,m_{k_0}\)를 이 소구간에서 \(f\)의 상한과 하한이라고 하면 \[ U(f,P,\alpha)=M_{k_0}c,\quad L(f,P,\alpha)=m_{k_0}c \] 이다.

\(f\)가 \(x_0\)에서 연속이므로, 임의의 \(\varepsilon > 0\)에 대하여 적당한 \(\delta > 0\)가 존재하여, \(|x-x_0| < \delta\)이면 \(|f(x)-f(x_0)| < \varepsilon\)이다. \([t_{k_0-1},t_{k_0}]\)의 길이가 \(\delta\)보다 작도록 (이 소구간 전체가 \(x_0\)으로부터 거리 \(\delta\) 안에 들어가도록) 분할 \(P\)를 잡으면 \(M_{k_0},\,m_{k_0}\in[f(x_0)-\varepsilon,\,f(x_0)+\varepsilon]\)이므로 \[ c\left(f(x_0)-\varepsilon\right)\le L(f,P,\alpha)\le U(f,P,\alpha)\le c\left(f(x_0)+\varepsilon\right) \] 이다. 그런데 \[L(f,P,\alpha)\le\underline{\int_a^b}f\,d\alpha\le\overline{\int_a^b}f\,d\alpha\le U(f,P,\alpha)\] 이므로, 상적분과 하적분도 모두 구간 \([c(f(x_0)-\varepsilon),\,c(f(x_0)+\varepsilon)]\) 안에 있다. \(\varepsilon\)이 임의의 양수이므로 두 적분은 \(c\,f(x_0)\)와 같다. 즉 \[\int_a^bf\,d\alpha=c\,f(x_0)\]이다. \(c < 0\)인 경우, 즉 \(\alpha\)가 한 점에서 아래쪽으로 뛰어내리는 경우에도 전변동이 \(|c|\)로 유한하므로 \(\alpha\)가 유계변동이고, 조르당 분해를 사용하여 같은 결론을 얻는다. 결론적으로, 점질량의 부호와 무관하게 \(\int_a^bf\,d\alpha=c\,f(x_0)\)이다.) (증명 끝)

같은 계산을 유한 개의 점질량으로 확장할 수 있다. \(x_1 < \cdots < x_N\)이 열린구간 \((a,\,b)\) 안의 점이고 \(\alpha\)가 각 점 \(x_i\)에서 정확히 \(c_i\)만큼 뛰어오르는 계단함수라고 하자. \(\alpha\)를 \(N\)개의 점질량 계단함수의 합으로 쓰고, 앞 절에서 증명한 선형성을 반복하여 적용하면, \(f\)가 각 \(x_i\)에서 연속일 때 \[ \int_a^bf\,d\alpha=\sum_{i=1}^Nc_if(x_i) \] 를 얻는다. 즉 이산적으로 분포하는 질량을 적분하였더니 가중합이 되었다.

확률론과 관련하여 이 등식의 의미를 생각해 보자. 확률변수 \(X\)가 유한 개의 값 \(x_1,\ldots,x_N\)을 각각 확률 \(p_1,\ldots,p_N\)으로 취한다면, \(X\)의 기댓값은 \(\sum_ip_ix_i\)로 정의된다. 한편 \(X\)가 밀도함수 \(\rho\)를 갖는 연속확률변수라면 기댓값은 \(\int x\rho(x)\,dx\)로 정의된다. 지금까지는 이 두 정의가 별개의 것처럼 보였다. 그런데 \(\alpha(x)=\sum_{x_i\le x}p_i\)로 두거나 \(\alpha(x)=\int_{-\infty}^x\rho(t)\,dt\)로 두면, 두 기댓값은 모두 \[ \mathbb E[X]=\int x\,d\alpha(x) \] 라는 하나의 리만-스틸체스 적분으로 나타낼 수 있다. \(\alpha\)를 확률변수의 누적분포함수(cumulative distribution function)라고 부르는데, 이산과 연속의 구분은 결국 이 \(\alpha\)가 계단함수인지 또는 미분가능한 함수인지의 차이일 뿐, 적분 자체의 정의는 하나이다.

이 결과를 더욱 일반화된 결과로 연결시킬 수 있다. 구간 \([a,b]\)에서 정의된 연속함수 전체가 이루는 공간을 \(C[a,b]\)라고 하자. 이 공간 위에서 정의된 유계 선형범함수, 즉 \(\Lambda:C[a,b]\to\mathbb R\)이면서 선형이고 \(|\Lambda(f)|\le K\|f\|_\infty\)를 만족시키는 상수 \(K\)가 존재하는 함수들은, 모두 어떤 유계변동 함수 \(\alpha\)에 대한 리만-스틸체스 적분 \[ \Lambda(f)=\int_a^bf\,d\alpha \] 꼴로 나타난다는 것이 알려져 있다. [리스의 표현 정리(Riesz representation theorem)라고 부른다. 프리제시 리스가 1909년 논문 “선형 범함수 연산에 관하여”(Sur les opérations fonctionnelles linéaires)에서 증명하였다. \(\alpha\)에 적당한 정규화 조건(예컨대 \(\alpha(a)=0\))을 걸면 \(\alpha\)는 유일하게 정해지고, 그때 \(\Lambda\)의 노름은 \(\alpha\)의 전변동 \(V_\alpha(a,b)\)와 같다.] 다시 말해, \(C[a,\,b]\) 위의 유계 선형범함수 전체와 유계변동 함수 전체는 사실상 같은 대상이다. 이 글에서 리스의 표현 정리의 증명을 살펴보지는 않겠다. 다만 리만-스틸체스 적분이 단순한 계산 도구를 넘어 함수 공간 자체의 구조를 드러내는 도구라는 점은 짚을 만하다.

여전히 남은 한계

지금까지 리만-스틸체스 적분을 정의하고, 그 성질을 살펴보았으며, 리만-스틸체스 적분이 이산적으로 분포하는 질량과 연속적으로 분포하는 질량을 모두 다룰 수 있는 도구라는 사실을 확인하였다.

그러나 아직 한계점이 남아 있다. 첫째, 리만-스틸체스 적분에서 \(\alpha\)는 유계변동이어야 한다. 적분 구간을 아무리 잘게 쪼개도 변동이 무한대로 발산하는 함수에 대해서는, 리만-스틸체스 적분을 사용할 수 없다. [브라운 운동의 표본경로가 바로 이런 함수의 대표적인 예이다. 거의 모든 표본경로가 임의의 구간에서 유계변동이 아니기 때문에 확률적분을 별도로 구성해야 한다.] 둘째, 지금까지 다룬 함수는 구간 \([a,\,b]\) 위에서 정의된 함수뿐이다. 정의역을 구간보다 훨씬 복잡한 집합으로, 심지어 구간이라는 개념 자체가 없는 추상적인 공간으로 확장하고 싶다면 리만-스틸체스 적분으로는 부족하다.

이러한 한계점은 사실 하나의 근본적인 질문에 다다른다. \(\Delta\alpha_k=\alpha(x_k)-\alpha(x_{k-1})\)이라는 값은, 결국 소구간 \([x_{k-1},\,x_k]\)라는 집합에 \(\alpha\)를 통해 크기(‘무게’)를 배정한 것이다. 크기를 매기는 방법을 구간의 증가분이 아니라, 임의의 집합에 대해 직접 정의할 수는 없을까? 그리고 그렇게 정의한 크기가, 디리클레 함수의 불연속점처럼 실직선을 조밀하게 채우는 집합의 크기를 재는 문제에 답을 줄 수는 없을까? 다음 글인 “르베그 측도”에서는 이 질문의 답을 찾는 여정을 시작한다.

🍭