리만 적분 가능성을 결정하는 조건을 다시 돌아보자. 디리클레 함수는 \([0,\,1]\)의 모든 점에서 불연속이다. 반면 닫힌 구간에서 단조인 함수는 불연속점의 개수가 가산이며, 적분 가능하다. 심지어 불연속인 점의 개수가 비가산이지만 리만 적분 가능한 함수도 존재한다. 즉 불연속점의 개수가 얼마나 많은지는 리만 적분 가능성을 결정하지 않는다. 대신 구간에서 불연속점이 차지하고 있는 ‘크기’가 얼마인지가 중요하다. 그러나 우리는 아직 이 ‘크기’가 정확히 무엇을 뜻하는지 정의하지 않았다. 기껏헤야 구간의 길이 정도를 정의했을 뿐이다.
크기를 재는 도구가 필요한 이유는 적분을 구성하는 방식에서도 드러난다. 리만 적분은 정의역 \([a,\,b]\)를 잘게 쪼개어 정의되었다. 그런데 정의역이 아니라 치역을 쪼개면 어떨까? 함숫값이 구간 \([c,\,c+\Delta c)\)에 들어가는 점 \(x\)의 집합, 즉 \(f^{-1}\left([c,\,c+\Delta c)\right)\)의 크기에 \(c\)를 곱하여 전부 더하는 방식으로 적분을 정의하면, 이 집합이 아무리 복잡하여도 문제가 되지 않을 것이다. 그런데 이 방식이 의미를 가지려면, 구간이 아니라 임의의(또는 적어도 충분히 넓은 부류의) 집합에 대해 크기를 정의할 수 있어야 한다. 이러한 크기를 재는 방법을 구성하는 것이 이 글의 목표이다. 이 글에서는 적분을 정의하지 않는다. 집합의 크기를 먼저 정의하고, 그 크기를 사용하여 적분을 정의하는 일은 다음 글(르베그 적분)에서 다룬다.
넓은 범위에서 ‘크기’를 정의하는 일을 처음으로 해낸 사람은 르베그이다. [앙리 르베그가 1902년 파리 대학에 제출한 박사학위논문 “적분, 길이, 넓이”(Intégrale, longueur, aire)에서이다. 지도교수는 에밀 보렐이었는데, 보렐은 이미 1898년 저서 “함수론 강의”(Leçons sur la théorie des fonctions)에서 열린구간에 가산 개의 합집합, 교집합, 여집합을 반복하여 적용하여 얻는 집합, 즉 지금 보렐집합이라고 부르는 집합에 크기를 부여하는 초기 이론을 세운 바 있었다. 르베그는 이 착상을 발전시켜 이 글에서 다룰 이론을 완성했다.] 다만 르베그의 원래 논증은 외측도와 내측도라는 두 가지 크기를 나란히 정의하고 두 값이 일치하는 집합만 다루는 방식이었다. 이 글에서는 그 대신 훗날 카라테오도리가 정리한 더 간결한 구성을 따른다. [콘스탄틴 카라테오도리가 1914년 논문 “점집합의 선형측도에 관하여: 길이 개념의 일반화”(Über das lineare Maß von Punktmengen – eine Verallgemeinerung des Längenbegriffs)에서 제시했다. 카라테오도리는 훗날 자신의 논문을 회고하며, 보렐과 르베그가 모든 점집합에 외측도와 내측도를 각각 부여했던 것과 달리, 자신의 새 정의는 내측도라는 개념 없이도 의미를 가진다는 점이 강점이라고 밝혔다. 이 글에서 외측도만으로 논의가 끝나는 것은 이 강점 덕분이다.] 즉 외측도라는 하나의 도구만 사용하되, 외측도가 ‘잘 작동하는’ 집합만 골라내는 조건을 도입하는 방식이다.
르베그 외측도
구간의 길이를 일반화하기 위하여, 집합을 구간으로 덮는 방법을 생각하자. 집합 \(A\subseteq\mathbb R\)이 주어지면, \(A\)를 가산 개의 열린구간으로 덮는 모든 방법을 생각하고, 덮개를 이루는 구간의 길이의 합의 하한을 \(A\)의 크기로 삼는다.
르베그 외측도의 정의.
집합 \(A\subseteq\mathbb R\)에 대해 \[ m^*(A)=\inf\left\{\sum_{k=1}^\infty \ell(I_k)\ :\ A\subseteq\bigcup_{k=1}^\infty I_k,\ I_k\text{ is an open interval}\right\} \] 으로 정의된 값 \(m^*(A)\in[0,\,\infty]\)를 \(A\)의 르베그 외측도(Lebesgue outer measure)라고 부른다. 여기서 \(\ell(I)\)는 구간 \(I\)의 길이를 나타낸다.
외측도의 정의에서 곧바로 확인할 수 있는 성질이 몇 가지 있다. 우선 \(m^*(A)\)는 항상 잘 정의된다. \(\{I_k\}\)로 실직선 전체를 덮는 것도 허용되므로 덮개는 항상 존재하고, \(m^*(A)\le\infty\)이다. [예를 들어 \(I_k=(-k,\,k)\)로 잡으면 실직선 전체를 덮는다.] 한원소집합 \(\{x\}\)는 임의의 \(\varepsilon > 0\)에 대해 길이가 \(2\varepsilon\)인 열린구간 \((x-\varepsilon,\,x+\varepsilon)\) 하나로 덮이므로 \(m^*(\{x\})\le2\varepsilon\)이고, \(\varepsilon\)이 임의의 양수이므로 \(m^*(\{x\})=0\)이다. 같은 방법으로 \(m^*(\varnothing)=0\)이다.
외측도가 구간의 길이를 일반화한 것이려면, 구간 \(I\)에 대해 \(m^*(I)=\ell(I)\)가 성립해야 한다. 부등식 \(m^*(I)\le\ell(I)\)부터 확인하자. 임의의 \(\varepsilon > 0\)에 대해, \(I\)를 포함하면서 길이가 \(\ell(I)+\varepsilon\)인 열린구간 하나로 \(I\)를 덮을 수 있다. 그러므로 \(m^*(I)\le\ell(I)+\varepsilon\)이고, \(\varepsilon\)이 임의의 양수이므로 \(m^*(I)\le\ell(I)\)이다.
반대 부등식 \(m^*(I)\ge\ell(I)\)를 증명하려면 콤팩트성이 필요하다. 먼저 닫힌구간 \(I=[a,\,b]\)인 경우를 살펴보자. \([a,\,b]\)가 열린구간열 \(\{I_k\}\)로 덮여 있다고 하자. 하이네-보렐 정리에 의하여 유한 개의 구간 \(I_{k_1},\) \(\ldots,\) \(I_{k_m}\)만으로도 \([a,\,b]\)를 덮을 수 있다. 이 유한 덮개에서 구간을 다음과 같이 차례로 선택한다. 먼저 점 \(a\)를 포함하는 구간을 선택하고, 그 다음에는 직전에 선택한 구간의 오른쪽 끝점을 포함하는 구간을 선택하며, 이 과정을 선택한 구간의 오른쪽 끝점이 \(b\)보다 커질 때까지 반복한다. 이렇게 선택한 구간을 \((c_1,\,d_1),\) \(\ldots,\) \((c_j,\,d_j)\)라고 하면 \[ c_1 < a,\quad d_j > b,\quad c_{i+1} < d_i \] 가 성립하므로 \[ \sum_{i=1}^j(d_i-c_i) > d_j-c_1 > b-a \] 임을 귀납적으로 확인할 수 있다. 그러므로 유한 부분덮개의 길이의 합이 이미 \(b-a\)보다 크고, 전체 덮개의 길이의 합은 그보다 작을 수 없다. 즉 \(m^*([a,\,b])\ge b-a\)이다. 이 논증은 열린구간이나 반열린구간에 대해서도 양 끝점에서의 작은 차이만 있을 뿐 그대로 적용된다. [예를 들어 열린구간 \((a,\,b)\)는 닫힌구간 \([a+\varepsilon,\,b-\varepsilon]\)을 포함하므로, 아래에서 증명할 단조성에 의하여 \(m^*\left((a,\,b)\right)\ge b-a-2\varepsilon\)이고, \(\varepsilon\)이 임의의 양수이므로 \(m^*\left((a,\,b)\right)\ge b-a\)이다.]
외측도는 두 가지 기본 성질, 단조성(monotonicity)과 가산준가법성(countable subadditivity)을 가진다. 두 성질은 앞으로 계속 사용된다.
르베그 외측도의 단조성과 가산준가법성.
다음 두 성질이 성립한다. \[ A\subseteq B\ \Longrightarrow\ m^*(A)\le m^*(B) \quad(\text{monotonicity}) \] \[ m^*\left(\bigcup_{k=1}^\infty A_k\right)\le\sum_{k=1}^\infty m^*(A_k) \quad(\text{countable subadditivity}) \]
단조성을 증명해 보자. \(A\subseteq B\)이므로, \(B\)를 덮는 임의의 열린구간열은 \(A\)도 덮는다. 그러므로 \(B\)의 덮개가 이루는 길이의 합의 모임은 \(A\)의 덮개가 이루는 길이의 합의 모임의 부분집합이다. 부분집합에서의 하한은 전체집합에서의 하한보다 작을 수 없으므로 \(m^*(A)\le m^*(B)\)이다.
다음으로 가산준가법성을 증명해 보자. 적당한 \(k\)에 대해 \(m^*(A_k)=\infty\)이면 부등식이 자명하게 성립하므로, 모든 \(k\)에 대해 \(m^*(A_k) < \infty\)라고 하자. \(\varepsilon > 0\)이 임의로 주어졌다고 하자. 하한의 성질에 의하여, 각 \(k\)마다 \(A_k\)를 덮는 열린구간열 \(\{I_{k,j}\}_{j=1}^\infty\)가 존재하여 \[ \sum_{j=1}^\infty\ell(I_{k,j}) < m^*(A_k)+\frac{\varepsilon}{2^k} \] 를 만족시킨다. 집합족 \(\{I_{k,j}\}_{k,j=1}^\infty\)는 가산 개의 열린구간으로 이루어져 있다. (가산 개의 가산집합의 합집합은 가산집합이기 때문이다.) 또한 \(\bigcup_kA_k\subseteq\bigcup_{k,j}I_{k,j}\)이므로, 이 집합족은 \(\bigcup_kA_k\)를 덮는 열린구간열이다. 그러므로 \[\begin{aligned} m^*\left(\bigcup_{k=1}^\infty A_k\right) &\le \sum_{k=1}^\infty\sum_{j=1}^\infty\ell(I_{k,j}) \\[4pt] &< \sum_{k=1}^\infty\left(m^*(A_k)+\frac{\varepsilon}{2^k}\right) \\[4pt] &= \sum_{k=1}^\infty m^*(A_k)+\varepsilon \end{aligned}\] 이다. \(\varepsilon\)이 임의의 양수이므로 원하는 부등식을 얻는다.
이 증명에서는 \(k\)번째 항에 오차 \(\varepsilon/2^k\)을 배정하였다. 이렇게 가산 개의 오차를 배정하면, 오차의 합이 \(\varepsilon\)을 넘지 않으면서도 각 항에 필요한 만큼의 여유를 줄 수 있다. 이 방법은 이 글 전체에서 반복하여 사용된다.
준가법성(subadditivity)이라는 이름에서 짐작할 수 있듯이 등호는 일반적으로 성립하지 않는다. 서로소인 두 집합에 대해서도 \(m^*(A\cup B) < m^*(A)+m^*(B)\)일 수 있다. [예를 들어 \(A\)가 아래에서 구성할 비탈리 집합이고 \(B\)가 \(A\)의 유리수 평행이동 가운데 하나이면, \(A\)와 \(B\)가 서로소인데도 이 부등식이 등식이 아닐 수 있다.] 등호가 성립하는 ‘좋은’ 집합을 골라내는 방법이 다음 절의 주제이다.
카라테오도리 가측성 조건
외측도가 모든 집합에서 가법적이라면 좋겠지만, 방금 확인했듯이 그렇지 않다. 카라테오도리의 착상은, 외측도가 가법적으로 행동하는 집합만 골라내되, 그 기준을 집합 \(E\)만 보고 정하지 않고 \(E\)가 다른 모든 집합과 어떤 관계를 맺는지 보고 정한다는 것이다.
카라테오도리 가측성의 정의.
집합 \(E\subseteq\mathbb R\)이 임의의 집합 \(A\subseteq\mathbb R\)에 대해 \[ m^*(A)=m^*(A\cap E)+m^*(A\cap E^c) \] 를 만족시키면, “\(E\)는 르베그 가측집합(Lebesgue measurable set)이다”라고 말한다. 이때 위 등식의 집합 \(A\)를 시험집합(test set)이라고 부른다. 혼동의 여지가 없으면 르베그 가측집합을 간단히 가측집합이라고 부른다.
이 정의를 처음 보면 왜 이러한 조건을 사용하는지 의아할 수 있다. \(E\) 자체의 성질을 요구하는 대신, \(E\)가 임의의 집합 \(A\)를 두 조각 \(A\cap E\)와 \(A\cap E^c\)로 잘랐을 때 외측도가 정확히 둘로 나뉘는지를 요구하고 있기 때문이다. 그런데 모든 시험집합에 대해 조건을 거는 것이 이 정의의 핵심이다. 다음 절에서 확인하겠지만, 가측집합의 모임이 합집합, 교집합, 여집합에 대해 닫혀 있다는 사실이 바로 이 “모든 \(A\)에 대해”라는 조건에서 나온다.
정의를 실제로 확인할 때는 절반만 보이면 된다. \(A=(A\cap E)\cup(A\cap E^c)\)이므로, 가산준가법성에 의하여 부등식 \[ m^*(A)\le m^*(A\cap E)+m^*(A\cap E^c) \] 는 \(E\)가 무엇이든 항상 성립한다. (사실은 두 집합에 대한 유한준가법성만으로 충분하다.) 그러므로 가측성을 확인하려면 반대 방향의 부등식 \[ m^*(A)\ge m^*(A\cap E)+m^*(A\cap E^c) \] 만 보이면 충분하다. 이 부등식은 \(m^*(A)=\infty\)이면 자명하게 성립하므로, 실질적으로는 \(m^*(A) < \infty\)인 시험집합만 살펴보면 된다. 앞으로 가측성을 확인할 때마다 이 부등식만 보인다. 이 글에서는 이 부등식을 가측성 판정 부등식이라고 부르기로 한다.
가측집합이 이루는 σ-대수
가측집합 전체의 모임을 \(\mathcal M\)으로 나타내자. 이 절의 목표는 \(\mathcal M\)이 \(\sigma\)-대수를 이룬다는 사실을 증명하는 것이다. 집합족 \(\mathcal F\)가 \(\sigma\)-대수(\(\sigma\)-algebra)라는 말은, \(\mathbb R\in\mathcal F\)이고 \(\mathcal F\)가 여집합과 가산합집합을 취하는 연산에 대해 닫혀 있다는 뜻이다. 이 세 조건만 있으면, 가산교집합, 유한합집합, 차집합처럼 흔히 사용하는 집합 연산에 대하여 닫혀 있다는 성질이 모두 유도된다.
\(\mathbb R\in\mathcal M\)임은 곧바로 확인된다. 임의의 시험집합 \(A\)에 대해 \(A\cap\mathbb R=A\)이고 \(A\cap\mathbb R^c=\varnothing\)이므로 \[ m^*(A\cap\mathbb R)+m^*(A\cap\mathbb R^c)=m^*(A)+m^*(\varnothing)=m^*(A) \] 이고, 이것이 바로 가측성의 정의이다. 여집합에 대해 닫혀 있음도 곧바로 확인된다. 가측성을 정의하는 등식은 \(E\)와 \(E^c\)에 대해 대칭이다. (등식에서 두 항의 순서만 바뀔 뿐이다.) 그러므로 \(E\in\mathcal M\)이면 \(E^c\in\mathcal M\)이다.
다음으로 유한합집합에 대해 닫혀 있음을 보이자. \(E_1,\,E_2\in\mathcal M\)이라고 하고, 임의의 시험집합 \(A\)를 잡자. \(E_1\)이 가측이므로 \[ m^*(A)=m^*(A\cap E_1)+m^*(A\cap E_1^c) \] 이고, \(E_2\)가 가측이므로 시험집합을 \(A\cap E_1^c\)로 바꾸어 적용하면 \[ m^*(A\cap E_1^c)=m^*(A\cap E_1^c\cap E_2)+m^*(A\cap E_1^c\cap E_2^c) \] 이다. 두 식을 합치면 \[ m^*(A)=m^*(A\cap E_1)+m^*(A\cap E_1^c\cap E_2)+m^*(A\cap E_1^c\cap E_2^c) \] 를 얻는다. 그런데 드모르간 법칙에 의하여 \(A\cap E_1^c\cap E_2^c=A\cap(E_1\cup E_2)^c\)이고, 집합 등식 \[ (A\cap E_1)\cup(A\cap E_1^c\cap E_2)=A\cap(E_1\cup E_2) \] 가 성립한다. [이 등식은 다음과 같이 확인된다. \(A\cap(E_1\cup E_2)=(A\cap E_1)\cup(A\cap E_2)\)인데, \[A\cap E_2=(A\cap E_2\cap E_1)\cup(A\cap E_2\cap E_1^c)\] 이고 \[A\cap E_2\cap E_1\subseteq A\cap E_1\] 이므로, \[(A\cap E_1)\cup(A\cap E_2)=(A\cap E_1)\cup(A\cap E_1^c\cap E_2)\] 이다.] 그러므로 준가법성에 의하여 \[ m^*(A\cap E_1)+m^*(A\cap E_1^c\cap E_2)\ge m^*\left(A\cap(E_1\cup E_2)\right) \] 이고, 앞의 등식과 결합하면 \[ m^*(A)\ge m^*\left(A\cap(E_1\cup E_2)\right)+m^*\left(A\cap(E_1\cup E_2)^c\right) \] 이다. 이것이 바로 가측성 판정 부등식이므로 \(E_1\cup E_2\in\mathcal M\)이다. 수학적 귀납법을 사용하면 임의의 유한 개의 가측집합의 합집합도 가측이다. \(\mathcal M\)이 여집합과 유한합집합에 대해 닫혀 있으므로, 드모르간 법칙에 의하여 유한교집합에 대해서도 닫혀 있다. 즉 \(\mathcal M\)은 대수(algebra)를 이룬다.
이제 서로소인 가측집합에 대해서는 시험집합의 외측도가 정확히 조각별로 더해진다는 사실을 보이자. \(E_1,\,E_2\in\mathcal M\)이 서로소라고 하자. 임의의 시험집합 \(A\)에 대해, \(E_1\)의 가측성을 시험집합 \(A\cap(E_1\cup E_2)\)에 적용하면 \[\begin{aligned} m^*\left(A\cap(E_1\cup E_2)\right)&=m^*\left(A\cap(E_1\cup E_2)\cap E_1\right) \\[4pt] &\qquad +m^*\left(A\cap(E_1\cup E_2)\cap E_1^c\right) \end{aligned}\] 이다. 그런데 \((E_1\cup E_2)\cap E_1=E_1\)이고, \(E_1,\,E_2\)가 서로소이므로 \(E_2\subseteq E_1^c\)여서 \((E_1\cup E_2)\cap E_1^c=E_2\)이다. 그러므로 \[ m^*\left(A\cap(E_1\cup E_2)\right)=m^*(A\cap E_1)+m^*(A\cap E_2) \] 를 얻는다. 이 등식에 수학적 귀납법을 적용하면, \(E_1,\,\ldots,\,E_n\)이 쌍마다 서로소인 가측집합일 때 임의의 시험집합 \(A\)에 대해 \[ m^*\left(A\cap\bigcup_{k=1}^nE_k\right)=\sum_{k=1}^nm^*(A\cap E_k) \] 가 성립한다.
이제 가산합집합을 다룰 준비가 되었다.
가측집합의 σ-대수 정리. 가측집합의 모임 \(\mathcal M\)은 \(\sigma\)-대수를 이룬다. 즉 \(\mathbb R\in\mathcal M\)이고, \(\mathcal M\)은 여집합과 가산합집합을 취하는 연산에 대해 닫혀 있다.
증명은 다음과 같다. \(\mathbb R\in\mathcal M\)임과 여집합에 대해 닫혀 있음은 이미 보였으므로, 가산합집합에 대해 닫혀 있음만 보이면 된다. 가측집합 \(E_1,\,E_2,\,\ldots\in\mathcal M\)이 주어졌다고 하자. \(E_1'=E_1\)로 두고, \(k\ge2\)일 때 \[ E_k'=E_k\setminus(E_1\cup\cdots\cup E_{k-1}) \] 로 두자. \(\mathcal M\)이 대수이므로 각 \(E_k'\)은 가측집합이고, \(\{E_k'\}\)는 쌍마다 서로소이며 \(\bigcup_kE_k'=\bigcup_kE_k\)이다. [이러한 조작을 흔히 서로소화라고 부른다. 임의의 가산합집합을 서로소인 집합의 가산합집합으로 바꾸는 표준적인 방법인데, 앞으로도 여러 번 사용된다.] 그러므로 \(E_k\) 대신 \(E_k'\)을 다루어도 무방하니, 처음부터 \(E_1,\,E_2,\,\ldots\)가 쌍마다 서로소라고 가정하자.
\(E=\bigcup_{k=1}^\infty E_k\)라고 하고, 각 자연수 \(n\)에 대해 \(F_n=\bigcup_{k=1}^nE_k\)라고 하자. \(\mathcal M\)이 대수이므로 \(F_n\in\mathcal M\)이다. 임의의 시험집합 \(A\)에 대해 \(F_n\)의 가측성에 의하여 \[ m^*(A)=m^*(A\cap F_n)+m^*(A\cap F_n^c) \] 이다. \(F_n\subseteq E\)이므로 \(F_n^c\supseteq E^c\)이고, 따라서 \(A\cap F_n^c\supseteq A\cap E^c\)이므로 단조성에 의하여 \[ m^*(A\cap F_n^c)\ge m^*(A\cap E^c) \] 이다. 또한 서로소인 가측집합에 대해 증명한 등식에 의하여 \[ m^*(A\cap F_n)=\sum_{k=1}^nm^*(A\cap E_k) \] 이다. 두 결과를 결합하면 \[ m^*(A)\ge\sum_{k=1}^nm^*(A\cap E_k)+m^*(A\cap E^c) \] 를 얻는다. 이 부등식은 모든 \(n\)에 대해 성립하고 우변의 첫째 항은 \(n\)에 대해 증가하므로, \(n\to\infty\)인 극한을 취하면 \[ m^*(A)\ge\sum_{k=1}^\infty m^*(A\cap E_k)+m^*(A\cap E^c) \] 이다. 그런데 가산준가법성에 의하여 \[ \sum_{k=1}^\infty m^*(A\cap E_k)\ge m^*\left(\bigcup_{k=1}^\infty(A\cap E_k)\right)=m^*(A\cap E) \] 이므로 \[ m^*(A)\ge m^*(A\cap E)+m^*(A\cap E^c) \] 을 얻는다. 이것이 바로 가측성 판정 부등식이므로 \(E\in\mathcal M\)이다.
이 증명 과정에서 중요한 등식이 하나 더 나온다. \(E\)가 가측임이 확인되었으므로 \[m^*(A)=m^*(A\cap E)+m^*(A\cap E^c)\]가 성립하며, 방금 얻은 부등식과 결합하면 \[\begin{aligned} m^*(A) &\ge \sum_{k=1}^\infty m^*(A\cap E_k)+m^*(A\cap E^c) \\[4pt] &\ge m^*(A\cap E)+m^*(A\cap E^c)=m^*(A) \end{aligned}\] 이므로, 이 식에서 모든 부등호가 사실은 등호가 된다. 특히 \[ \sum_{k=1}^\infty m^*(A\cap E_k)=m^*(A\cap E) \] 를 얻는다. 이 등식에 \(A=E\)를 대입하면 \(A\cap E_k=E_k\), \(A\cap E=E\)이므로 다음 정리를 얻는다.
가측집합 위에서 외측도의 가산가법성. \(E_1,\,E_2,\,\ldots\)가 쌍마다 서로소인 가측집합이면 \[ m^*\left(\bigcup_{k=1}^\infty E_k\right)=\sum_{k=1}^\infty m^*(E_k) \] 이다.
이제부터 가측집합 위에서는 \(m^*\) 대신 \(m\)으로 나타내고, 이를 르베그 측도(Lebesgue measure)라고 부른다. 정의역을 \(\mathcal M\)으로 좁혔을 뿐 값 자체는 외측도와 같다. 기호를 구별하여 사용하는 것은, \(\mathcal M\) 위에서는 이 함수가 가산가법적이라는 훨씬 강한 성질을 가진다는 사실을 강조하기 위해서다. 일반적으로 \(\sigma\)-대수 위에 정의되어 있고, 공집합에서 값이 \(0\)이며, 가산가법적인 함수를 측도(measure)라고 부른다. 이 개념 자체를 추상화하는 일은 뒤에서 측도론을 일반적인 공간 위에서 다룰 때 정식으로 살펴본다. (참고: 측도 공간과 라돈-니코딤 정리)
구간의 가측성과 보렐집합
지금까지 \(\mathcal M\)이 좋은 구조를 가진다는 사실을 보였지만, 정작 \(\mathcal M\)에 어떤 집합이 들어 있는지는 살펴보지 않았다. \(\mathcal M\)에 속하는 집합이 지나치게 적다면 지금까지의 논의가 쓸모없을 것이다. 그렇지 않다는 사실을 확인하자.
반직선의 가측성. 임의의 \(a\in\mathbb R\)에 대해 반직선 \((a,\,\infty)\)는 가측집합이다.
증명은 다음과 같다. 시험집합 \(A\)를 하나 잡자. \(m^*(A)=\infty\)이면 가측성 판정 부등식이 자명하게 성립하므로, \(m^*(A) < \infty\)라고 가정해도 좋다. \(\varepsilon > 0\)이 임의로 주어졌다고 하자. 하한의 성질에 의하여, \(A\)를 덮는 열린구간열 \(\{I_k\}\)가 존재하여 \[ \sum_{k=1}^\infty\ell(I_k) < m^*(A)+\varepsilon \] 을 만족시킨다. 각 \(I_k\)를 점 \(a\)에서 둘로 쪼개어 \[ I_k'=I_k\cap(a,\,\infty),\quad I_k''=I_k\cap(-\infty,\,a] \] 로 두면, 구간 하나를 한 점에서 쪼갠 것이므로 \(\ell(I_k')+\ell(I_k'')=\ell(I_k)\)이다.
\(I_k'\)은 열린구간(또는 공집합)이고 \(\{I_k'\}\)은 \(A\cap(a,\,\infty)\)를 덮으므로 \[ m^*\left(A\cap(a,\,\infty)\right)\le\sum_{k=1}^\infty\ell(I_k') \] 이다. 한편 \(I_k''\)은 반열린구간일 수 있으므로 그대로는 외측도의 정의에 사용할 수 없지만, \(I_k''\)을 포함하는 열린구간 \(J_k\)를 \[ \ell(J_k) < \ell(I_k'')+\frac{\varepsilon}{2^k} \] 가 되도록 잡을 수 있다. \(\{J_k\}\)는 \(A\cap(-\infty,\,a]\)를 덮는 열린구간열이므로 \[ m^*\left(A\cap(-\infty,\,a]\right)\le\sum_{k=1}^\infty\ell(J_k) < \sum_{k=1}^\infty\ell(I_k'')+\varepsilon \] 이다. 두 부등식을 변마다 더하면 \[\begin{aligned} m^*\left(A\cap(a,\,\infty)\right)+m^*\left(A\cap(-\infty,\,a]\right) &< \sum_{k=1}^\infty\ell(I_k')+\sum_{k=1}^\infty\ell(I_k'')+\varepsilon \\[4pt] &= \sum_{k=1}^\infty\ell(I_k)+\varepsilon \\[4pt] &< m^*(A)+2\varepsilon \end{aligned}\] 를 얻는다. \(\varepsilon\)이 임의의 양수이므로 \[ m^*\left(A\cap(a,\,\infty)\right)+m^*\left(A\cap(-\infty,\,a]\right)\le m^*(A) \] 이고, \((-\infty,\,a]=(a,\,\infty)^c\)이므로 이것이 바로 가측성 판정 부등식이다. 그러므로 \((a,\,\infty)\in\mathcal M\)이다.
\(\mathcal M\)이 \(\sigma\)-대수이므로, 반직선 \((a,\,\infty)\)가 가측이라는 사실 하나로부터 여러 종류의 집합이 가측임을 얻는다. 여집합을 취하면 \((-\infty,\,a]\in\mathcal M\)이다. 유한교집합을 사용하면 \[ (a,\,b)=(a,\,\infty)\cap(-\infty,\,b)\in\mathcal M \] 이다. [\((-\infty,\,b)=\bigcup_{n=1}^\infty(-\infty,\,b-\frac1n]\)이므로 \((-\infty,\,b)\)도 가측이다.] 한원소집합은 \[ \{a\}=\bigcap_{n=1}^\infty\left(a-\frac1n,\,a+\frac1n\right) \] 로 가측집합의 가산교집합이므로 가측이고, 닫힌구간과 반열린구간은 열린구간과 끝점의 합집합이므로 가측이다. 마지막으로 임의의 열린집합 \(U\subseteq\mathbb R\)은 가산 개의 서로소인 열린구간의 합집합으로 나타낼 수 있으므로 가측이다. [\(U\)의 각 점 \(x\)에 대해, \(x\)를 포함하면서 \(U\)에 포함되는 가장 큰 열린구간을 생각하자. 서로 다른 두 점에서 얻은 구간은 같거나 서로소이고, 각 구간은 유리수를 하나 이상 포함하므로 서로 다른 구간의 개수는 가산 개를 넘지 않는다.]
이 마지막 사실이 중요하다. 실직선의 열린집합을 전부 포함하는 가장 작은 \(\sigma\)-대수를 보렐 \(\sigma\)-대수(Borel \(\sigma\)-algebra)라고 부르고 \(\mathcal B\)로 나타내며, 그 원소를 보렐집합(Borel set)이라고 부른다. [보렐집합이라는 이름은 에밀 보렐에서 왔다. 열린집합에서 출발하여 여집합과 가산합집합을 반복하여 적용하여 만들 수 있는 모든 집합이 보렐집합이다. 열린집합, 닫힌집합, 가산 개의 열린집합의 교집합(\(G_\delta\)형), 가산 개의 닫힌집합의 합집합(\(F_\sigma\)형), 그리고 이 조작을 반복하여 얻는 훨씬 복잡한 집합까지 전부 포함된다.] \(\mathcal M\)이 \(\sigma\)-대수이고 모든 열린집합을 포함하므로, \(\mathcal B\)가 그러한 성질을 갖는 가장 작은 \(\sigma\)-대수라는 정의에 의하여 \[ \mathcal B\subseteq\mathcal M \] 을 얻는다. 즉 모든 보렐집합은 르베그 가측집합이다. 사실 이 포함관계는 진부분집합 관계다. 즉 르베그 가측집합이면서 보렐집합이 아닌 집합이 존재한다. [개수를 세는 논증으로 확인할 수 있다. 칸토어집합은 측도가 \(0\)인 보렐집합이다. 측도가 \(0\)인 집합의 모든 부분집합은 가측이다. (단조성에 의하여 외측도가 \(0\)이고, 외측도가 \(0\)인 집합에 대해서는 가측성 판정 부등식이 자명하게 성립하기 때문이다.) 그런데 칸토어집합의 농도는 연속체 농도 \(2^{\aleph_0}\)이므로 그 부분집합의 개수는 \(2^{2^{\aleph_0}}\)인 반면, 보렐집합 전체의 개수는 \(2^{\aleph_0}\)임이 알려져 있다. 부분집합의 개수가 보렐집합의 개수보다 크므로, 칸토어집합의 부분집합 가운데 보렐집합이 아닌 것이 존재한다.] 이 사실 자체는 뒤에서 다시 사용되지 않지만, 가측집합이라는 개념이 보렐집합보다 진짜로 더 넓다는 점은 기억해 둘 만하다.
비탈리 집합: 가측이 아닌 집합
\(\mathcal M\)의 원소가 이렇게 풍부하다면, 모든 집합이 가측인 것은 아닐까? 이 절에서는 그렇지 않다는 사실을 보인다.
먼저 도구 하나가 필요하다. 그 도구는 바로 외측도가 평행이동에 대하여 불변이라는 사실이다. 즉 임의의 집합 \(A\)와 실수 \(t\)에 대해 \(m^*(A+t)=m^*(A)\)이다. 왜냐하면, \(\{I_k\}\)가 \(A\)를 덮는 열린구간열이기 위한 필요충분조건은 \(\{I_k+t\}\)가 \(A+t\)를 덮는 열린구간열인 것이고 \(\ell(I_k+t)=\ell(I_k)\)이므로, 두 집합의 덮개가 이루는 길이의 합의 모임이 완전히 같기 때문이다. 같은 이유로 \(E\)가 가측이면 \(E+t\)도 가측이고 \(m(E+t)=m(E)\)이다. \[A\cap(E+t)=\left((A-t)\cap E\right)+t\] 이므로 평행이동 불변성에 의하여 \[m^*\left(A\cap(E+t)\right)=m^*\left((A-t)\cap E\right)\] 이고, 마찬가지로 \[m^*\left(A\cap(E+t)^c\right)=m^*\left((A-t)\cap E^c\right)\] 이다. \(E\)가 가측이므로 이 두 값의 합은 \(m^*(A-t)=m^*(A)\)와 같다.
이제 \([0,\,1)\) 위에 동치관계를 하나 정의하자. \(x-y\in\mathbb Q\)일 때 \(x\sim y\)라고 정의한다. [반사성, 대칭성, 추이성이 전부 유리수의 뺄셈에 대한 성질에서 나오므로, 이것이 동치관계임은 쉽게 확인된다.] 이 관계는 \([0,\,1)\)을 동치류로 분할하는데, 각 동치류는 가산집합이고 동치류의 개수는 비가산이다. 선택공리에 의하여, 각 동치류에서 대표원을 정확히 하나씩 골라 그 전체를 모은 집합을 만들 수 있다. 이 집합을 \(V\)로 나타내고 비탈리 집합(Vitali set)이라고 부른다. [주세페 비탈리가 1905년 소책자 “직선 위 점집합의 측도 문제에 관하여”(Sul problema della misura dei gruppi di punti di una retta)에서 처음 구성했다. 이 구성에 선택공리가 반드시 필요하다는 사실은 로버트 솔로베이의 1970년 결과로 확인된다. 솔로베이는 도달 불가능한 기수가 존재한다는 가정 아래, 선택공리 대신 훨씬 약한 종속선택 공리만 성립하는 집합론의 모형을 구성했는데, 그 모형 안에서는 실직선의 모든 부분집합이 르베그 가측이다.]
비탈리 집합의 비가측성. 비탈리 집합 \(V\)는 르베그 가측집합이 아니다.
증명은 다음과 같다. \(\mathbb Q\cap[-1,\,1]\)을 중복 없이 \(\{r_1,\,r_2,\,r_3,\,\ldots\}\)로 나열하고, \(V_k=V+r_k\)로 두자.
먼저 \(\{V_k\}\)가 쌍마다 서로소임을 보이자. \(k\neq j\)인데 \(V_k\cap V_j\neq\varnothing\)이라고 가정하면, 적당한 \(v,\,v'\in V\)에 대해 \(v+r_k=v'+r_j\)이므로 \(v-v'=r_j-r_k\in\mathbb Q\), 즉 \(v\sim v'\)이다. \(V\)는 각 동치류에서 대표원을 정확히 하나씩만 가지므로 \(v=v'\)이고, 따라서 \(r_k=r_j\)이다. 이것은 \(k\neq j\)라는 가정과 나열에 중복이 없다는 사실에 모순이다. 그러므로 \(\{V_k\}\)는 쌍마다 서로소이다.
다음으로 \[ [0,\,1)\subseteq\bigcup_{k=1}^\infty V_k\subseteq[-1,\,2) \] 임을 보이자. 오른쪽 포함관계는 \(V\subseteq[0,\,1)\)이고 \(r_k\in[-1,\,1]\)이므로 곧바로 나온다. 왼쪽 포함관계를 보이기 위하여 임의의 \(x\in[0,\,1)\)을 잡자. \(V\)는 모든 동치류에서 대표원을 하나씩 가지므로, \(x\)가 속한 동치류의 대표원 \(v\in V\)가 존재하여 \(x\sim v\), 즉 \(x-v\in\mathbb Q\)이다. \(x,\,v\in[0,\,1)\)이므로 \(x-v\in(-1,\,1)\)이고, 따라서 \(x-v=r_k\)인 \(k\)가 존재한다. 그러면 \(x=v+r_k\in V_k\)이므로 \(x\in\bigcup_kV_k\)이다.
이제 \(V\)가 가측이라고 가정하고 모순을 이끌어 내자. \(V\)가 가측이면 평행이동 불변성에 의하여 각 \(V_k\)도 가측이고 \(m(V_k)=m(V)\)이다. \(\{V_k\}\)가 쌍마다 서로소이므로 가산가법성에 의하여 \[ m\left(\bigcup_{k=1}^\infty V_k\right)=\sum_{k=1}^\infty m(V_k)=\sum_{k=1}^\infty m(V) \] 이다. 이제 \(m(V)\)의 값에 따라 두 경우로 나눈다.
\(m(V)=0\)이면 위 식의 우변은 \(0\)이다. 그런데 \([0,\,1)\subseteq\bigcup_kV_k\)이므로 단조성에 의하여 \[ m\left(\bigcup_{k=1}^\infty V_k\right)\ge m\left([0,\,1)\right)=1 \] 이어야 한다. \(0\ge1\)은 모순이다.
\(m(V) > 0\)이면 위 식의 우변은 양수를 가산 무한 번 더한 것이므로 \(\infty\)이다. 그런데 \(\bigcup_kV_k\subseteq[-1,\,2)\)이므로 단조성에 의하여 \[ m\left(\bigcup_{k=1}^\infty V_k\right)\le m\left([-1,\,2)\right)=3 \] 이어야 한다. \(\infty\le3\)은 모순이다.
\(m(V)\)는 \(0\)이거나 양수인데 두 경우 모두 모순에 이르므로, \(V\)가 가측이라는 가정이 틀렸다. 즉 \(V\)는 가측집합이 아니다.
비탈리 집합의 존재는 이 절의 첫머리에서 던진 질문에 답한다. \(\mathcal M\)은 모든 보렐집합을 포함할 만큼 풍부하지만, 실직선의 모든 부분집합을 포함할 만큼 풍부하지는 않다. 이 한계는 우연이 아니다. 만약 모든 집합에 평행이동 불변이고 가산가법적이며 구간에서 길이와 일치하는 측도를 부여할 수 있었다면, 방금 살펴본 증명이 그대로 모순을 이끌어 냈을 것이다. 다시 말해 카라테오도리의 조건으로 골라낸 \(\mathcal M\)이라는 경계는, 선택공리를 받아들이는 한 반드시 존재해야 하는 경계다.
가측함수
집합의 크기를 잴 수 있게 되었으니, 이제 함수를 살펴볼 차례다. 다음 글에서 적분을 정의할 때, 함수 \(f\)의 값이 특정한 값보다 큰 점의 집합 \(\{x:f(x) > a\}\)가 계속 등장한다. 적분을 정의하려면 이 집합의 크기를 잴 수 있어야 하므로, 다음 정의가 자연스럽다. 이 절에서 함수는 \(f:\mathbb R\to[-\infty,\,\infty]\) 꼴로, 즉 \(\pm\infty\)라는 값도 허용하는 확장실숫값함수라고 하자. [측도가 무한대인 집합 위에서 상한을 취하는 등의 연산이 자연스럽게 \(\infty\)를 만들어 내므로, 처음부터 확장실수를 허용해 두는 편이 여러모로 편리하다.]
가측함수의 정의.
함수 \(f:\mathbb R\to[-\infty,\,\infty]\)가 임의의 \(a\in\mathbb R\)에 대해 \[ \{x\in\mathbb R:f(x) > a\}\in\mathcal M \] 을 만족시키면, “\(f\)는 르베그 가측함수(Lebesgue measurable function)이다”라고 말한다. 혼동의 여지가 없으면 르베그 가측함수를 간단히 가측함수라고 부른다.
정의에 사용된 부등호 \( > \)는 다른 부등호로 바꾸어도 무방하다. 즉 다음 네 조건은 서로 동치다. (각 조건은 모든 \(a\in\mathbb R\)에 대해 성립한다는 뜻이다. 아래에서 \(\{f > a\}\)는 \(\{x\in\mathbb R:f(x) > a\}\)를 줄여 쓴 것이다.) \[ \text{(a)}\ \{f > a\}\in\mathcal M,\quad\text{(b)}\ \{f\ge a\}\in\mathcal M , \] \[ \text{(c)}\ \{f < a\}\in\mathcal M,\quad\text{(d)}\ \{f\le a\}\in\mathcal M . \] 이 동치를 확인하는 논증은 순환 고리를 이룬다. 우선 (a)이면 (b)이다. \[ \{f\ge a\}=\bigcap_{n=1}^\infty\left\{f > a-\frac1n\right\} \] 인데, 우변은 (a)에 의하여 가측집합의 가산교집합이므로 가측이다. (\(\mathcal M\)이 \(\sigma\)-대수이므로 가산교집합에 대해서도 닫혀 있다.) (b)이면 (c)이다. \(\{f < a\}=\{f\ge a\}^c\)이므로 여집합을 취하면 된다. (c)이면 (d)이다. \[ \{f\le a\}=\bigcap_{n=1}^\infty\left\{f < a+\frac1n\right\} \] 이므로 첫 번째와 같은 논증이 적용된다. (d)이면 (a)이다. \(\{f > a\}=\{f\le a\}^c\)이므로 여집합을 취하면 된다. 네 조건이 고리를 이루며 서로를 함의하므로 전부 동치다.
가측함수의 모임은 사칙계산에 대해 닫혀 있다. 이 성질이 성립하지 않았다면 가측함수라는 개념이 쓸모없었을 것이므로, 반드시 확인해야 하는 사실이다.
가측함수의 사칙계산에 대한 닫힘 성질.
두 함수 \(f,\) \(g\)가 가측함수이고 \(c\in\mathbb R\)이면, \(f+g\), \(cf\), \(fg\)도 가측함수다.
증명은 다음과 같다. 먼저 \(f+g\)의 가측성을 보이자. 임의의 \(a\in\mathbb R\)에 대해 등식 \[ \{f+g > a\}=\bigcup_{r\in\mathbb Q}\left(\{f > r\}\cap\{g > a-r\}\right) \] 이 성립함을 확인하자. \(f(x)+g(x) > a\)이면 \(f(x) > a-g(x)\)인데, 유리수의 조밀성에 의하여 \(f(x) > r > a-g(x)\)인 유리수 \(r\)이 존재하고, 이것은 \(f(x) > r\)과 \(g(x) > a-r\)이 동시에 성립한다는 뜻이다. 역으로 적당한 유리수 \(r\)에 대해 \(f(x) > r\)이고 \(g(x) > a-r\)이면, 두 부등식을 변마다 더하여 \(f(x)+g(x) > a\)를 얻는다. 그러므로 위 집합 등식이 성립한다. 등식의 우변은 가측집합의 교집합을 가산 개(유리수 전체가 가산집합이므로) 모아 합집합을 취한 것이므로 가측이다. 즉 \(f+g\)는 가측함수다.
다음으로 \(cf\)의 가측성을 보이자. \(c > 0\)이면 \[ \{cf > a\}=\left\{f > \frac ac\right\}\in\mathcal M \] 이고, \(c < 0\)이면 \[ \{cf > a\}=\left\{f < \frac ac\right\}\in\mathcal M \] 이다. (두 번째 집합의 가측성은 동치조건 (c)에 의한 것이다.) \(c=0\)이면 \(\{cf > a\}\)는 \(a < 0\)일 때 \(\mathbb R\)이고 \(a\ge0\)일 때 \(\varnothing\)이므로, 어느 경우든 가측이다.
마지막으로 \(fg\)의 가측성을 보이자. 먼저 \(f^2\)이 가측임을 보이고 나서 대수적 항등식을 사용한다. \(a < 0\)이면 \(\{f^2 > a\}=\mathbb R\)이다. \(a\ge0\)이면 \(f(x)^2 > a\)이기 위한 필요충분조건이 \(f(x) > \sqrt a\) 또는 \(f(x) < -\sqrt a\)인 것이므로 \[ \left\{f^2 > a\right\}=\left\{f > \sqrt a\right\}\cup\left\{f < -\sqrt a\right\} \] 이다. 어느 경우든 가측집합이므로 \(f^2\)은 가측함수다. 이제 항등식 \[ fg=\frac12\left[(f+g)^2-f^2-g^2\right] \] 을 사용하자. 우변은 가측함수의 합, 차, 상수배, 제곱을 조합한 것이고 이 연산이 전부 가측성을 보존한다는 사실을 이미 보였으므로, \(fg\)도 가측함수다.
가측함수의 모임은 가산 개의 함수에 대한 상한, 하한, 극한을 취하는 연산에 대해서도 닫혀 있다. 이 성질은 다음 절의 단순함수 근사 정리의 토대이자, 다음 글에서 다룰 수렴정리가 성립하기 위한 최소한의 전제다.
가측함수의 상한, 하한, 극한에 대한 닫힘.
\(\{f_n\}_{n=1}^\infty\)이 가측함수의 수열이면, 네 함수 \[ \sup_nf_n,\quad \inf_nf_n,\quad \limsup_nf_n,\quad \liminf_nf_n \] 도 모두 가측함수다. 특히 극한 \(\lim_nf_n(x)\)이 각 점에서 존재하면 그 극한함수도 가측함수다.
증명은 다음과 같다. 임의의 \(a\in\mathbb R\)에 대해 \[ \left\{\sup_nf_n > a\right\}=\bigcup_{n=1}^\infty\{f_n > a\} \] 이다. 왜냐하면, \(\sup_nf_n(x) > a\)이기 위한 필요충분조건은 적당한 \(n\)에 대해 \(f_n(x) > a\)인 것이기 때문이다. [상한의 정의에 의하여 \(\sup_nf_n(x) > a\)이면 \(a\)는 수열 \(\{f_n(x)\}\)의 상계가 아니므로 적당한 \(n\)에서 \(f_n(x) > a\)이고, 역으로 적당한 \(n\)에서 \(f_n(x) > a\)이면 \(\sup_nf_n(x)\ge f_n(x) > a\)이다.] 우변은 가측집합의 가산합집합이므로 가측이다. 그러므로 \(\sup_nf_n\)은 가측함수다. \(\inf_nf_n=-\sup_n(-f_n)\)이고 상수배와 상한이 가측성을 보존하므로, \(\inf_nf_n\)도 가측함수다.
상극한은 \[ \limsup_nf_n=\inf_{m\ge1}\left(\sup_{n\ge m}f_n\right) \] 인데, 안쪽의 \(\sup_{n\ge m}f_n\)은 각 \(m\)에 대해 가산 개의 함수에 대한 상한이므로 가측함수이고, 바깥쪽의 하한도 가측성을 보존하므로 \(\limsup_nf_n\)은 가측함수다. 하극한 \[ \liminf_nf_n=\sup_{m\ge1}\left(\inf_{n\ge m}f_n\right) \] 도 같은 방식으로 가측함수다. 마지막으로 극한 \(\lim_nf_n(x)\)이 모든 \(x\)에서 존재하면 그 값은 \(\limsup_nf_n(x)\)와 같으므로, 극한함수는 가측함수다.
단순함수와 근사 정리
가장 다루기 쉬운 가측함수는 유한 개의 값만 취하는 함수다. 이러한 함수의 적분은 매우 쉽게 정의할 수 있으며, 음이 아닌 임의의 가측함수는 이러한 함수의 극한으로 나타난다. 다음 글에서 르베그 적분을 정의할 때 이 사실이 출발점이 된다.
단순함수의 정의.
유한 개의 값만 취하는 가측함수 \(\varphi:\mathbb R\to\mathbb R\)을 단순함수(simple function)라고 부른다. \(\varphi\)가 서로 다른 값 \(c_1,\,\ldots,\,c_n\)을 각각 가측집합 \(E_1,\,\ldots,\,E_n\)에서 취한다면 (이 집합들은 쌍마다 서로소이고 \(\bigcup_iE_i=\mathbb R\)이다) \[ \varphi=\sum_{i=1}^nc_i\mathbb 1_{E_i} \] 로 쓸 수 있는데, 이를 \(\varphi\)의 표준형(canonical form)이라고 부른다. 여기서 \(\mathbb 1_E\)는 \(E\)의 지시함수(indicator function)로, \(E\) 위에서 함숫값이 \(1\)이고, \(E^c\) 위에서 함숫값이 \(0\)인 함수이다.
표준형에 등장하는 집합 \(E_i=\{x:\varphi(x)=c_i\}\)가 가측집합이라는 사실은 다음과 같이 확인된다. 등식 \[\{\varphi=c_i\}=\{\varphi\ge c_i\}\cap\{\varphi\le c_i\}\]가 성립하는데, \(\varphi\)가 가측함수이므로 동치조건 (b)와 (d)에 의하여 우변의 두 집합이 가측이고, 따라서 그 교집합도 가측이다.
이제 음이 아닌 가측함수를 단순함수로 근사하는 표준적인 구성 방법을 살펴보자. 기본 착상은 치역을 \(1/2^n\) 간격의 격자로 잘게 나누어, 함숫값이 어느 칸에 들어가는지에 따라 그 칸의 아래쪽 경계값을 대응시키는 것이다.
단순함수 근사 정리.
함수 \(f:\mathbb R\to[0,\,\infty]\)가 가측함수이면, 단순함수의 증가열 \(0\le\varphi_1\le\varphi_2\le\cdots\)가 존재하여 모든 \(x\)에서 \(\varphi_n(x)\to f(x)\)이다. 더 나아가 \(f\)가 어떤 집합 위에서 유계이면, 그 집합 위에서 \(\varphi_n\)은 \(f\)로 균등수렴한다.
증명은 다음과 같다. 각 자연수 \(n\)과 \(k=0,\,1,\,\ldots,\,n2^n-1\)에 대해 \[ E_{n,k}=f^{-1}\left(\left[\frac k{2^n},\,\frac{k+1}{2^n}\right)\right),\quad F_n=f^{-1}\left([n,\,\infty]\right) \] 로 두고 \[ \varphi_n=\sum_{k=0}^{n2^n-1}\frac k{2^n}\mathbb 1_{E_{n,k}}+n\cdot\mathbb 1_{F_n} \] 으로 정의하자. \(f\)가 가측함수이므로 \(E_{n,k}\)와 \(F_n\)은 전부 가측집합이고 [즉 \[E_{n,k}=\{f\ge k/2^n\}\cap\{f < (k+1)/2^n\}\]이고 \(F_n=\{f\ge n\}\)이므로, 동치조건들의 조합으로 가측성이 확인된다], 이 집합들은 \(\mathbb R\)을 유한 개의 서로소인 조각으로 나누므로 \(\varphi_n\)은 단순함수다. 직관적으로 말하면, \(\varphi_n(x)\)는 \(f(x) < n\)일 때 \(f(x)\)를 소수점 아래 \(n\)번째 이진자리에서 내림한 값이고, \(f(x)\ge n\)일 때는 \(n\)이다. 즉 \[ \varphi_n(x)=\begin{cases}\dfrac{\lfloor2^nf(x)\rfloor}{2^n} & (f(x) < n) \\[6pt] n & (f(x)\ge n)\end{cases} \] 이다.
먼저 \(\varphi_n\le\varphi_{n+1}\)임을 보이자. 점 \(x\)를 하나 고정시키고 \(f(x)\)의 값에 따라 세 경우로 나눈다. 첫째, \(f(x)\ge n+1\)이면 \(\varphi_n(x)=n\)이고 \(\varphi_{n+1}(x)=n+1\)이므로 \(\varphi_n(x) < \varphi_{n+1}(x)\)이다. 둘째, \(n\le f(x) < n+1\)이면 \(\varphi_n(x)=n\)이고 \[ \varphi_{n+1}(x)=\frac{\lfloor2^{n+1}f(x)\rfloor}{2^{n+1}} \] 인데, \(f(x)\ge n\)이고 \(n\cdot2^{n+1}\)이 정수이므로 \(\lfloor2^{n+1}f(x)\rfloor\ge n\cdot2^{n+1}\)이다. 따라서 \(\varphi_{n+1}(x)\ge n=\varphi_n(x)\)이다. 셋째, \(f(x) < n\)이면 \[ \varphi_n(x)=\frac{\lfloor2^nf(x)\rfloor}{2^n},\quad \varphi_{n+1}(x)=\frac{\lfloor2^{n+1}f(x)\rfloor}{2^{n+1}} \] 이다. 바닥함수의 성질 \(2\lfloor y\rfloor\le\lfloor2y\rfloor\)를 \(y=2^nf(x)\)에 적용하면 \(\varphi_n(x)\le\varphi_{n+1}(x)\)를 얻는다. [이 성질은 다음과 같이 확인된다. \(\lfloor y\rfloor\le y\)의 양변에 \(2\)를 곱하면 \(2\lfloor y\rfloor\le2y\)인데, 좌변이 정수이므로 \(2y\) 이하의 가장 큰 정수인 \(\lfloor2y\rfloor\) 이하다.] 세 경우 모두 \(\varphi_n(x)\le\varphi_{n+1}(x)\)이므로 \(\{\varphi_n\}\)은 증가열이다.
다음으로 \(\varphi_n(x)\to f(x)\)임을 보이자. \(f(x) < \infty\)이면, \(n > f(x)\)인 모든 \(n\)에 대해 \(x\notin F_n\)이므로, 바닥함수의 정의에 의하여 \[ 0\le f(x)-\varphi_n(x)=f(x)-\frac{\lfloor2^nf(x)\rfloor}{2^n} < \frac1{2^n} \] 이다. \(n\to\infty\)일 때 \(1/2^n\to0\)이므로 \(\varphi_n(x)\to f(x)\)이다. \(f(x)=\infty\)이면 모든 \(n\)에서 \(x\in F_n\)이므로 \(\varphi_n(x)=n\to\infty=f(x)\)이다. 어느 경우든 \(\varphi_n(x)\to f(x)\)이다.
마지막으로 균등수렴을 보이자. \(f\)가 집합 \(S\) 위에서 \(f\le M\)을 만족시킨다고 하자. \(n > M\)인 모든 \(n\)과 모든 \(x\in S\)에 대해 \(f(x)\le M < n\)이므로 \(x\notin F_n\)이고, 앞에서 얻은 부등식이 그대로 적용되어 \[ 0\le f(x)-\varphi_n(x) < \frac1{2^n} \] 이다. 이 오차의 한계 \(1/2^n\)은 \(x\in S\)의 값과 무관하므로, \(S\) 위에서 \(\varphi_n\)은 \(f\)로 균등수렴한다.
이제 적분을 정의할 차례다
지금까지의 논의를 정리해 보자. 구간의 길이를 임의의 집합으로 일반화하는 외측도를 정의하고, 단조성과 가산준가법성을 증명하였다. 카라테오도리의 조건을 만족시키는 가측집합을 골라내고, 가측집합의 모임이 \(\sigma\)-대수를 이루며 그 위에서 측도가 가산가법적이라는 사실을 증명하였다. 모든 보렐집합이 가측인 한편, 비탈리 집합처럼 가측이 아닌 집합도 존재한다는 사실을 확인하였다. 이 측도를 사용하여 가측함수를 정의하고, 가측함수의 모임이 사칙계산과 상한, 하한, 극한에 대해 닫혀 있음을 증명하였으며, 음이 아닌 임의의 가측함수가 단순함수의 증가열의 극한으로 나타난다는 사실을 확인하였다.
하지만 아직 적분은 정의하지 않았다. 크기를 재는 도구를 먼저 완성하지 않고서는 그 위에 적분을 정의할 수 없기 때문이다. 이제 재료가 갖추어졌다. 단순함수 \(\varphi=\sum_ic_i\mathbb 1_{E_i}\)의 적분은 \(\sum_ic_im(E_i)\)로 정의하는 것이 자연스럽다. 그리고 음이 아닌 가측함수 \(f\)는 단순함수의 증가열 \(\{\varphi_n\}\)의 극한이므로, \(f\)의 적분을 \(\varphi_n\)의 적분의 극한(또는 상한)으로 정의할 수 있을 것이다. 이 발상을 정확히 다듬고, 그렇게 정의한 적분이 좋은 성질, 특히 극한과 적분의 순서를 바꿀 수 있다는 성질을 갖는지 확인하는 일이 다음 글의 내용이다.
리만 적분을 다룬 글의 마지막 질문에 대해서도 이제 절반쯤 답을 얻었다. 디리클레 함수의 불연속점의 집합, 즉 \([0,\,1]\) 전체는 측도가 \(1\)이고, 단조함수의 불연속점의 집합은 가산집합이므로 측도가 \(0\)이다. [가산집합의 측도가 \(0\)이라는 사실은 가산준가법성에서 나온다. 가산집합 \(\{x_1,\,x_2,\,\ldots\}\)에 대해 \(m^*(\{x_k\})=0\)이므로 \[ m^*\left(\bigcup_{k=1}^\infty\{x_k\}\right)\le\sum_{k=1}^\infty m^*(\{x_k\})=0 \] 이다.] 불연속점의 집합의 측도가 \(0\)인지 아닌지가 리만 적분 가능성을 결정하는 조건이 된다는 사실을 정확한 정리로 진술하고 증명할 수 있다. 이 일은 다음 글(르베그 적분)에서 르베그 적분과 수렴정리를 다루면서 함께 마무리한다.
🍭