적분론 6부: 측도 공간과 라돈-니코딤 정리

19

르베그 측도를 구성할 때 가장 처음 시작한 건 구간의 길이를 정의하는 일이었다. 그런데 그 구성을 다시 들여다보면, 구간의 길이를 정의하는 일이 정말로 필요했던 곳은 외측도를 처음 정의하기 시작할 때뿐이었다. 카라테오도리의 조건, 가측집합이 \(\sigma\)-대수를 이룬다는 정리, 가산가법성은 모두 ‘구간의 길이’라는 구체적인 내용과 무관하게, 순전히 그 값이 갖는 성질(단조성, 가산준가법성)만으로 성립하였다. 그렇다면 애초에 실직선을 떠나, 임의의 집합 위에서 ‘크기’라는 개념 자체를 공리로 정의하면 어떨까?

이 글은 이 질문에서 시작하여 두 가지를 목표로 한다. 하나는 측도라는 개념을 완전히 추상화하는 일이다. 다른 하나는 측도가 음이 아닌 값만 가져야 한다는 제약을 풀고 부호측도를 다루는 일이다. 그 끝에서 라돈-니코딤 정리를 증명하는데, 이 정리는 뒤에서 확률론을 다루기 위해 반드시 필요한 결과다. 조건부기댓값이라는 개념 전체가 이 정리에 기반을 두고 있기 때문이다.

추상측도공간

르베그 측도의 구성에서 실제로 사용된 성질만 뽑아내면 다음과 같은 정의를 얻는다.

정의 자체는 앞서 르베그 측도의 성질을 그대로 공리로 옮겨 적은 것에 지나지 않는다. 그런데 이 정의를 만족시키는 대상이 르베그 측도 말고도 많다는 것이 중요하다.

가장 간단한 예는 계수측도(counting measure)이다. \(X\)가 임의의 집합이고 \(\mathcal F\)를 \(X\)의 모든 부분집합의 모임(멱집합)으로 두면, \(\mu(A)=A\)의 원소 개수(무한이면 \(\infty\))로 정의된 \(\mu\)는 측도의 공리를 만족시킨다. 원소 개수를 세는 일은 서로소인 집합끼리는 당연히 더해지기 때문이다.

또 다른 예는 디랙측도(Dirac measure)이다. \(X\)가 임의의 집합이고 \(x_0\in X\)가 고정된 점이라고 하자. \[ \delta_{x_0}(A)=\begin{cases}1 & (x_0\in A) \\[6pt] 0 & (x_0\notin A)\end{cases} \] 로 정의하면, 이 역시 측도다. [가산가법성의 확인은 간단하다. 쌍마다 서로소인 \(\{A_n\}\)에 대해, \(x_0\)은 많아야 하나의 \(A_n\)에만 속할 수 있으므로 \(\delta_{x_0}(\bigcup A_n)\)과 \(\sum\delta_{x_0}(A_n)\)은 둘 다, \(x_0\)을 포함하는 \(A_n\)이 있으면 \(1\), 없으면 \(0\)이다.] 디랙측도는 이미 낯익은 대상이다. 리만-스틸체스 적분을 살펴보며 계단함수 \(\alpha\)가 점 \(x_0\)에서 \(c\)만큼 뛰어오를 때 \(\int f\,d\alpha=c\,f(x_0)\)임을 계산하였는데, 이 적분은 정확히 \(c\int f\,d\delta_{x_0}\)였던 셈이다. 리만-스틸체스 적분이 점질량을 다루던 방식이 사실은 디랙측도에 대한 르베그 적분이었다.

계수측도와 디랙측도는 유한측도이거나, 적어도 \(\sigma\)-유한(\(\sigma\)-finite)이다. \(\mu(X) < \infty\)이면 \(\mu\)를 유한측도라고 부른다. \(X\)를 유한측도인 가측집합의 가산합집합으로 쓸 수 있으면 [즉 \(X=\bigcup_nX_n\), \(\mu(X_n) < \infty\)이면] \(\mu\)를 \(\sigma\)-유한이라고 부른다. 르베그 측도가 \(\sigma\)-유한이라는 사실은 \(\mathbb R=\bigcup_n[-n,\,n]\)으로 이미 확인하였다. \(\sigma\)-유한성은 이 글의 마지막 절에서 라돈-니코딤 정리를 증명할 때 반드시 필요한 조건으로 다시 등장한다.

측도공간의 정의만 있으면, 앞서 구성한 가측함수와 적분의 이론을 그대로 사용할 수 있다. 가측함수의 정의, 단순함수의 적분, 음이 아닌 함수의 적분, 일반 함수의 적분, 그리고 단조수렴 정리, 파투 보조정리, 지배수렴 정리에 이르기까지 전부 \((\mathbb R,\,\mathcal M,\,m)\) 대신 임의의 \((X,\,\mathcal F,\,\mu)\)를 놓고 똑같이 증명된다. 그 증명들이 \(\mathbb R\)의 특수한 성질(순서, 구간)을 전혀 사용하지 않았기 때문이다. 그러므로 이 글에서는 그 이론을 되풀이하지 않고, 일반측도공간에서 새롭게 등장하는 개념에 집중한다.

르베그-스틸체스 측도

리만-스틸체스 적분을 다시 살펴보자. RS 적분은 증가함수 \(\alpha\)의 증가분 \(\Delta\alpha_k=\alpha(x_k)-\alpha(x_{k-1})\)을 사용하여 소구간에 크기를 배정하였다. 이렇게 크기를 배정하는 방법 자체가 하나의 측도를 이룬다.

함수 \(\alpha:\mathbb R\to\mathbb R\)가 증가함수이고 우연속(right-continuous)이라고 하자. [모든 \(x\)에서 \(\lim_{t\to x^+}\alpha(t)=\alpha(x)\)라는 뜻이다.] 반열린구간 \((a,\,b]\)에 \[ \ell_\alpha\left((a,b]\right)=\alpha(b)-\alpha(a) \] 로 길이를 배정하고, 르베그 외측도를 구성할 때와 같은 절차(가산 개의 반열린구간으로 덮어 그 \(\ell_\alpha\)의 합의 하한을 취하여 외측도를 만들고, 카라테오도리의 조건으로 가측집합을 골라내는 절차)를 되풀이하면 측도 하나를 얻는다. 이를 \(\alpha\)의 르베그-스틸체스 측도(Lebesgue-Stieltjes measure)라고 부르고 \(\mu_\alpha\)로 나타낸다. 이때 \(\mu_\alpha((a,b])=\alpha(b)-\alpha(a)\)이다. [우연속을 요구하는 이유가 바로 이 등식에 있다. \(\alpha\)가 \(x_0\)에서 불연속이면, 반열린구간이 \(x_0\)을 오른쪽 끝점으로 포함하는지 왼쪽 끝점으로 포함하는지에 따라 그 점에서의 도약이 반영되는지가 갈린다. 우연속을 가정하면 \((a,\,b]\)라는 반열린구간이 \(\alpha\)의 오른쪽 극한과 정확히 들어맞아 등식이 깔끔하게 성립한다. \(\alpha(x)=x\)로 두면 \(\mu_\alpha\)는 정확히 르베그 측도다.]

이제 리만-스틸체스 적분을 살펴보며 계산했던 두 가지 예를 다시 살펴보자. \(\alpha\)가 점 \(x_0\)에서만 \(c\)만큼 뛰어오르는 계단함수라면, 즉 \(x < x_0\)일 때 \(\alpha(x)=0\)이고 \(x\ge x_0\)일 때 \(\alpha(x)=c\)라면, \((a,\,b]\)가 \(x_0\)을 포함할 때만 \(\mu_\alpha((a,b])=c\)이고 그렇지 않으면 \(0\)이므로 \(\mu_\alpha=c\,\delta_{x_0}\)이다. 이산확률변수의 확률질량함수를 전부 더해 만든 계단함수라면, \(\mu_\alpha\)는 그 확률질량들이 놓인 디랙측도의 가중합, 즉 이산확률측도 그 자체가 된다. 반대로 \(\alpha\)가 매끄러운 증가함수, 예를 들어 적당한 밀도함수 \(\rho\ge0\)의 원시함수 \(\alpha(x)=\int_{-\infty}^x\rho(t)\,dt\)라면, \(\mu_\alpha\)는 밀도 \(\rho\)를 갖는 연속확률측도가 된다. RS 적분에서는 이산과 연속을 하나의 적분으로 통합했고, 그것이 사실 “하나의 적분”이 아니라 “하나의 측도 구성법”이라는 사실이 드러난다.

증명은 리만 적분과 르베그 적분의 관계를 증명한 방식과 비슷하다. \(f\)가 유계이므로, 리만-스틸체스 판정법에 의하여 \(U(f,P_n,\alpha)-L(f,P_n,\alpha)\to0\)인 세련되는 분할열 \(P_n\)을 선택할 수 있다. 각 \(P_n\)의 소구간 위에서 \(f\)의 상한과 하한값을 갖는 계단함수 \(u_n,\,l_n\)을 만들면 \[ \int u_n\,d\mu_\alpha=U(f,P_n,\alpha),\quad \int l_n\,d\mu_\alpha=L(f,P_n,\alpha) \] 이다. (소구간 \((x_{k-1},\,x_k]\)의 \(\mu_\alpha\)-측도가 정확히 \(\Delta\alpha_k\)이기 때문이다.) \(u_n\)은 감소하고 \(l_n\)은 증가하며 \(l_n\le f\le u_n\)이므로 극한 \(U=\lim u_n\), \(L=\lim l_n\)이 존재한다. [상수함수 \(\sup|f|\)가 유한측도 \(\mu_\alpha\) 위에서 적분 가능하므로 \(u_n,\,l_n\)을 지배한다.] 지배수렴 정리에 의하여 \[ \int u_n\,d\mu_\alpha\to\int U\,d\mu_\alpha,\quad \int l_n\,d\mu_\alpha\to\int L\,d\mu_\alpha \] 이다. \(U(f,P_n,\alpha),\,L(f,P_n,\alpha)\)가 둘 다 리만-스틸체스 적분값으로 수렴하므로 \(\int U\,d\mu_\alpha=\int L\,d\mu_\alpha=\int_a^bf\,d\alpha\)이고, \(U-L\ge0\)이면서 그 적분이 \(0\)이므로 \(\mu_\alpha\)에 대해 \(U=L=f \text{ a.e.}\)가 성립한다. 이어서 앞에서와 같은 방식으로 \(f\)의 가측성과 적분 가능성, 그리고 적분값이 일치함을 증명할 수 있다.

리만-스틸체스 적분을 살펴보며 얻은 결과가, 이제는 정확히 무엇에 해당하는지가 드러났다. 그것은 새로운 종류의 적분이 아니라, 아직 이름 붙이지 못한 측도 \(\mu_\alpha\)에 대한 르베그 적분이었던 셈이다.

부호측도와 한-조르당 분해

지금까지 음이 아닌 값을 가지는 측도만 살펴보았다. 그런데 일반 가측함수를 \(f^+-f^-\)로 쪼개어 적분을 정의했듯이, 측도도 두 측도의 차로 확장하고 싶어진다. 예를 들어 두 함수 \(f,\,g\ge0\)이 각각 측도 \(\mu\)에 대해 적분 가능할 때, \(\nu(A)=\int_Af\,d\mu-\int_Ag\,d\mu\)로 정의되는 집합함수는 음수 값을 가질 수 있다.

절대수렴이라는 조건이 필요한 이유를 짚고 넘어가자. 합집합 \(\bigcup_nA_n\)은 \(A_n\)을 나열하는 순서와 무관한 집합인데, \(\sum_n\nu(A_n)\)이라는 급수는 조건수렴만 할 경우 리만의 재배열 정리에 의하여 항의 순서를 바꾸면 다른 값(심지어 임의의 값)으로도 수렴하게 만들 수 있다. 좌변이 순서에 무관하려면 우변도 순서에 무관해야 하므로, 급수가 유한한 값에 수렴하는 경우 그 수렴은 절대수렴이어야 한다.

부호측도를 다루는 첫걸음은 공간을 \(\nu\)가 양수인 영역과 음수인 영역으로 쪼개는 것이다. 집합 \(P\in\mathcal F\)가 \(P\)의 모든 가측 부분집합 \(A\)에서 \(\nu(A)\ge0\)을 만족시키면 양집합(positive set), 마찬가지로 모든 부분집합에서 \(\nu(A)\le0\)이면 음집합(negative set)이라고 부른다.

완전한 증명 대신 개요만 살펴보자. \(\nu\)가 \(+\infty\)를 값으로 갖지 않는다고 해도 일반성을 잃지 않는다. (\(-\infty\)를 갖지 않는 경우도 부호만 바꾸면 같은 논증이 적용된다.) 양집합들이 가질 수 있는 \(\nu\)-측도의 상한 \[ s=\sup\{\nu(A):A\text{ is a positive set}\} \] 을 생각하자. (\(\varnothing\)도 양집합이므로 \(s\ge0\)이다.) \(\nu(A_n)\to s\)인 양집합의 열 \(A_n\)을 선택하고 \(P=\bigcup_nA_n\)으로 두면, 양집합의 가산합집합은 다시 양집합임을 확인할 수 있고, 이로부터 \(P\) 자신도 양집합이며 \(\nu(P)=s < \infty\)임을 보일 수 있다.

\(N=P^c\)가 음집합임을 보이는 일이 남았다. 만약 그렇지 않다면 \(N\) 안에 \(\nu\)-측도가 양수인 부분집합이 있을 것이다. 그런데 부호측도의 값이 양수인 집합 안에는 언제나 그 값 이상의 측도를 가지면서 동시에 양집합인 부분집합이 들어 있다. [이 사실은 일종의 귀납적 구성을 사용하여 증명된다. \(\nu(E) > 0\)인 \(E\)에서 출발하여, \(E\) 안에서 \(\nu\)-측도가 가장 음수에 가까운(정확히는 어떤 기준 이하로 음수인) 부분집합을 골라 잘라 내는 과정을 반복하면, 잘라 내고 남은 부분의 측도는 계속 \(\nu(E)\) 이상으로 유지되면서 결국 양집합에 수렴한다.] 그러므로 \(N\) 안에 \(\nu\)-측도가 양수인 양집합 \(B\)가 존재하게 된다. 그러면 \(P\cup B\)가 \(P\)보다 더 큰 \(\nu\)-측도를 갖는 양집합이 되어, \(s\)가 상한이라는 가정에 모순된다. 그러므로 \(N\)은 음집합이다. [한스 한이 1921년 저서 “실함수론”(Theorie der reellen Funktionen)에서 이 분해를 정식으로 다루었다. 한의 작업은 유계변동함수 이론을 계승한 것으로, 조르당이 1880년대에 이미 다루었던 함수의 증가 부분과 감소 부분을 가르는 발상을 집합함수의 세계로 옮긴 것이다.] \((P,\,N)\)의 선택은 유일하지 않지만, 서로 다른 두 분해의 \(P\)끼리는 그 대칭차가 \(\nu\)에 대해 영집합이라는 점에서 본질적으로 유일하다.

한 분해가 있으면, 부호측도를 두 개의 (부호 없는) 측도의 차로 쪼갤 수 있다.

증명은 다음과 같다. 먼저 \(\nu^+,\,\nu^-\)가 측도임을 보이자. \(\nu^+(\varnothing)=\nu(\varnothing\cap P)=\nu(\varnothing)=0\)이다. 쌍마다 서로소인 \(\{A_n\}\)에 대해 \[\begin{aligned} \nu^+\left(\bigcup_nA_n\right) &= \nu\left(\left(\bigcup_nA_n\right)\cap P\right)=\nu\left(\bigcup_n(A_n\cap P)\right) \\[4pt] &= \sum_n\nu(A_n\cap P)=\sum_n\nu^+(A_n) \end{aligned}\] 이다. (\(\{A_n\cap P\}\)도 쌍마다 서로소이므로 \(\nu\)의 가산가법성을 그대로 사용한다.) \(A\cap P\subseteq P\)이고 \(P\)가 양집합이므로 \(\nu^+(A)=\nu(A\cap P)\ge0\)에서 음이 아니라는 사실도 증명된다. \(N\)이 음집합이라는 사실을 사용하면 \(\nu^-\)에 대해서도 같은 방식으로 확인된다. 즉 \(A=(A\cap P)\cup(A\cap N)\)이 서로소인 합집합이므로 \[ \nu(A)=\nu(A\cap P)+\nu(A\cap N)=\nu^+(A)-\nu^-(A) \] 에서 \(\nu=\nu^+-\nu^-\)를 얻는다.

이제 유일성을 보이자. \((P_1,\,N_1)\), \((P_2,\,N_2)\)가 \(\nu\)의 서로 다른 두 한 분해라고 하자. \(P_1\cap N_2\)는 \(P_1\)의 부분집합이므로 그 안의 모든 부분집합에서 \(\nu\ge0\)이고, 동시에 \(N_2\)의 부분집합이므로 그 안의 모든 부분집합에서 \(\nu\le0\)이다. 그러므로 \(P_1\cap N_2\)의 모든 가측 부분집합에서 \(\nu=0\)이다. 같은 논증이 \(P_2\cap N_1\)에도 적용된다. 임의의 \(A\)에 대해 \[\begin{aligned} \nu(A\cap P_1) &= \nu(A\cap P_1\cap P_2)+\nu(A\cap P_1\cap N_2)\\[6pt] &=\nu(A\cap P_1\cap P_2)+0=\nu(A\cap P_1\cap P_2) \end{aligned}\] 이고, 같은 방식으로 \(\nu(A\cap P_2)=\nu(A\cap P_1\cap P_2)\)이다. 그러므로 모든 \(A\)에서 \(\nu(A\cap P_1)=\nu(A\cap P_2)\)가 성립하고, 이것은 \(P_1,\,P_2\)로 정의한 \(\nu^+\)가 서로 같다는 뜻이다. \(\nu^-\)에 대해서도 마찬가지이다.

\(\nu^+,\,\nu^-\)를 각각 \(\nu\)의 양측도, 음측도라고 부르고, \(|\nu|=\nu^++\nu^-\)를 \(\nu\)의 전변동측도(total variation measure)라고 부른다. \(\nu^+\)는 \(P\) 위에, \(\nu^-\)는 \(N\) 위에 집중되어 있고 \(P\cap N=\varnothing\)이므로, 두 측도는 서로 겹치지 않는 영역에서만 값을 가진다. 이런 관계를 다음 절에서 더 자세히 다룬다. 조르당 분해는 유계변동함수 \(\alpha\)를 증가함수의 차 \(p-n\)으로 분해했었다. 그때 \(p(x)=V_\alpha(a,x)\)로 정의했던 전변동이, 이제 측도의 맥락에서 \(|\nu|\)라는 이름으로 같은 역할을 하며 다시 등장한 것이다. 함수의 조르당 분해가 측도의 조르당 분해로 그대로 확장된 셈이다.

절대연속성과 특이성

측도 두 개가 같은 공간 위에 있을 때, 둘 사이의 관계를 묻는 두 가지 극단적인 방식이 있다. 하나는 한 측도가 다른 측도를 완전히 따라간다는 것이고, 다른 하나는 둘이 완전히 별개라는 것이다.

절대연속성의 원형은 이미 등장한 적이 있다. 함수 \(f\ge0\)이 측도 \(\mu\)에 대해 적분 가능하고 \(\nu(A)=\int_Af\,d\mu\)로 정의하면, \(\mu(A)=0\)일 때 \(\nu(A)=\int_Af\,d\mu=0\)이다. 즉 밀도함수를 적분해서 만든 측도는 언제나 그 밑바탕이 되는 측도에 대해 절대연속이다. 라돈-니코딤 정리는 이 성질의 역, 즉 \(\nu\ll\mu\)이기만 하면 그러한 밀도함수 \(f\)가 반드시 존재한다는 것을 보장한다.

서로 특이한 측도의 전형적인 예는 디랙측도와 르베그 측도다. \(\delta_{x_0}\)은 \(\{x_0\}\)에, 르베그 측도는 \(\{x_0\}^c\)에 각각 모든 무게를 두고 있으므로 (\(m(\{x_0\})=0\)이고 \(\delta_{x_0}(\{x_0\}^c)=0\)이니) \(\delta_{x_0}\perp m\)이다. 절대연속성과는 정반대로, 서로 특이한 두 측도는 서로의 영집합을 조금도 공유하지 않는다.

일반적인 측도 \(\nu\)는 \(\mu\)에 대해 절대연속인 부분과 특이한 부분으로 항상 쪼개진다.

이 정리의 증명은 이 글에서 다루지 않는다. [참고로 이 정리는 다음 절에서 다룰 폰 노이만의 방법으로 증명할 수 있다. 다음 절의 증명에서 얻는 함수 \(h\)를 그대로 사용하여 \(\nu_{ac}(A)=\int_A\frac h{1-h}\,d\mu\), \(\nu_s(A)=\nu(A\cap\{h=1\})\)로 두면 정확히 이 분해를 얻는다. 즉 라돈-니코딤 정리와 르베그 분해 정리는 폰 노이만의 방법 안에서 함께 증명되는 쌍둥이 정리인 셈이다.]

이 정리가 어떤 의미인지는 리만-스틸체스 적분과 함께 살펴보았다. 임의의 누적분포함수는 이산적인 점질량(디랙측도의 가중합, 특이측도의 예)과 밀도함수를 갖는 연속적인 부분(절대연속측도)으로 나뉘는데, 사실은 이 두 부류만으로 모든 경우가 다 채워지지는 않는다. [칸토어 함수(칸토어 계단함수)가 만드는 측도가 그 예다. 이 함수는 어디서도 도약하지 않으면서(모든 점에서 연속) 동시에 거의 모든 점에서 미분계수가 \(0\)인 특이한 함수인데, 이 함수가 만드는 측도는 점질량이 전혀 없으면서도(연속) 르베그 측도에 대해 특이하다(밀도함수도 갖지 않는다). ‘연속이지만 절대연속은 아닌’ 이 세 번째 부류의 존재는, 르베그 분해 정리가 다루는 특이측도가 디랙측도의 가중합보다 훨씬 넓은 개념임을 보여 준다.] 세 번째 부류가 남아 있지만, 어떤 경우든 절대연속인 성분과 특이한 성분으로 쪼갤 수 있다는 것이 이 정리가 보장하는 사실이다.

라돈-니코딤 정리

이제 이 글의 핵심 정리인 라돈-니코딤 정리를 살펴보자. 이 정리는 앞 절에서 살펴본 성질(밀도함수를 적분해서 만든 측도는 절대연속이다)의 역이 성립함을 설명한다.

증명은 다음과 같다. 먼저 \(\mu,\,\nu\)가 둘 다 유한측도인 경우를 보이고, \(\sigma\)-유한인 일반적인 경우로는 마지막에 확장한다.

두 측도 \(\mu,\,\nu\)가 유한측도라고 하자. \(\lambda=\mu+\nu\)로 두면 \(\lambda\)도 유한측도다. \(L^2(\lambda)\) 위에 범함수 \[ \Lambda(g)=\int_Xg\,d\nu\quad(g\in L^2(\lambda)) \] 를 생각하자. 이 범함수가 의미를 갖고 유계라는 사실부터 확인해야 한다. \(\nu\le\lambda\)이므로 (\(\lambda=\mu+\nu\ge\nu\)이기 때문이다) 임의의 \(g\in L^2(\lambda)\)에 대해 \[ |\Lambda(g)|\le\int_X|g|\,d\nu\le\int_X|g|\,d\lambda\le\|g\|_{L^2(\lambda)}\cdot\|1\|_{L^2(\lambda)}=\|g\|_{L^2(\lambda)}\sqrt{\lambda(X)} \] 이다. (마지막 부등식은 \(p=p'=2\)인 코시-슈바르츠 부등식이고, \(\lambda(X) < \infty\)이므로 상수함수 \(1\)이 \(L^2(\lambda)\)에 속한다.) 그러므로 \(\Lambda\)는 \(L^2(\lambda)\) 위의 유계선형범함수다.

이제 \(L^2(\lambda)\)의 완비성을 사용하자. \(N=\{g\in L^2(\lambda):\Lambda(g)=0\}\)으로 두자. (\(\Lambda\)의 핵이다.) \(\Lambda\)가 유계(연속)이므로 \(N\)은 \(L^2(\lambda)\)의 닫힌 부분공간이다. \(\Lambda\equiv0\)이면 뒤에서 다룰 \(h=0\)이 그 경우를 처리하므로, \(\Lambda\not\equiv0\), 즉 \(N\)이 진부분공간인 경우만 다루면 된다.

보조정리를 증명하자. \(N\)이 진부분공간이므로 \(x\in H\setminus N\)을 하나 선택하고, \[ d=\inf\{\|x-n\|:n\in N\} \] 으로 두자. \(N\)이 닫혀 있고 \(x\notin N\)이므로 \(d > 0\)이다. (\(d=0\)이면 \(N\)의 점들이 \(x\)로 수렴하는데 \(N\)이 닫혀 있으므로 \(x\in N\)이 되어 모순이다.)

이 하한이 최솟값임을 보이자. \(\|x-n_k\|\to d\)인 \(N\)의 점열 \(n_k\)를 선택하면, 평행사변형 법칙에 의하여 \[ \|2x-n_j-n_k\|^2+\|n_k-n_j\|^2=2\|x-n_j\|^2+2\|x-n_k\|^2 \] 이다. \((n_j+n_k)/2\in N\)이므로 \(\|x-(n_j+n_k)/2\|\ge d\), 즉 \(\|2x-n_j-n_k\|\ge2d\)이고, 따라서 \[ \|n_k-n_j\|^2\le2\|x-n_j\|^2+2\|x-n_k\|^2-4d^2 \] 이다. 우변은 \(j,\,k\to\infty\)일 때 \(2d^2+2d^2-4d^2=0\)으로 수렴하므로, \(\{n_k\}\)는 코시열이다. 리스-피셔 정리(\(L^2(\lambda)\)의 완비성)에 의하여 \(n_k\to n_0\)인 \(n_0\in L^2(\lambda)\)가 존재하고, \(N\)이 닫혀 있으므로 \(n_0\in N\)이며, 노름의 연속성에 의하여 \(\|x-n_0\|=d\)이다.

\(h_0=x-n_0\)로 두자. \(h_0\neq0\)이다. (\(x\notin N\)이지만 \(n_0\in N\)이기 때문이다.) \(h_0\perp N\)임을 보이자. 임의의 \(n\in N\)과 \(t\in\mathbb R\)에 대해 \(n_0+tn\in N\)이므로 \(\|x-n_0-tn\|\ge d=\|h_0\|\)이고, 좌변을 전개하면 \[ \|h_0\|^2-2t\langle h_0,n\rangle+t^2\|n\|^2\ge\|h_0\|^2 \] 즉 모든 실수 \(t\)에 대해 \(t^2\|n\|^2-2t\langle h_0,n\rangle\ge0\)이다. \(n\neq0\)이라면 이 이차식은 \(t^2\)의 계수가 양수이므로 최솟값을 가지며, 그 최솟값은 \(t=\langle h_0,n\rangle/\|n\|^2\)에서 \(-\langle h_0,n\rangle^2/\|n\|^2\)이다. 이 값이 \(0\) 이상이어야 하므로 \(\langle h_0,n\rangle^2\le0\), 즉 \(\langle h_0,n\rangle=0\)이다. \(n=0\)인 경우는 자명하다. 그러므로 \(h_0\perp N\)이다. 이로써 보조정리가 증명되었다.

이제 이 보조정리를 사용하여 \(\Lambda\)를 표현하자. \(g\in L^2(\lambda)\)가 임의로 주어지면 \[ \Lambda\left(g-\frac{\Lambda(g)}{\Lambda(h_0)}h_0\right)=\Lambda(g)-\frac{\Lambda(g)}{\Lambda(h_0)}\Lambda(h_0)=0 \] 이므로 이 원소는 \(N\)에 속하고, 따라서 \(h_0\)과 직교한다. 즉 \[\begin{aligned} \left\langle g-\frac{\Lambda(g)}{\Lambda(h_0)}h_0,\,h_0 \right\rangle=0 &\ \Longrightarrow\ \langle g,h_0\rangle=\frac{\Lambda(g)}{\Lambda(h_0)}\|h_0\|^2\\ &\ \Longrightarrow\ \Lambda(g)=\left\langle g,\,\frac{\Lambda(h_0)}{\|h_0\|^2}h_0\right\rangle \end{aligned}\] 이다. \(h=\dfrac{\Lambda(h_0)}{\|h_0\|^2}h_0\)로 두면 모든 \(g\in L^2(\lambda)\)에서 \[ \Lambda(g)=\langle g,h\rangle_\lambda=\int_Xgh\,d\lambda \] 가 성립한다. 이것이 \(L^2(\lambda)\)의 완비성으로부터 얻은 리스 표현이다.

이제 \(h\)의 성질을 확인하자. \(g=\mathbb 1_A\)로 두면 (\(\lambda(X) < \infty\)이므로 \(\mathbb 1_A\in L^2(\lambda)\)이다) \[ \nu(A)=\Lambda(\mathbb 1_A)=\int_Ah\,d\lambda=\int_Ah\,d\mu+\int_Ah\,d\nu \tag{*} \] 를 얻는다. 먼저 \(\lambda\)에 대하여 \(h\ge0 \text{ a.e.}\)가 성립함을 보이자. \(A_n=\{h\le-1/n\}\)이라고 하면, \((*)\)에서 \[ \nu(A_n)=\int_{A_n}h\,d\lambda\le-\frac1n\lambda(A_n) \] 인데 좌변은 \(0\) 이상이므로 \(\lambda(A_n)=0\)이어야 한다. 이것이 모든 \(n\)에서 성립하므로 \(\lambda(\{h < 0\})=\lambda\left(\bigcup_nA_n\right)=0\)이다.

다음으로 \(\lambda\)에 대하여 \(h\le 1\text{ a.e.}\)이 성립함을 보이자. \(B_n=\{h\ge1+1/n\}\)이라고 하면, \((*)\)에서 \[ \nu(B_n)=\int_{B_n}h\,d\mu+\int_{B_n}h\,d\nu\ge\left(1+\frac1n\right)\mu(B_n)+\left(1+\frac1n\right)\nu(B_n) \] 인데 (\(h\ge1+1/n\)이 \(B_n\) 위에서 성립하므로), \(\nu(B_n) < \infty\)이니 이항하면 \[ -\frac1n\nu(B_n)\ge\left(1+\frac1n\right)\mu(B_n)\ge0 \] 을 얻는다. 좌변이 \(0\) 이하이고 우변이 \(0\) 이상이므로 둘 다 \(0\)이어야 하고, 따라서 \(\mu(B_n)=0\)이면서 \(\nu(B_n)=0\), 즉 \(\lambda(B_n)=0\)이다. 모든 \(n\)에서 성립하므로 \(\lambda(\{h>1\})=0\)이다.

이제 \(\lambda\)에 대하여 \(0\le h\le 1 \text{ a.e.}\)이 성립한다고 가정해도 좋다. (그렇지 않은 영집합 위에서는 \(h\)를 \(0\)으로 고쳐도 \((*)\)에 영향이 없다.) \(C=\{h=1\}\)로 두고 \(A=C\)에 \((*)\)를 적용하면 \[ \nu(C)=\int_Ch\,d\mu+\int_Ch\,d\nu=\mu(C)+\nu(C) \] 이다. (\(h=1\)이 \(C\) 위에서 성립하기 때문이다.) 이를 정리하면 \(\mu(C)=0\)이다. \(\nu\ll\mu\)이므로 \(\nu(C)=0\)도 얻는다.

\((*)\)를 \[ \int_A(1-h)\,d\nu=\int_Ah\,d\mu \] 로 바꾸어 쓰고, 앞서 사용한 방식(단순함수에서 시작하여 단조수렴 정리로 확장하는 방식)으로 이 등식을 지시함수 \(\mathbb 1_A\) 대신 임의의 음이 아닌 가측함수 \(\varphi\)에 대해 \[ \int_X\varphi(1-h)\,d\nu=\int_X\varphi h\,d\mu \] 로 확장하자. \[ \varphi=\frac1{1-h} \] 로 선택하면(단 \(C\) 위에서는 \(0\)으로 둔다. \(\mu(C)=\nu(C)=0\)이므로 \(C\) 위에서 정의를 어떻게 하든 이후의 적분에 영향이 없다), \(X\setminus C\)에서 \(\varphi(1-h)=1\), \(\varphi h=h/(1-h)\)이므로 \[ \nu(X\setminus C)=\int_{X\setminus C}\frac h{1-h}\,d\mu \] 를 얻는다. 이 논증을 지시함수 \(\mathbb 1_A/(1-h)\)에 대해 반복하면 (\(A\)가 임의의 가측집합일 때) 일반적으로 \[ \nu(A)=\int_A\frac h{1-h}\,d\mu \] 를 얻는다. \[ f=\frac h{1-h} \] (단 \(f\ge0\)이고 \(C\) 위에서는 \(0\)이다)로 두면, 이것이 원하던 라돈-니코딤 도함수다. 유한측도인 경우의 존재성 증명이 끝났다.

유일성을 보이자. \(f,\,f'\)이 둘 다 \(\nu(A)=\int_Af\,d\mu=\int_Af'\,d\mu\)를 모든 \(A\)에서 만족시킨다고 하자. \(A=\{f>f'\}\)에 적용하면 \(\int_A(f-f')\,d\mu=0\)인데, 피적분함수가 \(A\) 위에서 양수이므로 \(\mu(A)=0\)이어야 한다. \(\{f < f'\}\)도 마찬가지이므로 \(f=f'\)이 \(\mu\)-거의 어디서나 성립한다.

마지막으로 \(\mu,\,\nu\)가 \(\sigma\)-유한인 일반적인 경우로 확장하자. \(\mu,\,\nu\)가 \(\sigma\)-유한이므로 \(X=\bigcup_nX_n\)으로 쪼개어 각 \(X_n\)에서 \(\mu(X_n),\,\nu(X_n) < \infty\)가 되도록 할 수 있다. (두 \(\sigma\)-유한 분해의 공통세련을 취하면 된다.) 각 \(X_n\) 위에 방금 증명한 유한측도의 경우를 적용하여 \(f_n\ge0\)을 얻고, \[ f=\sum_nf_n\mathbb 1_{X_n} \] 으로 정의하면 (각 점이 정확히 하나의 \(X_n\)에 속하므로 이 정의는 의미를 갖는다), 가산가법성에 의하여 임의의 \(A\in\mathcal F\)에 대해 \[ \nu(A)=\sum_n\nu(A\cap X_n)=\sum_n\int_{A\cap X_n}f_n\,d\mu=\sum_n\int_{A\cap X_n}f\,d\mu=\int_Af\,d\mu \] 를 얻는다. 유일성도 각 \(X_n\) 위에서의 유일성으로부터 바로 나온다. [라돈이 1913년 빈 대학교 박사학위논문 “절대가법 집합함수의 이론과 응용”(Theorie und Anwendungen der absolut additiven Mengenfunktionen)에서 \(\mathbb R^n\) 위의 경우를 증명했고, 니코딤이 1930년 논문 “라돈의 적분의 한 일반화에 관하여”(Sur une généralisation des intégrales de M. J. Radon)에서 임의의 \(\sigma\)-유한측도공간으로 일반화하며 지금의 이름이 붙었다. 여기서 소개한 힐베르트공간을 사용하는 증명은 폰 노이만이 훗날 제시한 것으로, 원래의 증명보다 훨씬 짧고 우아하다는 평을 받는다.]

확률론을 향한 준비

이 글에서는 측도라는 개념을 \(\mathbb R\)의 특수성에서 완전히 떼어 내는 일부터 시작하였다. 추상측도공간을 정의하고 계수측도와 디랙측도라는 예를 살펴보았으며, 르베그-스틸체스 측도를 구성하여 리만-스틸체스 적분이 사실은 이 측도에 대한 르베그 적분이었음을 확인하였다. 부호측도를 도입하고 한 분해로 공간을 양의 영역과 음의 영역으로 가른 뒤, 조르당 분해로 부호측도를 두 측도의 차로(유계변동함수의 분해를 계승하는 방식으로) 완전히 분해하였다. 절대연속성과 특이성을 정의하고 르베그 분해 정리를 도입하였으며, \(L^2\)의 완비성을 사용하는 폰 노이만의 증명을 사용하여 라돈-니코딤 정리를 증명하였다.

라돈-니코딤 정리의 중요성은 다음 글(확률론과 르베그 적분)에서 드러난다. 확률론에서 조건부기댓값이라는 개념, 즉 어떤 정보가 주어졌을 때 확률변수의 기댓값을 다시 계산하는 일은, 겉보기와 달리 적분을 다시 하는 계산이 아니다. 그것은 하나의 부분대수 위로 제한된 측도가 원래 측도에 대해 절대연속이라는 사실을 확인하고, 그로부터 라돈-니코딤 정리가 보장하는 도함수를 드러내는 존재성 증명이다. 조건부기댓값이 “존재한다”는 말 자체가, 사실은 이 글에서 증명한 정리가 성립한다는 말과 다르지 않다. 그 의미를 다음 글에서 확인하자.

🍭