지금까지 다룬 모든 적분은, 겉모습이 아무리 달라도 한 가지 공통점을 가지고 있었다. 적분하는 대상(피적분함수)은 무작위일 수 있어도, 적분하는 기준(적분 영역을 측정하는 자)은 언제나 고정되고 결정론적이었다. 리만 적분의 구간 길이, 르베그 적분의 측도, 심지어 확률변수를 적분할 때 사용한 확률측도 \(P\)까지, 이 기준은 적분이 진행되는 동안 흔들리지 않는 배경이었다.
만약 기준 그 자체가 무작위라면 어떨까? 예를 들면, 브라운 운동(Brownian motion) \(B_t\)에 대해 \[ \int_0^TH_t\,dB_t \] 라는 적분을 정의하고 싶다고 하자. [브라운 운동의 존재를 엄밀하게 구성하는 일은 이 글의 범위를 넘는다. 노버트 위너가 1923년에 경로공간 위의 확률측도로 브라운 운동을 처음 엄밀하게 구성했는데(그래서 위너 과정이라는 이름으로도 불린다), 다니엘-콜모고로프 확장정리가 바로 이런 구성을 일반적으로 뒷받침하는 도구다.] \(B_t\)는 \(B_0=0\)에서 출발하여, \(s < t\)일 때의 증분 \(B_t-B_s\)가 평균 \(0\), 분산 \(t-s\)인 정규분포를 따르고, 겹치지 않는 시간 구간의 증분끼리는 서로 독립이며, 표본경로 \(t\mapsto B_t(\omega)\)가 (거의 모든 \(\omega\)에서) 연속인 확률과정이다. 확률과정 \(H_t\)는 시각 \(t\)까지의 정보만으로 결정되는(즉 미래를 내다보지 않는) 과정이라고 하자.
이 적분을 리만-스틸체스 적분이나 르베그-스틸체스 측도로 구성할 수 있을까? 두 이론 모두 적분하는 대상(리만-스틸체스 적분의 \(\alpha\), 르베그-스틸체스 측도를 만드는 함수)이 유계변동이어야 한다는 전제가 필요하다. 그런데 브라운 운동의 표본경로는 (거의 모든 \(\omega\)에서) 어떤 구간에서도 유계변동이 아니다. 이 사실을 직접 확인하는 일부터 시작하자.
이차변동의 계산
구간 \([0,\,T]\)의 분할 \[ P:\,0=t_0 < t_1 < \cdots < t_n=T \] 에 대해, 브라운 운동의 이차변동(quadratic variation)을 \[ Q(P)=\sum_{i=0}^{n-1}(B_{t_{i+1}}-B_{t_i})^2 \] 으로 정의하자. 분할의 폭이 \(0\)으로 갈 때 \(Q(P)\)가 어디로 수렴하는지 계산해 보자.
브라운 운동의 이차변동
분할의 폭이 \(0\)으로 가는 임의의 분할열 \(P_n\)에 대해, \(L^2\)에서 \(Q(P_n)\to T\)가 성립한다. 즉 \(\mathbb E\left[(Q(P_n)-T)^2\right]\to0\)이다.
증명은 다음과 같다. \[ \Delta B_i=B_{t_{i+1}}-B_{t_i},\quad \Delta t_i=t_{i+1}-t_i \] 로 나타내자. \(\Delta B_i\sim N(0,\,\Delta t_i)\)이므로 \(\mathbb E[\Delta B_i^2]=\Delta t_i\)이고, 따라서 \[ \mathbb E[Q(P)]=\sum_i\mathbb E[\Delta B_i^2]=\sum_i\Delta t_i=T \] 이다. 이 등식은 분할의 폭과 무관하게 정확히 성립한다. 이제 \(Q(P)-T\)의 분산을 계산하자. 겹치지 않는 구간의 증분끼리는 독립이므로 \(\{\Delta B_i^2\}\)도 서로 독립이고, 따라서 \[ \mathrm{Var}(Q(P))=\sum_i\mathrm{Var}(\Delta B_i^2)=\sum_i\left(\mathbb E[\Delta B_i^4]-\left(\mathbb E[\Delta B_i^2]\right)^2\right) \] 이다. \(\Delta B_i\sim N(0,\,\Delta t_i)\)인 정규분포의 네제곱 모멘트는 \(\mathbb E[\Delta B_i^4]=3(\Delta t_i)^2\)이므로 (표준적인 정규분포의 모멘트 공식이다), 각 항은 \[ 3(\Delta t_i)^2-(\Delta t_i)^2=2(\Delta t_i)^2 \] 이 되어 \[\begin{aligned} \mathrm{Var}(Q(P)) &=\sum_i2(\Delta t_i)^2\\[6pt] &\le 2\left(\max_i\Delta t_i\right)\sum_i\Delta t_i \\[6pt] &=2\left(\mathrm{mesh}(P)\right)\cdot T \end{aligned}\] 를 얻는다. \(\mathbb E[Q(P)]=T\)이므로 \[ \mathbb E[(Q(P)-T)^2]=\mathrm{Var}(Q(P))\le2T\cdot\mathrm{mesh}(P) \] 인데, 분할의 폭이 \(0\)으로 가면 우변도 \(0\)으로 가므로, \(L^2\)에서 \(Q(P_n)\to T\)가 성립한다.
이 결과가 알려 주는 바는 중요하다. 유계변동인 연속함수 \(f\)라면 이차변동은 언제나 \(0\)이다. [\(f\)의 전변동이 \(V\)로 유한하다고 하면 \[\begin{aligned} Q(P) &= \sum_i(f(t_{i+1})-f(t_i))^2 \\ &\le\left(\max_i|f(t_{i+1})-f(t_i)|\right)\cdot V \end{aligned}\] 인데, \(f\)가 (콤팩트 구간 위에서) 균등연속이므로 분할의 폭이 \(0\)으로 가면 \(\max_i|f(t_{i+1})-f(t_i)|\to0\)이 되어 \(Q(P)\to0\)이다.] 그런데 방금 브라운 운동의 이차변동은 \(0\)이 아니라 양수 \(T\)로 수렴한다는 것을 보였다. 유계변동이었다면 나와야 할 값 \(0\)과 실제로 나온 값 \(T\)가 다르므로, 브라운 운동의 표본경로는 (적어도 양의 확률로, 사실은 거의 모든 \(\omega\)에서) 유계변동일 수 없다. 리만-스틸체스 적분도 르베그-스틸체스 측도도, 그 이론이 애초에 요구하는 유계변동이라는 전제를 브라운 운동이 만족시키지 못하므로 \(\int H\,dB\)라는 적분에는 적용할 수 없다.
단순과정에 대한 이토 적분
유계변동이 아니라는 제약을 직접 해결할 수는 없지만, 다른 방법으로 접근할 수는 있다. 르베그 적분에서 단순함수부터 적분을 정의했듯이, 여기서도 가장 단순한 과정부터 직접 정의한 뒤 극한으로 확장하는 방식을 사용한다.
\(\mathcal F_t=\sigma(B_s:s\le t)\)를 시각 \(t\)까지 브라운 운동이 알려 주는 정보 전체라고 하자. 확률과정 \(H_t\)가 각 \(t\)에서 \(\mathcal F_t\)-가측이면(즉 시각 \(t\)에서의 값이 그 시점까지의 정보만으로 결정되면), “\(H_t\)는 비예측적(non-anticipating)이다” 또는 “적합(adapted)이다”라고 말한다. 미래를 내다보지 않는다는 뜻이다.
단순과정과 그 이토 적분의 정의
분할 \[ 0=t_0 < \cdots < t_n=T \] 와 확률변수 \(\xi_0,\,\ldots,\,\xi_{n-1}\)가 주어져 (단, 각 \(\xi_i\)는 \(\mathcal F_{t_i}\)-가측이고 \(\mathbb E[\xi_i^2] < \infty\)이다) \[ H_t=\xi_i\qquad(t_i\le t < t_{i+1}) \] 로 정의된 과정을 단순과정(simple process)이라고 부른다. 이때 \[ \int_0^TH_t\,dB_t:=\sum_{i=0}^{n-1}\xi_i(B_{t_{i+1}}-B_{t_i}) \] 로 정의한다.
이 정의에서 \(\xi_i\)가 \(\mathcal F_{t_i}\)-가측이어야 한다는 조건, 즉 그 소구간이 시작하는 시점의 정보만으로 \(\xi_i\)가 이미 정해져 있어야 한다는 조건에 주목하자. 만약 \(\xi_i\)가 미래의 정보, 예를 들어 \(B_{t_{i+1}}\)까지 내다볼 수 있다면 이 적분은 완전히 다른(그리고 확률미분방정식에는 필요하지 않은) 값을 준다. [가장 극단적인 예로 \(\xi_i=B_{t_{i+1}}\)로 두면(미래를 완전히 내다보는 선택) \[ \sum_i\xi_i\Delta B_i \] 의 기댓값이 \(\sum_i\mathbb E[B_{t_{i+1}}(B_{t_{i+1}}-B_{t_i})]\)인데, 이것은 \(0\)이 아니다. 비예측적 조건을 버리면 이런 인위적인 선행 정보가 스며든다.] 다음 절에서 증명할 이토 등거리 정리도 바로 이 비예측성에 결정적으로 의존한다.
이토 등거리
이 적분이 앞으로 극한을 취해 확장해 갈 만한 좋은 성질을 갖는지 확인해야 한다. 핵심은 다음 등식이다.
이토 등거리 (Itô isometry)
확률과정 \(H_t\)가 단순과정이면 \[ \mathbb E\left[\left(\int_0^TH_t\,dB_t\right)^2\right]=\mathbb E\left[\int_0^TH_t^2\,dt\right] \] 이다.
증명은 다음과 같다. \(\Delta B_i=B_{t_{i+1}}-B_{t_i}\)로 나타내면 \[ \left(\int_0^TH_t\,dB_t\right)^2=\left(\sum_i\xi_i\Delta B_i\right)^2=\sum_i\xi_i^2\Delta B_i^2+\sum_{i\neq j}\xi_i\xi_j\Delta B_i\Delta B_j \] 이다. \(i\neq j\)인 교차항부터 처리하자. \(i < j\)라고 하면 \(t_{i+1}\le t_j\)이므로 \(\xi_i,\,\xi_j,\,\Delta B_i\)는 모두 \(\mathcal F_{t_j}\)-가측이다. (\(\xi_i\)는 \(\mathcal F_{t_i}\subseteq\mathcal F_{t_j}\)-가측이고, \(\xi_j\)는 정의상 \(\mathcal F_{t_j}\)-가측이며, \(\Delta B_i=B_{t_{i+1}}-B_{t_i}\)는 \(t_{i+1}\le t_j\)이므로 \(\mathcal F_{t_j}\)-가측이다.) 반면 \(\Delta B_j=B_{t_{j+1}}-B_{t_j}\)는 \(\mathcal F_{t_j}\)에 대해 독립이다. (브라운 운동의 독립증분성이다.) 그러므로 \[ \mathbb E[\xi_i\xi_j\Delta B_i\Delta B_j]=\mathbb E[\xi_i\xi_j\Delta B_i]\cdot\mathbb E[\Delta B_j]=\mathbb E[\xi_i\xi_j\Delta B_i]\cdot0=0 \] 이다. (\(\mathcal F_{t_j}\)-가측인 인자와 그것과 독립인 확률변수의 곱의 기댓값이 각 기댓값의 곱으로 갈라진다는, 앞서 증명한 사실로부터 얻는다.) 즉 모든 교차항이 사라진다. 여기서 \(\xi_i\)의 비예측성(정확히는 \(\mathcal F_{t_j}\)-가측성)이 사용되었다.
이제 대각항을 계산하자. \(\xi_i\)가 \(\mathcal F_{t_i}\)-가측이고 \(\Delta B_i\)가 \(\mathcal F_{t_i}\)에 대해 독립이므로, 같은 방식으로 \[ \mathbb E[\xi_i^2\Delta B_i^2]=\mathbb E[\xi_i^2]\cdot\mathbb E[\Delta B_i^2]=\mathbb E[\xi_i^2]\cdot\Delta t_i \] 를 얻는다. [\(\Delta B_i\sim N(0,\,\Delta t_i)\)이므로 \(\mathbb E[\Delta B_i^2]=\Delta t_i\)이다.] 두 결과를 결합하면 \[ \mathbb E\left[\left(\int_0^TH_t\,dB_t\right)^2\right]=\sum_i\mathbb E[\xi_i^2]\,\Delta t_i \] 이다. 그런데 \(H_t=\xi_i\)가 \([t_i,\,t_{i+1})\)에서 상수이므로 \(\int_{t_i}^{t_{i+1}}H_t^2\,dt=\xi_i^2\Delta t_i\)이고, 따라서 \[ \mathbb E\left[\int_0^TH_t^2\,dt\right]=\mathbb E\left[\sum_i\xi_i^2\Delta t_i\right]=\sum_i\mathbb E[\xi_i^2]\,\Delta t_i \] 이다. 양변이 정확히 일치한다.
일반 과정으로의 확장
단순과정을 넘어, \(\mathbb E\left[\int_0^TH_t^2\,dt\right] < \infty\)를 만족시키는 일반적인 비예측적 과정 \(H_t\)로 적분을 확장하자. 방법은 다음과 같다. \(H\)를 단순과정의 열 \(H^{(n)}\)을 사용하여 \[ \mathbb E\left[\int_0^T\left(H_t-H_t^{(n)}\right)^2\,dt\right]\to0 \] 이 되도록 근사한다. (이런 근사가 항상 가능하다는 사실은 여기서는 받아들이기로 한다.) 그러면 \(\int_0^TH_t^{(n)}\,dB_t\)는 각각 잘 정의된 확률변수인데, 이 수열이 수렴하는지가 문제다.
이토 등거리를 \(H^{(n)}-H^{(m)}\)에 적용하자. (이 역시 두 분할의 공통세련 위에서 단순과정이다.) 그러면 \[ \mathbb E\left[\left(\int_0^TH_t^{(n)}\,dB_t-\int_0^TH_t^{(m)}\,dB_t\right)^2\right]=\mathbb E\left[\int_0^T\left(H_t^{(n)}-H_t^{(m)}\right)^2\,dt\right] \] 를 얻는데, \(H^{(n)}\)이 \(H\)로 수렴하므로 \(n,\,m\to\infty\)일 때 우변이 \(0\)으로 수렴한다. 즉 \[ \left\{\int_0^TH_t^{(n)}\,dB_t\right\} \] 는 확률변수의 공간 \(L^2(\Omega,P)\)에서 코시열이다.
바로 이 지점에서 앞서 증명한 결과가 확률과정의 관점에서 결정적으로 사용된다. \(L^2(\Omega,\,P)\)는 리스-피셔 정리에 의하여 완비이므로, 이 코시열은 \(L^2(\Omega,\,P)\) 안의 어떤 확률변수로 수렴한다. 그 극한을 \[ \int_0^TH_t\,dB_t:=\lim_{n\to\infty}\int_0^TH_t^{(n)}\,dB_t\quad(\text{in } L^2) \] 으로 정의한다. [이 극한이 근사열 \(\{H^{(n)}\}\)의 선택과 무관하다는 사실도, 서로 다른 두 근사열을 하나로 엮어 같은 코시열 논증을 반복하면 확인된다. \(L^p\) 공간의 완비성을 증명할 때 코시열을 절대수렴하는 급수로 바꾸었던 방법이 여기서도 유효하다.] \(L^2\)의 완비성을 증명했을 때는 그 대상이 가측함수의 공간이었지만, 여기서는 정확히 같은 정리가 확률변수의 공간에 적용되어, 이토 적분이라는 새로운 대상의 존재를 보장한다. 라돈-니코딤 정리가 조건부 기댓값의 존재를 보장했던 것과 마찬가지로, \(L^2\)의 완비성이 여기서도 결정적인 역할을 한다.
이토의 보조정리
적분을 정의했으니, 이제 이 적분과 미분(연쇄법칙)이 어떤 관계를 맺는지 살펴보자. 통상적인 미적분학의 연쇄법칙이 브라운 운동 앞에서는 그대로 성립하지 않는다는 것이 이 절의 결론이다.
\(\mu_t,\,\sigma_t\)가 (적당히 좋은) 비예측적 과정이고, 확률과정 \(X_t\)가 \[ X_t=X_0+\int_0^t\mu_s\,ds+\int_0^t\sigma_s\,dB_s \] 를 만족시킨다고 하자. [이런 \(X_t\)를 이토 과정(Itô process)이라고 부르고, 흔히 미분 형태로 \(dX_t=\mu_t\,dt+\sigma_t\,dB_t\)라고 줄여 쓴다.] 매끄러운 함수 \(f(t,\,x)\)에 대해 \(f(t,X_t)\)의 변화를 테일러 전개로 근사해 보자. \[ df(t,X_t)\approx\frac{\partial f}{\partial t}\,dt+\frac{\partial f}{\partial x}\,dX_t+\frac12\frac{\partial^2f}{\partial x^2}(dX_t)^2+\cdots \] 평범한 미적분학이라면 \((dX_t)^2\)은 \(dt\)보다 훨씬 작은 고차항이라 버려도 무방하다. 그런데 \[ (dX_t)^2=(\mu_t\,dt+\sigma_t\,dB_t)^2=\mu_t^2(dt)^2+2\mu_t\sigma_t\,dt\,dB_t+\sigma_t^2(dB_t)^2 \] 을 항별로 살펴보면 다른 결론을 얻는다. \((dt)^2\)과 \(dt\,dB_t\) 항은 \(dt\)보다 정말로 빨리 작아지지만, \((dB_t)^2\)은 그렇지 않다. 앞 절에서 증명한 이차변동 계산 결과에 의하여 \(\sum(\Delta B_i)^2\)이 \(0\)이 아니라 \(\sum\Delta t_i\)로 수렴하기 때문이다. 이 사실을 형식적으로 \((dB_t)^2\approx dt\)라는 변환 규칙으로 요약할 수 있다. [이 변환이 엄밀하게 의미하는 바는, \(\sum_i\sigma_{t_i}^2(\Delta B_i)^2\)과 \(\sum_i\sigma_{t_i}^2\Delta t_i\)의 차가 분할을 잘게 쪼갤수록 (적당한 조건 아래) \(0\)으로 수렴한다는 것이다. 이것 역시 이차변동을 계산한 것과 같은 방식의 논증을 사용하면 \(L^2\)에서 증명된다.] 이 규칙을 적용하면 \((dX_t)^2\approx\sigma_t^2\,dt\)만 남고, 나머지 두 항은 사라진다.
이토의 보조정리 (Itô's lemma)
확률과정 \(X_t\)가 \(dX_t=\mu_t\,dt+\sigma_t\,dB_t\)를 만족시키는 이토 과정이고 함수 \(f(t,x)\)가 \(t\)에 대해 한 번, \(x\)에 대해 두 번 연속으로 미분가능하면 \[ f(T,X_T)-f(0,X_0)=\int_0^T\left[\frac{\partial f}{\partial t}+\mu_t\frac{\partial f}{\partial x}+\frac12\sigma_t^2\frac{\partial^2f}{\partial x^2}\right]dt+\int_0^T\sigma_t\frac{\partial f}{\partial x}\,dB_t \] 이다.
완전한 증명은 이 글의 범위를 넘으므로 개요를 살펴보자. 증명의 방향은 지금까지의 논증을 엄밀하게 다듬는 것이다. 구간 \([0,\,T]\)를 잘게 쪼갠 분할 위에서 \(f(t_{i+1},X_{t_{i+1}})-f(t_i,X_{t_i})\)를 2변수 테일러 정리로 정확하게(나머지항까지 포함하여) 전개하고, 모든 소구간에 대해 더한 뒤 분할을 잘게 만들면서 극한을 취한다. 일차항의 합은 리만 합의 극한으로 각각 앞 절에서 정의한 적분 \(\int\mu_t\frac{\partial f}{\partial x}dt\)와 \(\int\sigma_t\frac{\partial f}{\partial x}dB_t\)에 수렴하고, \((dX_t)^2\) 꼴의 이차항의 합은 이차변동 계산에 의하여 \(\int\sigma_t^2\frac{\partial^2f}{\partial x^2}dt\)로 수렴하며, 나머지 고차항과 나머지항은 (섬세한 확률 논증을 통해) \(0\)으로 수렴하여 사라진다는 것을 보이면 된다. [기요시 이토가 1944년 논문 “확률적분”(Stochastic Integral)에서 이 이론(적분의 구성과 이 연쇄법칙)을 제시했다. 이 논문은 태평양전쟁으로 일본이 외부와 단절된 시기에, 이토가 1942년 오사카에서 발표한 일본어 콜로키움 보고서를 발전시킨 것이었다. \(X_t=B_t\)인 경우, 즉 \(\mu=0\), \(\sigma=1\)인 가장 단순한 경우, 이 정리는 \[ f(B_T)-f(B_0)=\int_0^Tf'(B_t)\,dB_t+\frac12\int_0^Tf''(B_t)\,dt \] 로 단순화된다.]
확률미분방정식
물리학이나 금융에서 \[ dX_t=\mu(t,X_t)\,dt+\sigma(t,X_t)\,dB_t \] 꼴의 방정식, 즉 확률미분방정식(stochastic differential equation, SDE)이 자주 등장한다. \(\mu\)는 결정론적인 추세(drift), \(\sigma\)는 무작위한 요동의 크기를 나타낸다. 그런데 \(B_t\)의 표본경로가 어디서도 미분가능하지 않으므로(이차변동이 양수라는 사실과 정확히 같은 이유에서 나오는 결과이다) \(dB_t/dt\)라는 통상적인 도함수는 애초에 존재하지 않는다. 이 방정식은 문자 그대로는 의미가 없는 표기다.
그런데 이 방정식은 사실 다음 적분방정식의 줄임 표기일 뿐이다. \[ X_t=X_0+\int_0^t\mu(s,X_s)\,ds+\int_0^t\sigma(s,X_s)\,dB_s \] 우변의 두 번째 적분이 바로 이 글에서 정의한 이토 적분이다. 즉 확률미분방정식이라는 표기가 의미를 갖는 것 자체가, 이 글에서 살펴본 구성(단순과정에서 시작하여 이토 등거리로 거리를 측정하고 \(L^2\)의 완비성으로 극한을 얻는 구성)에 의존한다. 이 방정식의 해가 존재하고 유일한지, 어떤 성질을 갖는지를 다루는 일은 확률과정론의 방대한 주제이므로 여기서 더 들어가지는 않는다.
무작위성 자체를 적분하기
이 글에서는 브라운 운동의 이차변동을 계산하여 그 표본경로가 유계변동이 아님을 확인하고, 리만-스틸체스 적분과 르베그-스틸체스 측도가 왜 여기서 적용되지 않는지를 밝혔다. 비예측적 단순과정에 대해 이토 적분을 직접 정의하고, 독립증분성과 비예측성을 함께 사용하여 이토 등거리를 증명했으며, \(L^2\)의 완비성을 사용하여 일반적인 비예측적 과정으로 적분을 확장하였다. 마지막으로 이차변동 계산이 \((dB_t)^2\approx dt\)라는 변환 규칙으로 이어져 이토의 보조정리를 끌어내는 과정을 살펴보고, 확률미분방정식이라는 표기가 이 적분 덕분에 비로소 의미를 가진다는 사실을 확인하였다.
리만이 직사각형을 쌓아 넓이를 구하던 순간부터 지금까지 살펴본 모든 적분은 결국 하나의 흐름을 이루고 있다. 리만, 리만-스틸체스, 르베그, 일반측도, 확률변수의 기댓값, 헨스톡-쿠르츠바일, 다니엘까지 이름은 저마다 달라도, 적분하는 기준은 언제나 미리 정해진, 무작위성이 개입하지 않는 대상이었다. 이토 적분에 이르러 이 흐름은 마지막 형태에 다다른다. 여기서는 기준 그 자체, \(dB_t\)라는 증분 자체가 매 순간 새로 결정되는 확률변수다. 결정론적 대상을 적분하는 이론에서 출발하여, 비로소 무작위성 그 자체를 적분의 기준으로 삼는 지점에 이르렀다.
🍭