본문 바로가기

Math/Analysis

Large Deviation

$a>\mu$에 대해 $P(S_n \geq na) \rightarrow 0 $이 exponentially rate으로 일어난다는 것을 보이고 싶다.

우선 Markov Inequality에 의해 $\varphi ( \theta ) = E exp(\theta X_i ) $일 때

$$e^{n\theta a}P(S_n \geq na ) \leq E exp(\theta S_n) = \varphi (\theta)^n$$

혹은 $\kappa (\theta) = log \varphi (\theta)$일 때

$$P(S_n \geq na ) \leq exp (-n(a\theta - \kappa (\theta)))$$

Lower Bound를 구하기 위해 

$$ F_{\theta}(x)= \frac{1}{\varphi ( \theta )} \int^x_{-\infty} e^{\theta y} dF(y) $$

를 활용한다.

$\int x dF_{\theta}(x) = \frac{1}{\varphi(\theta)} \int^{\infty}_{-\infty} x e^{\theta x} dF(x)=\frac{\varphi'(\theta)}{\varphi(\theta)}$

또한 정의에 따라 $dF/dF_{\lambda} = e^{-\lambda x}\varphi ( \lambda)$이다.

$F^n,F^n_{\lambda}$를 $S^n,S^n_{\lambda}$의 distribution이라고 할 때,

$P(S_n \geq na ) \geq \int^{n\nu}_{na}e^{-\lambda x}\varphi ( \lambda)^n dF^n_{\lambda}(x)\geq \varphi(\lambda)^n e^{-\lambda n \nu} (F^n_{\lambda}(n\nu)-F^n_{\lambda}(na))$

'Math > Analysis' 카테고리의 다른 글

Strong Law of Large Numbers  (0) 2021.10.18
Convergence of Random Series  (0) 2021.10.18
Weak Convergence  (0) 2021.10.17
Riemann-Stieljes Integral  (0) 2019.11.15
Metric Space  (0) 2019.10.01