淺談機率上的幾個極限定理 (第 6 頁)

　1│2│3│4│5│6　

淺談機率上的幾個極限定理（第 6 頁）

洋洋

首頁 | 搜尋

．原載於數學傳播九卷三期

‧註釋
‧對外搜尋關鍵字

5.大離差(Large Deviations)與正規逼近(Normal Approximation)：

弱大數法則告訴我們 $P\{\vert\frac{S_n}{n}-\mu\vert>\varepsilon\}$ 趨近於0。在實際應用中我們常常希望知道這個量趨近於0的速度有多快。這方面的研究屬於大離差理論的範疇。它的一個基本結果是Cramer所證

定理：假設 $X_k,k\geq1$ 是i.i.d.，且X_i的moment generating function

$\begin{displaymath}M(t)=\mbox{E}(e^{tX_1})=\int e^{tx}dF<\infty\end{displaymath}$

對任意實數 t 都成立。定義

$\begin{displaymath}I(x)=\sup_{t\in R}(tx-\log M(t))\end{displaymath}$

則對任意R上的一閉集F，

$\begin{displaymath}\limsup\frac{1}{n}\log P(\frac{S_n}{n}\in F)\leq-\inf_{x\in F}I(x) \eqno{(5.1)}\end{displaymath}$

對R上的任一開集G

$\begin{displaymath}\liminf\frac{1}{n}\log P(\frac{S_n}{n}\in G)\geq-\inf_{x\in G}I(x) \eqno{(5.2)}\end{displaymath}$

定理的I稱做速率函數(rate function)， $0\leq I(x)\leq\infty$ ，在 $I(x)<\infty$ 的部份它是一個凸函數， $I(\mu)=0$ ，且I(x)在 $[\mu,\infty)$ 是漸增，在 $(-\infty,\mu]$ 是漸減。因此在許多情況下若 $x\neq\mu$ 則I(x)>0。譬如說在例2.2的Bernoulli trial $(\mu=p)$ 此時

$\begin{displaymath} I(x)=\left\{\begin{array}{ll} x\log\frac{x}{p}+(1-x)\log\fr... ...ries{m}\selectfont \char 74}}x\notin[0,1] \end{array} \right. \end{displaymath}$

於是若令 $F=(-\infty,p-\varepsilon]\cup[p+\varepsilon,\infty]$ ，則由(5.1)式

$\begin{eqnarray*} &&\limsup\frac{1}{n}\log P(\vert\frac{S_n}{n}-p\vert\geq\varep... ...rt\geq\varepsilon}I(x)=-\min (I(p-\varepsilon),I(p+\varepsilon)) \end{eqnarray*}$

另一方面令 $G=(-\infty,p-\varepsilon)\cup(p+\varepsilon,\infty)$ ，則由(5.2)式

$\begin{eqnarray*} &&\liminf\frac{1}{n}\log P(\vert\frac{S_n}{n}-p\vert>\varepsil... ...\vert>\varepsilon}I(x)=-\min (I(p-\varepsilon),I(p+\varepsilon)) \end{eqnarray*}$

故而綜合可得

$\begin{displaymath} \lim\frac{1}{n}\log P(\vert\frac{S_n}{n}-p\vert\geq\varepsilon) = -\min (I(p-\varepsilon), I(p+\varepsilon)) \end{displaymath}$

令右式為a，則a<0，且上式表示

$\begin{displaymath}P(\vert\frac{S_n}{n}-p\vert\geq\varepsilon)\approx e^{na}\end{displaymath}$

換句話說 $P(\vert\frac{S_n}{n}-p\vert\geq\varepsilon)$ 是以指數的速度漸趨於 0。

上述所提是大離差理論的一些較古典的結果，最近十九年已有很多深入的發展。目前機率界有一些人從事這方面的研究。

[5]是大離差理論的一本「比較」容易看懂的書。有興趣的讀者可以參考它。

與上面類似的一個問題是探討中央極限定理(見(3.1)式)裡 F_n(x) 收斂到 $\Phi(x)$ 的速度。除了中央極限定理的要求，若進一步要求 $E\vert X_1\vert^3=r<\infty$ ，則 Berry-Essen 證明了存在一常數 A₀ 使得

$\begin{displaymath}\sup_{x\in R}\vert F_n(x)-\Phi(x)\vert\leq\frac{A_0r}{\sigma^3\sqrt{n}}\end{displaymath}$

在更強的假設下，Cramer及Hsu(許寶騄)得到下面的展式

$\begin{displaymath} F_n(x)=\Phi(x)+\frac{H_1(x)}{\sqrt{n}}+\frac{H_2(x)}{n}+\frac{H_3(x)}{n^{3/2}}+\ldots \end{displaymath}$

其中H_n(x)是與Hermite多項式有關的函數。這些結果屬於Normal Approximation的範圍。

: 1. Y.S.Chow(周元燊)and H.Teicher,《Probability Theory》, Springer-Verlag, New York, 1978.
: 2. K.L Chung(鍾開萊),《A Course in Probability Theory》, Academic Press, New York, 1974.
: 3. W.Feller, 《An Introduction to Probability Theory and its Applications》, vol 1, 2nd ed., Wiley, New York, 1968.
: 4. W.Feller, 《An Introduction to Probability Theory and its Applications》, vol 2, Inded., Wiley, New York, 1971.
: 5. D.W.Stroock, 《An Introduction to the Theory of Large Deviations》, Springer-Verlag, New York, 1984.

　1│2│3│4│5│6　


	（若有指正、疑問……，可以在此留言或寫信給我們。）

EpisteMath (c) 2000 中央研究院數學所、台大數學系
各網頁文章內容之著作權為原著作人所有

編輯：趙竑鈞 ∕ 校對：黃怡碧

最後修改日期：4/26/2002