大数定律及切比雪夫不等式在概率统计中的应用

在第一章，我们曾指出，如果一个事件A的概率为p，那么大量重复试验中事件A发生的频率将逐渐稳定到p，这只是一种直观的说法.下面的定理给出这一说法的严格数学表述.

定理2 伯努利大数定律 设nA是n重伯努利试验中事件A发生的次数，p（0<p<1）是事件A在一次试验中发生的概率，则对任意给定的正数ε，有

证明 由于nA是n重伯努利试验中事件A发生的次数，因此nA～B（n，p），进而

根据切比雪夫不等式，对任意给定的ε>0，有

即

令n→∞，则有

注：（1）伯努利定理是最早的一个大数定理，它表明：当重复试验次数n充分大时，事件A发生的频率与其概率p能任意接近的可能性很大（概率趋近于1），这为实际应用中用频率近似代替概率提供了理论依据.

（2）如果事件A发生的概率很小，则由伯努利定理知，事件A发生的频率也是很小的，或者说事件A很少发生，即“概率很小的随机事件在个别试验中几乎不会发生”.这一原理称为“小概率原理”，它的实际应用很广泛.但应注意到，小概率事件与不可能事件是有区别的.在多次试验中，小概率事件也可能发生.

定理3 切比雪夫大数定律 设X1，X2，…，Xn，…是相互独立的随机变量序列，其数学期望与方差都存在，且方差一致有界，即存在正数M，对任意k（k=1，2，…），有

D(Xk)≤M

则对任意给定的正数ε，恒有

证明 因为

由切比雪夫不等式，有

由于方差一致有界，因此

从而得

令n→∞，则有

推论1 设随机变量X1，X2，…，Xn，…相互独立且服从相同的分布，具有数学期望E（Xk）=μ（k=1，2，…）和方差D（Xk）=σ2（k=1，2，…），则对任意给定的正数ε，有

切比雪夫大数定律是在1866年由俄国数学家切比雪夫提出并证明的，它是大数定律的一个相当普遍的结论，许多大数定律的古典结果是它的特例，伯努利大数定律就可以看作它的推论.

事实上，在伯努利大数定律中，令

则Xk～B（1，p）（k=1，2，…），并且X1，X2，…，Xn，…满足切比雪夫大数定律的条件，于是由切比雪夫大数定律可证明伯努利大数定律.(www.xing528.com)

以上两个大数定律都是以切比雪夫不等式为基础来证明的，所以要求随机变量的方差存在.但是进一步的研究表明，方差存在这个条件并不是必要的.下面介绍的辛钦大数定律就表明了这一点.

定理4 辛钦（Khintchine）大数定律 设随机变量序列X1，X2，…，Xn，…相互独立且服从相同的分布，具有数学期望E（Xk）=μ，k=1，2，…，则对任意给定的正数ε，有

证明略.

使用依概率收敛的概念，伯努利大数定律表明：n重伯努利试验中事件A发生的频率依概率收敛于事件A发生的概率，它以严格的数学形式阐述了频率具有稳定性的客观规律.辛钦大数定律表明：n个独立同分布的随机变量的算术平均值依概率收敛于随机变量的数学期望，这为实际问题中算术平均值的应用提供了理论依据.

例3 已知X1，X2，…，Xn相互独立且都服从参数为2的指数分布，求当n→∞时，依概率收敛的极限.

解 显然，所以

由辛钦大数定律，有

最后需要指出的是：不同的大数定律应满足的条件是不同的，切比雪夫大数定律中虽然只要求X1，X2，…，Xn，…相互独立而不要求具有相同的分布，但对于方差的要求是一致有界的；伯努利大数定律则要求X1，X2，…，Xn，…不仅独立同分布，而且要求同时服从同参数的0—1分布；辛钦大数定律并不要求Xk的方差存在，但要求X1，X2，…，Xn，…独立同分布.各大数定律都要求Xk的数学期望存在，如服从柯西分布，密度函数均为的相互独立随机变量序列，由于数学期望不存在，因而不满足大数定律.

习题3.7

1.设随机变量X的方差为2，则根据切比雪夫不等式有估计（　）.

A.0　B.1　C.0.2　D.0.5

2.设｛Xn｝是独立同分布的随机变量序列，在（　）条件下，｛Xn｝不服从切比雪夫大数定律.

A.Xn的概率分布为（k=0，1，…）

B.Xn服从[a，b]（a　<b）上的均匀分布

C.Xn的密度函数为

D.Xn的密度函数为

3.设随机变量X的期望E（X），方差D（X）都存在，则对∀ε>0，下列各式中正确的是（　）.

4.设X1，X2，…，X9相互独立，E（Xi）=1，D（Xi）=1（i=1，2，…，9）.试利用切比雪夫不等式估算概率

5.将一枚均匀的硬币抛800次，利用切比雪夫不等式估计正面朝上的次数在350次与450次间的概率.