伯努利大数定律与切比雪夫大数定律的关系

在第一章中我们曾说过，一个随机事件和区间[0，1]中的一个数对应，必然事件对应1，且具有可列可加性，那么这个对应的数就定义为该事件的概率.它是随机事件发生可能性大小的度量.一个随机事件能和[0，1]中的一个数对应，这是人们在大量实践中发现事件频率具有稳定性的结果.这恰恰也是随机现象的一个客观规律.所谓随机事件频率具有稳定性，是指随着试验次数增多，事件的频率将逐渐稳定于某个常数，这个常数就是随机事件发生可能性大小的客观反映.因而概率定义的基础是频率稳定性.如果频率不稳定于某个常数，那么概率定义中一个随机事件和一个数对应这句话也就失去了客观背景，而完全变成了人们主观臆想的东西.概率的基本理论已经建立起来了，现在要求我们从理论上证明频率确实具有稳定性，而且还要讲明“稳定”的含义.在概率发展的初期，许多数学家作了深入的研究.下面先叙述早期的大数定律.

定理1（伯努利大数定律） 设nA是n次独立试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对任意正数ε，有

或

在证明这个定理之前，先来看看定理的具体含义.上式表明当试验次数很大时，事件A的频率与事件A的概率p的偏差超过任意小的正数ε的可能性很小，或者说基本上是不可能的.这就是频率稳定性的含义.而它稳定的常数就是事件A的概率.这也从理论上提供了用频率代替概率的依据.

证　引入随机变量

显然nA＝X1＋X2＋…＋Xn.由于Xi只依赖于第i次试验，而各次试验又是独立的，因而X1，X2，…，Xn，…是相互独立的，又由于Xi服从（0-1）分布，故有

E(Xi)＝p， D(Xi)＝p(1－p)， i＝1，2，…，n，…，

又

由切比雪夫不等式有

于是得

定义1　设Y1，Y2，…，Yn，…是一个随机变量序列，a是一个常数，若对任意正数ε，有

则称序列Y1，Y2，…，Yn，…依概率收敛于a.

伯努利大数定律也可以叙述为事件发生的频率依概率收敛于事件的概率.(www.xing528.com)

人们在实践中还发现，除了频率具有稳定性外，大量的观察值的平均值也具有稳定性，即平均稳定性.

定理2（切比雪夫大数定律）　设随机变量X1，X2，…，Xn，…相互独立，具有相同的有限期望和方差：

E(Xk)＝μ， D(Xk)＝σ2， k＝1，2，…，

作前n个随机变量的算术平均

则对任给的正数ε，有

证　由于X1，X2，…，Xn，…相互独立，故有

对随机变量使用切比雪夫不等式有

令n→∞，概率不能大于1，故得

定理2说明算术平均依概率收敛于期望μ.即当n无限增大时，算术平均几乎成了一个常数.这就说明了平均稳定性.

定理2也是我们常用的算术平均值法则的理论依据.如我们要测量某一物理量a，在相同的条件下重复进行n次，得到n个测量值X1，X2，…，Xn.显然它们是相互独立的，分布也相同，且具有期望a.由于算术平均具有稳定性，故可用它近似代替a，即

当n较大时误差较小.

在切比雪夫大数定律中，若Xk，k＝1，2，…均服从（0-1）分布，就成了伯努利大数定律，所以伯努利大数定律可视为切比雪夫大数定律的特例.