大数定律
大数定律（laws of large number)
【基本概念】概率论历史上第一个极限定理属于贝努里，后人称之为“大数定律”。概率论中讨论随机变量序列的算术平均值向常数收敛的定律。概率论与数理统计学的基本定律之一。又称弱大数理论。
【主要含义】在随机事件的大量重复出现中，往往呈现几乎必然的规律，这个规律就是大数定律。通俗地说，这个定理就是，在试验不变的条件下，重复试验多次，随机事件的频率近似于它的概率。比如，我们向上抛一枚硬币，硬币落下后哪一面朝上本来是偶然的，但当我们上抛硬币的次数足够多后，达到上万次甚至几十万几百万次以后，我们就会发现，硬币每一面向上的次数约占总次数的二分之一。偶然必然中包含着必然。
【发展历史】1733年，德莫佛——拉普拉斯在分布的极限定理方面走出了根本性的一步，证明了二项分布的极限分布是正态分布。拉普拉斯改进了他的证明并把二项分布推广为更一般的分布。1900年，李雅普诺夫进一步推广了他们的结论，并创立了特征函数法。这类分布极限问题是当时概率论研究的中心问题，卜里耶为之命名“中心极限定理”。20世纪初，主要探讨使中心极限定理成立的最广泛的条件，二三十年代的林德贝尔格条件和费勒条件是独立随机变量序列情形下的显著进展。 贝努里是第一个研究这一问题的数学家，他于1713年首先提出后人称之为“大数定律”的极限定理。
【举例说明】例如，在重复投掷一枚硬币的随机试验中，观测投掷n次硬币中出现正面的次数。不同的n次试验，出现正面的频率（出现正面次数与n之比）可能不同，但当试验的次数n越来越大时，出现正面的频率将大体上逐渐接近于1／2。又如称量某一物体的重量，假如衡器不存在系统偏差，由于衡器的精度等各种因素的影响，对同一物体重复称量多次，可能得到多个不同的重量数值，但它们的算术平均值一般来说将随称量次数的增加而逐渐接近于物体的真实重量。由于随机变量序列向常数的收敛有多种不同的形式，按其收敛为依概率收敛，以概率 1 收敛或均方收敛，分别有弱大数定律、强大数定律和均方大数定律。常用的大数定律有：伯努利大数定律、辛钦大数定律、柯尔莫哥洛夫强大数定律和重对数定律。
设有一随机变量序列，假如它具有形如（1）的性质，则称该随机变量服从大数定律。
伯努利大数定律设μn为n重伯努利实验中事件A发生的次数，p为每次实验中A出现的概率，则对任意的ε>0，有（2）成立。
马尔可夫大数定律对随机变量序列，若（3）成立，则服从大数定律，即对任意的ε>0，（1）式成立。
辛钦大数定律设为独立同分布的随机变量序列，若Xi的数学期望存在，则服从大数定律，即对任意的ε>0，（1）成立。