大数定律及中心极限定理
概率论与数理统计第五章
--------------------------------------------------------------------------------------------------------------------------------------------------------------------
大数定律：
1、Chebyshev定理的特殊情况：
独立、同期望、同方差之随机变量的算术平均依概率收敛于它们相同的期望值。
2、辛钦定理：
独立、同期望、同分布（可以不同方差，甚至没有方差）之随机变量的算术平均依概率收敛于它们相同的期望值。
3、Bernoulli大数定理（辛钦定理的特殊情况）：
事件发生的频率依概率收敛于事件的概率。
--------------------------------------------------------------------------------------------------------------------------------------------------------------------
中心极限定理：在相当一般的条件下，当独立随机变量的个数增加时，其和的分布趋于正态分布。
中心极限定理提供了独立同分布随机变量之和（其中各随机变量的方差存在）的近似分布，只要和式中加项的个数充分大，就可以不必考虑和式中的随机变量服从什么分布，都可以用正态分布来近似。
1、独立同分布的中心极限定理：
独立、同分布、同期望、同方差的（几个）随机变量之和[的标准化变量]（当n充分大时）近似服从[标准]正态分布。
2、De Moivre - Laplace定理（独立同分布的中心极限定理的特殊情况）：
正态分布是二项分布的极限分布。
3、Liapunov定理：
把独立同分布的中心极限定理的条件“同分布”替换成P149中的那个变态条件，即为Liapunov定理。
--------------------------------------------------------------------------------------------------------------------------------------------------------------------
其中，Bernoulli大数定理和De Moivre - Laplace定理分别作为辛钦定理与独立同分布的中心极限定理的特殊情况，它们的推导都依赖于这样一个事实：
n次独立重复试验中概率为p之事件发生的次数服从参数为n,p的二项分布，可看成是n个独立同p参数(0-1)分布随机变量之和。
关于独立同分布中心极限定理（林德伯格·列维中心极限定理）与Liapunov中心极限定理的区别：
独立同分布中心极限定理的条件中要求：
(1)独立同分布；
(2)期望存在且相等（似乎由“同分布”可进一步得知，期望只要存在，则必相等）；
(3)方差存在且相等（似乎由“同分布”可进一步得知，方差只要存在，则必相等）。
（还是那个问题：“同分布”到底能“同”到什么程度？是仅只分布的类型相同，还是分布的类型及其具体参数尽皆相同？）
Liapunov中心极限定理的条件中则取消了“同分布且期望、方差均相等”的要求，只要求“期望、方差都存在（可以不相等同）”，再附加上那个变态条件
--------------------------------------------------------------------------------------------------------------------------------------------------------------------
大数定律：
1、Chebyshev定理的特殊情况：
独立、同期望、同方差之随机变量的算术平均依概率收敛于它们相同的期望值。
2、辛钦定理：
独立、同期望、同分布（可以不同方差，甚至没有方差）之随机变量的算术平均依概率收敛于它们相同的期望值。
3、Bernoulli大数定理（辛钦定理的特殊情况）：
事件发生的频率依概率收敛于事件的概率。
--------------------------------------------------------------------------------------------------------------------------------------------------------------------
中心极限定理：在相当一般的条件下，当独立随机变量的个数增加时，其和的分布趋于正态分布。
中心极限定理提供了独立同分布随机变量之和（其中各随机变量的方差存在）的近似分布，只要和式中加项的个数充分大，就可以不必考虑和式中的随机变量服从什么分布，都可以用正态分布来近似。
1、独立同分布的中心极限定理：
独立、同分布、同期望、同方差的（几个）随机变量之和[的标准化变量]（当n充分大时）近似服从[标准]正态分布。
2、De Moivre - Laplace定理（独立同分布的中心极限定理的特殊情况）：
正态分布是二项分布的极限分布。
3、Liapunov定理：
把独立同分布的中心极限定理的条件“同分布”替换成P149中的那个变态条件，即为Liapunov定理。
--------------------------------------------------------------------------------------------------------------------------------------------------------------------
其中，Bernoulli大数定理和De Moivre - Laplace定理分别作为辛钦定理与独立同分布的中心极限定理的特殊情况，它们的推导都依赖于这样一个事实：
n次独立重复试验中概率为p之事件发生的次数服从参数为n,p的二项分布，可看成是n个独立同p参数(0-1)分布随机变量之和。
关于独立同分布中心极限定理（林德伯格·列维中心极限定理）与Liapunov中心极限定理的区别：
独立同分布中心极限定理的条件中要求：
(1)独立同分布；
(2)期望存在且相等（似乎由“同分布”可进一步得知，期望只要存在，则必相等）；
(3)方差存在且相等（似乎由“同分布”可进一步得知，方差只要存在，则必相等）。
（还是那个问题：“同分布”到底能“同”到什么程度？是仅只分布的类型相同，还是分布的类型及其具体参数尽皆相同？）
Liapunov中心极限定理的条件中则取消了“同分布且期望、方差均相等”的要求，只要求“期望、方差都存在（可以不相等同）”，再附加上那个变态条件
