独立 (概率论)

機率論名詞

机率论里,说两个事件独立的,直觉上是指一次实验中一事件的发生不会影响到另一事件发生的机率。例如,在一般情况下可以认为连续两次掷骰子得到的点数结果是相互独立的。类似地,两个随机变量是独立的,若其在一事件给定观测量的条件机率分布和另一事件没有被观测的机率分布是一样的。

对于两个以上的事件,需要区分两种独立的概念。如果集合中的任意两个事件相互独立,则这些事件称为两两独立Pairwise independent),而事件相互独立Mutually independent)指每个事件独立于集合中其他事件的任何交集。在概率论、统计学和随机过程的标准文献中,没有限定词的独立通常指相互独立

独立事件

对于两个事件

两个事件AB独立的 当且仅当  

这里,ABAB交集,即为AB两个事件都会发生的事件。

对于任意个事件

若有限个事件构成的集合 中每对事件都是独立的,则这些事件是两两独立(pairwise independent)的。[1]

当且仅当对任意的 ,有

 


若有限个事件构成的集合 中每个事件都与任何其他事件构成的交集独立,则这些事件是相互独立(mutually independent) 的。

当且仅当对其任一有限子集A1, ..., An,会有

 

或写作: 

这被称为独立事件的乘法规则

独立事件的性质

若两个事件AB是独立的,则其B给之A条件机率A的“无条件机率”一样,即

 

至少有两个理由可以解释为何此一叙述不可以当做独立性的定义:(1)AB两个事件在此叙述中并不对称,及(2)当机率为0亦可包含于此叙述时,会有问题产生。

若回想条件机率Pr(A | B)的定义为

  (只要Pr(B) ≠ 0 )

则上面的叙述则会等价于

 

即为上面所给定的标准定义。

注意独立性并不和它在地方话里的有相同的意思。例如,一事件独立于其自身当且仅当:

 

亦即,其机率不是零就是一。因此,当一事件或其补集几乎确定会发生,它即是独立于其本身。例如,若事件A单位区间连续型均匀分布上选了0.5,则A是独立于其自身的,尽管重言式地,A完全决定了A

独立随机变量

上面所定义的是事件的独立性。在这一节中,我们将处理随机变量的独立性。若X是一实数值随机变量且a是一数字的话,则X ≤ a的事件是一个事件,所以可以有意义地说它是否会独立于其他的事件。

两个随机变数XY是独立的若且唯若对任何数字ab,事件[Xa](X小于或等于a的事件)和[Yb]为如上面所定义的独立事件。类似地,随意数量的随机变数是明确地独立的,若对任一有限子集X1, ..., Xn和任一数字的有限子集a1, ..., an,其事件[X1a1], ..., [Xnan]会是如上面所定义的独立事件。

其量测可以由事件[XA]来取代上面所定义的事件[Xa],其中A为任一包络集合。此一定义完全和上述其随机变数的值为实数的定义等价。且他有著可以作用于复值随机变数和在任一拓扑空间中取值之随机变数上的优点。

即使任意数目中的任二个随机变数都是独立的,但它们可能仍旧会无法互相独立;这种的独立被称为两两独立

XY是独立的,则其期望值E会有下列的好性质: E[X Y] = E[X] E[Y], (假定都存在)且其方差(若存在)满足

var(X + Y) = var(X) + var(Y),

因为其协方差 cov(X,Y) 为零。(其逆命题不成立,即若两个随机变数的协方差为0,它们不一定独立。)

此外,具有分布函数FX(x) 及 FY(y)和机率密度fX(x) 及 fY(y)的随机变数XY为独立的,若且唯若其相结合的随机变数(X,Y)有一共同分布

 

或等价地,有一共同密度

 

类似的表示式亦可以用来两个以上的随机变数上。

条件独立随机变数

直觉地,两个随机变量XY给定Z条件独立,如果:一旦知道了Z,从Y的值便不能得出任何关于X的信息。例如,相同的数量Z的两个测量XY不是独立的,但它们是给定Z条件独立(除非两个测量的误差是有关联的)。

条件独立的正式定义是基于条件分布的想法。如果XYZ离散型随机变量,那么我们定义XY给定Z条件独立,如果对于所有使 xyz,都有:

 

另一方面,如果随机变量是连续的,且具有联合概率密度p,那么XY给定Z条件独立,如果对于所有使 的实数xyz,都有:

 

如果XY给定Z条件独立,那么对于任何满足 xyz,都有:

 

也就是说,X给定YZ的条件分布,与仅仅给定Z的条件分布是相同的。对于连续的情况下的条件概率密度函数,也有一个类似的公式。

独立性可以视为条件独立的一个特例,因为概率可以视为不给定任何事件的条件概率。

另见

书籍

  • Kirby Faciane (2006). Statistics for Empirical and Quantitative Finance. H.C. Baird: Philadelphia. ISBN 0-9788208-9-4.

参考资料

  1. ^ Feller, W. Stochastic Independence. An Introduction to Probability Theory and Its Applications. Wiley. 1971.