随机变量独立性

概念

设 $F(x,y)$ 为二维随机变量 $(X,Y)$ 的联合分布函数，$F_X(x)$ 和 $F_Y(y)$ 分别为关于 $X$ 和 $Y$ 的边缘分布函数。如果对于所有的实数 $x,y$，都有：

$F(x,y)=F_X(x)F_Y(y)$

则称随机变量 $X$ 和 $Y$ 是相互独立的。

这个概念可以推广到 $n$ 个随机变量。设 $X_1,X_2,\dots ,X_n$ 是 $n$ 个随机变量，其联合分布函数为 $F(x_1,x_2,\dots ,x_n)$，各边缘分布函数为 $F_{X_i}(x_i),i=1,2,\dots ,n$。如果对于任意实数 $x_1,x_2,\dots ,x_n$，都有：

$F(x_1,x_2,\dots ,x_n)=F_{X_1}(x_1)F_{X_2}(x_2)\cdots F_{X_n}(x_n)$

则称随机变量 $X_1,X_2,\dots ,X_n$ 是相互独立的。

充要条件

随机变量 $X$ 和 $Y$ 相互独立的充要条件可以根据变量类型具体化：

• 对于二维离散型随机变量 设 $(X,Y)$ 的联合分布律为 $P\{X=x_i,Y=y_j\}=p_{ij}$，关于 $X$ 和 $Y$ 的边缘分布律分别为 $p_{i\cdot }$ 和 $p_{\cdot j}$。$X$ 与 $Y$ 相互独立的充要条件是，对于所有 $i,j$ 都有： $p_{ij}=p_{i\cdot }\cdot p_{\cdot j}$

• 对于二维连续型随机变量 设 $(X,Y)$ 的联合概率密度为 $f(x,y)$，关于 $X$ 和 $Y$ 的边缘概率密度分别为 $f_X(x)$ 和 $f_Y(y)$。$X$ 与 $Y$ 相互独立的充要条件是，在平面上几乎处处有： $f(x,y)=f_X(x)f_Y(y)$

• 对于一般二维随机变量 $X$ 与 $Y$ 相互独立的充要条件是它们的联合分布函数等于各自边缘分布函数的乘积： $F(x,y)=F_X(x)F_Y(y)$

性质

1. 若随机变量 $X$ 和 $Y$ 相互独立，则它们的函数 $g(X)$ 和 $h(Y)$ 也相互独立。
2. 若 $X$ 和 $Y$ 相互独立，且它们的数学期望存在，则有 $E(XY)=E(X)E(Y)$。
3. 若 $X$ 和 $Y$ 相互独立，且它们的方差存在，则有 $D(X\pm Y)=D(X)+D(Y)$。
4. 若 $X$ 和 $Y$ 相互独立，则它们的协方差 $\text{Cov}(X,Y)=0$，相关系数 ${\rho }_{XY}=0$。即 $X$ 和 $Y$ 不相关。

   注意：不相关不一定独立。但对于二维正态分布，不相关与独立是等价的。

独立同分布运算

若 $X_1,X_2,\dots ,X_n$ 相互独立，且服从相同的分布，则称它们是独立同分布（i.i.d.）的随机变量，构成一个简单随机样本。

常见分布的可加性

• 二项分布：若 $X\sim B(n_1,p)$，$Y\sim B(n_2,p)$，且 $X,Y$ 独立，则 $X+Y\sim B(n_1+n_2,p)$。（参数 $p$ 必须相同）
• 泊松分布：若 $X\sim P({\lambda }_1)$，$Y\sim P({\lambda }_2)$，且 $X,Y$ 独立，则 $X+Y\sim P({\lambda }_1+{\lambda }_2)$。
• 正态分布：若 $X\sim N({\mu }_1,{\sigma }_1^2)$，$Y\sim N({\mu }_2,{\sigma }_2^2)$，且 $X,Y$ 独立，则 $aX+bY\sim N(a{\mu }_1+b{\mu }_2,a^2{\sigma }_1^2+b^2{\sigma }_2^2)$。
• 卡方分布：若 $X\sim {\chi }^2(n_1)$，$Y\sim {\chi }^2(n_2)$，且 $X,Y$ 独立，则 $X+Y\sim {\chi }^2(n_1+n_2)$。
• 伽马分布：若 $X\sim \Gamma ({\alpha }_1,\lambda )$，$Y\sim \Gamma ({\alpha }_2,\lambda )$，且 $X,Y$ 独立，则 $X+Y\sim \Gamma ({\alpha }_1+{\alpha }_2,\lambda )$。（参数 $\lambda$ 必须相同）