独立性与相关性
两者关系
独立性是概率论中的一个基本概念，描述的是两个事件或随机变量的发生互不影响。相关性是统计学中的概念，通过数字特征（协方差、相关系数）来度量随机变量之间的（线性）关系。
它们之间的关系可以总结为：
-
独立一定不相关 若随机变量 和 相互独立，则 。 因此，协方差 。 这意味着相关系数 。所以， 和 必不相关。
-
不相关不一定独立 不相关仅仅意味着 ，但这并不能保证 相互独立。不相关只能说明变量之间没有线性关系，但可能存在其他函数关系（如平方关系、三角函数关系等）。
-
特殊情况 如果二维随机变量 服从二维正态分布，那么 与 不相关是 与 相互独立的充分必要条件。
分布判断独立性
判断两个随机变量 是否独立，必须从其联合分布与边缘分布的关系入手。以下判据是等价的：
-
分布函数判据（定义）： 对于任意的实数 ，都有 其中 是联合分布函数， 和 分别是 和 的边缘分布函数。
-
离散型随机变量判据： 对于任意的 ，都有 即联合分布律等于边缘分布律的乘积。
-
连续型随机变量判据： 对于几乎所有的 ，都有 即联合概率密度等于边缘概率密度的乘积。
注意：要证明不独立，只需找到一个反例即可。
数字特征判断相关性
通过相关系数 来判断是否存在线性相关性
考虑随机变量 和 。在 且 的前提下，以下条件是相互等价的：
\rho_{XY} = 0 &\iff Cov(X,Y) = 0 \\ &\iff E(XY) = E(X)E(Y) \\ &\iff D(X \pm Y) = D(X) + D(Y) \end{align*} $$ ## 基本判别流程 当讨论随机变量 $X, Y$ 的相关性与独立性时，可遵循以下步骤： 1. **计算协方差** $Cov(X,Y) = E(XY) - E(X)E(Y)$。 2. 若 $Cov(X,Y) \neq 0$，则 $X, Y$ **相关**，并且必然**不独立**。 3. 若 $Cov(X,Y) = 0$，则 $X, Y$ **不相关**。此时需要进一步判断独立性。 4. 利用分布函数、分布律或概率密度函数判断独立性。 - 若满足独立性条件（如 $f(x,y)=f_X(x)f_Y(y)$），则 $X, Y$ **相互独立**（此时的结论是：不相关且独立）。 - 若不满足独立性条件，则 $X, Y$ **不独立**（此时的结论是：不相关但不独立）。 ### 例题 :::quiz[essay] #### 设随机变量 $X$ 的概率密度为 $f(x) = \frac{1}{2}e^{-|x|}, x \in (-\infty, +\infty)$。证明 $X$ 与 $Y=|X|$ 不相关但不独立 --- **证明**： 1. **判断相关性** 我们计算 $Cov(X, Y) = Cov(X, |X|) = E(X|X|) - E(X)E(|X|)$。 - 计算 $E(X)$: $$ E(X) = \int_{-\infty}^{+\infty} x \cdot \frac{1}{2}e^{-|x|} dx $$ 由于被积函数 $g(x)=xe^{-|x|}$ 是一个奇函数 ($g(-x) = -xe^{-|-x|} = -g(x)$)，且积分区间关于原点对称，所以 $E(X) = 0$。 - 计算 $E(X|X|)$: $$ E(X|X|) = \int_{-\infty}^{+\infty} x|x| \cdot \frac{1}{2}e^{-|x|} dx $$ 被积函数 $h(x)=x|x|e^{-|x|}$ 也是一个奇函数，所以 $E(X|X|) = 0$。 - 计算协方差: $$ Cov(X, |X|) = 0 - 0 \cdot E(|X|) = 0 $$ 因此，$X$ 与 $Y=|X|$ **不相关**。 2. **判断独立性** 要证明不独立，我们只需找到一个反例。 考虑事件 $A = \{X > 1\}$ 和 $B = \{Y \le 1\} = \{|X| \le 1\}$。 - 计算 $P(A)$ 和 $P(B)$: $$ P(A) = P(X>1) = \int_1^{+\infty} \frac{1}{2}e^{-x}dx = \frac{1}{2}[-e^{-x}]_1^{+\infty} = \frac{1}{2e} > 0 $$ $$ P(B) = P(|X|\le 1) = \int_{-1}^{1} \frac{1}{2}e^{-|x|}dx = 2 \int_0^1 \frac{1}{2}e^{-x}dx = [-e^{-x}]_0^1 = 1 - \frac{1}{e} > 0 $$ 所以 $P(A)P(B) > 0$。 - 计算 $P(A \cap B)$: 事件 $A \cap B = \{X > 1\} \cap \{|X| \le 1\} = \{X > 1\} \cap \{-1 \le X \le 1\}$ 是不可能事件，即 $A \cap B = \emptyset$。 因此，$P(A \cap B) = 0$。 - 比较： $$ P(A \cap B) = 0 \neq P(A)P(B) = \frac{1}{2e}(1 - \frac{1}{e}) $$ 因为不满足独立性条件，所以 $X$ 与 $|X|$ **不独立**。 **结论**：$X$ 与 $|X|$ 不相关但不独立。 :::