切比雪夫不等式

切比雪夫不等式（Chebyshev’s Inequality）给出了在随机变量的分布未知的情况下，利用其期望和方差来估计概率的一个上界。

定理

设随机变量 $X$ 的数学期望 $E(X)=\mu$，方差 $D(X)={\sigma }^2$ 均存在。则对任意正数 $ϵ$，有

$P\{|X-\mu |\ge ϵ\}\le \frac{{\sigma }^2}{{ϵ}^2}$

或者等价地

$P\{|X-\mu |<ϵ\}\ge 1-\frac{{\sigma }^2}{{ϵ}^2}$

说明：该不等式表明，一个随机变量偏离其期望值超过 $ϵ$ 的概率，受制于其方差和 $ϵ$ 的大小。方差越小，该概率就越小。它适用于任何分布的随机变量（只要期望和方差存在），但其估计通常比较粗略。

证明（以连续型为例）

根据方差定义：

${\sigma }^2=D(X)={\int }_{-\infty }^{+\infty }(x-\mu {)}^{2}f(x)dx$

将积分区域拆分为 $|x-\mu |\ge ϵ$ 和 $|x-\mu |<ϵ$：

${\sigma }^2={\int }_{|x-\mu |\ge ϵ}(x-\mu {)}^{2}f(x)dx+{\int }_{|x-\mu |<ϵ}(x-\mu {)}^{2}f(x)dx$

由于第二项非负，则有：

${\sigma }^2\ge {\int }_{|x-\mu |\ge ϵ}(x-\mu {)}^{2}f(x)dx$

在积分区域 $|x-\mu |\ge ϵ$ 中，被积函数满足 $(x-\mu {)}^2\ge {ϵ}^2$，因此：

${\sigma }^2\ge {\int }_{|x-\mu |\ge ϵ}{ϵ}^{2}f(x)dx={ϵ}^2{\int }_{|x-\mu |\ge ϵ}f(x)dx$

而积分 ${\int }_{|x-\mu |\ge ϵ}f(x)dx$ 正是事件 $\{|X-\mu |\ge ϵ\}$ 的概率 $P\{|X-\mu |\ge ϵ\}$。

所以，

${\sigma }^2\ge {ϵ}^{2}P\{|X-\mu |\ge ϵ\}$

移项即得：

$P\{|X-\mu |\ge ϵ\}\le \frac{{\sigma }^2}{{ϵ}^2}$