参数区间估计与假设检验

区间估计和假设检验都是基于小概率原理，即小概率事件在一次试验中基本上不可能发生。

区间估计

区间估计是根据样本估计总体期望 $\mu$ 所在的区间。有两个参数，一个是区间长度，一个是落入概率。

概念

从总体 $X$ 中抽取样本，其样本均值 $\overline{X}$ 与总体期望 $\mu$ 一般不相等，但其差距通常不大。这一思想可以用概率语言表示为 $P(|\overline{X}-\mu |<\Delta )=1-\alpha$。

• $\alpha$ 是一个很小的正数，称为显著性水平。
• $1-\alpha$ 称为置信度或置信水平。

求置信区间的枢轴变量法：

1. 为待估参数 $\theta$ 寻找一个良好的点估计量 $T$。
2. 构造一个依赖于 $T$ 和 $\theta$ 的函数 $I=I(T,\theta )$，使其分布已知（如正态分布、$t$ 分布、${\chi }^2$ 分布、$F$ 分布），且该分布不依赖于任何未知参数。$I$ 称为枢轴变量。
3. 给定置信度 $1-\alpha$，确定两个常数 $a$ 和 $b$，使得 $P(a\le I(T,\theta )\le b)=1-\alpha$。对于双侧置信区间，通常取 $P(I(T,\theta )<a)=\frac{\alpha }{2}$ 和 $P(I(T,\theta )>b)=\frac{\alpha }{2}$。
4. 从不等式 $a\le I(T,\theta )\le b$ 中解出关于 $\theta$ 的不等式 $\underline{\theta }\le \theta \le \overline{\theta }$。则 $(\underline{\theta },\overline{\theta })$ 就是 $\theta$ 的一个置信度为 $1-\alpha$ 的置信区间。$\underline{\theta }$ 称为置信下限，$\overline{\theta }$ 称为置信上限。

正态总体均值的置信空间

估计 $\mu$ 而 ${\sigma }^2$ 已知

假设总体 $X\sim N(\mu ,{\sigma }^2)$，或者样本容量 $n$ 很大（中心极限定理）。样本均值 $\overline{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$。

构造枢轴变量：

$U=\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)$

给定置信度 $1-\alpha$，查标准正态分布的上 $\frac{\alpha }{2}$ 分位点 $u_{\frac{\alpha }{2}}$，有：

$P\left(\left|\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}\right|\le u_{\frac{\alpha }{2}}\right)=1-\alpha$

整理得：

$P\left(\overline{X}-\frac{\sigma }{\sqrt{n}}{u}_{\frac{\alpha }{2}}\le \mu \le \overline{X}+\frac{\sigma }{\sqrt{n}}{u}_{\frac{\alpha }{2}}\right)=1-\alpha$

因此，$\mu$ 的置信度为 $1-\alpha$ 的置信区间为：

$\left[\overline{X}-u_{\frac{\alpha }{2}}\frac{\sigma }{\sqrt{n}},\overline{X}+u_{\frac{\alpha }{2}}\frac{\sigma }{\sqrt{n}}\right]$

估计 $\mu$ 而 ${\sigma }^2$ 未知

当 ${\sigma }^2$ 未知时，用样本方差 $S^2$ 来代替 ${\sigma }^2$。

构造枢轴变量：

$t=\frac{\overline{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$

给定置信度 $1-\alpha$，查 $t$ 分布的上 $\frac{\alpha }{2}$ 分位点 $t_{\frac{\alpha }{2}}(n-1)$，有：

$P\left(\left|\frac{\overline{X}-\mu }{S/\sqrt{n}}\right|\le t_{\frac{\alpha }{2}}(n-1)\right)=1-\alpha$

整理得：

$P\left(\overline{X}-\frac{S}{\sqrt{n}}{t}_{\frac{\alpha }{2}}(n-1)\le \mu \le \overline{X}+\frac{S}{\sqrt{n}}{t}_{\frac{\alpha }{2}}(n-1)\right)=1-\alpha$

因此，$\mu$ 的置信度为 $1-\alpha$ 的置信区间为：

$\left[\overline{X}-t_{\frac{\alpha }{2}}(n-1)\frac{S}{\sqrt{n}},\overline{X}+t_{\frac{\alpha }{2}}(n-1)\frac{S}{\sqrt{n}}\right]$

估计 ${\sigma }^2$ 而 $\mu$ 已知

当 $\mu$ 已知时，构造枢轴变量：

${\chi }^2=\frac{{\sum }_{i=1}^n(X_i-\mu {)}^2}{{\sigma }^2}\sim {\chi }^2(n)$

给定置信度 $1-\alpha$，查 ${\chi }^2$ 分布的分位点 ${\chi }_{\frac{\alpha }{2}}^2(n)$ 和 ${\chi }_{1-\frac{\alpha }{2}}^2(n)$，有：

$P\left({\chi }_{1-\frac{\alpha }{2}}^2(n)\le \frac{{\sum }_{i=1}^n(X_i-\mu {)}^2}{{\sigma }^2}\le {\chi }_{\frac{\alpha }{2}}^2(n)\right)=1-\alpha$

整理得 ${\sigma }^2$ 的置信度为 $1-\alpha$ 的置信区间为：

$\left[\frac{{\sum }_{i=1}^n(X_i-\mu {)}^2}{{\chi }_{\frac{\alpha }{2}}^2(n)},\frac{{\sum }_{i=1}^n(X_i-\mu {)}^2}{{\chi }_{1-\frac{\alpha }{2}}^2(n)}\right]$

估计 ${\sigma }^2$ 而 $\mu$ 未知

当 $\mu$ 未知时，用样本均值 $\overline{X}$ 代替 $\mu$。

构造枢轴变量：

${\chi }^2=\frac{(n-1)S^2}{{\sigma }^2}=\frac{{\sum }_{i=1}^n(X_i-\overline{X}{)}^2}{{\sigma }^2}\sim {\chi }^2(n-1)$

同理，${\sigma }^2$ 的置信度为 $1-\alpha$ 的置信区间为：

$\left[\frac{(n-1)S^2}{{\chi }_{\frac{\alpha }{2}}^2(n-1)},\frac{(n-1)S^2}{{\chi }_{1-\frac{\alpha }{2}}^2(n-1)}\right]$

假设检验

已经有了对期望 $\mu$ 的假设，对这个假设进行检验。若所处的区间在拒绝域中，就拒绝原假设。

思想

假设检验是先对总体的参数提出一个假设（如 $\mu ={\mu }_0$），然后利用样本信息来判断这个假设是否成立。

其基本思想是小概率原理。如果为使原假设 $H_0$ 成立而导致了一个小概率事件的发生，我们就有理由拒绝原假设 $H_0$。这个小概率 $\alpha$ 就是显著性水平。

$P(|\overline{X}-{\mu }_0|\ge \Delta )=\alpha$。

如果根据样本计算出的统计量的值落在了小概率事件发生的区间，这个区间就称为拒绝域。

假设检验的类型： 设 $\theta$ 为总体未知参数，${\theta }_0$ 为已知常数。

类型	原假设 $H_0$	备择假设 $H_1$
双边检验	$\theta ={\theta }_0$	$\theta \ne {\theta }_0$
右边检验	$\theta \le {\theta }_0$	$\theta >{\theta }_0$
左边检验	$\theta \ge {\theta }_0$	$\theta <{\theta }_0$

假设检验的步骤：

1. 根据实际问题提出原假设 $H_0$ 与备择假设 $H_1$。
2. 在假定 $H_0$ 成立的条件下，构造检验统计量，并确定其分布。
3. 给定显著性水平 $\alpha$，根据 $P\{\text{当}{H}_0\text{为真时拒绝}{H}_0\}=\alpha$ 确定拒绝域的形式。
4. 根据样本观测值计算出检验统计量的值，判断其是否落入拒绝域。若落入，则拒绝 $H_0$；否则，接受 $H_0$。

正态总体下的六大检验与拒绝域

检验参数	条件	原假设 $H_0$	备择假设 $H_1$	检验法与统计量	拒绝域
$\mu$	${\sigma }^2$ 已知	$\mu ={\mu }_0$	$\mu \ne {\mu }_0$	$U$ 检验 $U=\frac{\overline{X}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1)$	$|u|\ge u_{\frac{\alpha }{2}}$
		$\mu \le {\mu }_0$	$\mu >{\mu }_0$		$u\ge u_{\alpha }$
		$\mu \ge {\mu }_0$	$\mu <{\mu }_0$		$u\le -u_{\alpha }$
	${\sigma }^2$ 未知	$\mu ={\mu }_0$	$\mu \ne {\mu }_0$	$T$ 检验 $T=\frac{\overline{X}-{\mu }_0}{S/\sqrt{n}}\sim t(n-1)$	$|t|\ge t_{\frac{\alpha }{2}}(n-1)$
		$\mu \le {\mu }_0$	$\mu >{\mu }_0$		$t\ge t_{\alpha }(n-1)$
		$\mu \ge {\mu }_0$	$\mu <{\mu }_0$		$t\le -t_{\alpha }(n-1)$
${\sigma }^2$	$\mu$ 已知	${\sigma }^2={\sigma }_0^2$	${\sigma }^2\ne {\sigma }_0^2$	${\chi }^2$ 检验 ${\chi }^2=\frac{{\sum }_{i=1}^n(X_i-\mu {)}^2}{{\sigma }_0^2}\sim {\chi }^2(n)$	${\chi }^2\le {\chi }_{1-\frac{\alpha }{2}}^2(n)$ 或 ${\chi }^2\ge {\chi }_{\frac{\alpha }{2}}^2(n)$
		${\sigma }^2\le {\sigma }_0^2$	${\sigma }^2>{\sigma }_0^2$		${\chi }^2\ge {\chi }_{\alpha }^2(n)$
		${\sigma }^2\ge {\sigma }_0^2$	${\sigma }^2<{\sigma }_0^2$		${\chi }^2\le {\chi }_{1-\alpha }^2(n)$
	$\mu$ 未知	${\sigma }^2={\sigma }_0^2$	${\sigma }^2\ne {\sigma }_0^2$	${\chi }^2$ 检验 ${\chi }^2=\frac{(n-1)S^2}{{\sigma }_0^2}\sim {\chi }^2(n-1)$	${\chi }^2\le {\chi }_{1-\frac{\alpha }{2}}^2(n-1)$ 或 ${\chi }^2\ge {\chi }_{\frac{\alpha }{2}}^2(n-1)$
		${\sigma }^2\le {\sigma }_0^2$	${\sigma }^2>{\sigma }_0^2$		${\chi }^2\ge {\chi }_{\alpha }^2(n-1)$
		${\sigma }^2\ge {\sigma }_0^2$	${\sigma }^2<{\sigma }_0^2$		${\chi }^2\le {\chi }_{1-\alpha }^2(n-1)$

两类错误

在假设检验中，可能会犯两种类型的错误。

类型	第一类错误 (弃真)	第二类错误 (取伪)
含义	原假设 $H_0$ 为真，但决策拒绝了 $H_0$。	原假设 $H_0$ 为假，但决策接受了 $H_0$。
发生概率	$\alpha =P\{\text{拒绝}{H}_0|H_0\text{为真}\}$	$\beta =P\{\text{接受}{H}_0|H_0\text{为假}\}=P\{\text{接受}{H}_0|H_1\text{为真}\}$
说明	仅控制犯第一类错误的概率的检验称为显著性检验，该概率即显著性水平。	在样本容量 $n$ 固定的情况下，$\alpha$ 减小，$\beta$ 必然增大。要同时减小 $\alpha$ 和 $\beta$，只能增大样本容量 $n$。