统计量与分布

统计量

设 $X_1,X_2,\dots ,X_n$ 是来自总体 $X$ 的一个样本，统计量是样本 $X_1,X_2,\dots ,X_n$ 的函数 $g(X_1,X_2,\dots ,X_n)$。

关键特性：统计量中不含任何未知参数。

• 例如，设总体 $X$ 的均值为 $\mu$，方差为 ${\sigma }^2$（均为未知参数）。
• $\bar{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$ 是一个统计量。
• $S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2$ 是一个统计量。
• $g(X_1,\dots ,X_n)=\bar{X}-\mu$ 不是统计量，因为它包含了未知参数 $\mu$。

常用统计量

设 $X_1,X_2,\dots ,X_n$ 为样本，总体均值为 $\mu$，方差为 ${\sigma }^2$。

1. 样本均值 $\bar{X}$ $\bar{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$ 性质：$E(\bar{X})=\mu$, $D(\bar{X})=\frac{{\sigma }^2}{n}$。

2. 样本方差 $S^2$ $S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2$ 性质：$E(S^2)={\sigma }^2$，即样本方差是总体方差的无偏估计。

3. 样本标准差 $S$ $S=\sqrt{S^2}=\sqrt{\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2}$

4. 样本 $k$ 阶原点矩 $A_k$ $A_k=\frac{1}{n}{\sum }_{i=1}^n{X}_i^k(k=1,2,\dots )$ 特别地，$A_1=\bar{X}$。

5. 样本 $k$ 阶中心矩 $B_k$ $B_k=\frac{1}{n}{\sum }_{i=1}^n(X_i-\bar{X}{)}^k(k=1,2,\dots )$ 特别地，$B_1=0$, $B_2=\frac{1}{n}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2=\frac{n-1}{n}{S}^2$。

顺序统计量

概念

将样本观测值 $X_1,X_2,\dots ,X_n$ 按从小到大的顺序排列，得到 $X_{(1)}\le X_{(2)}\le \cdots \le X_{(n)}$。称 $X_{(k)}$ 为第 $k$ 顺序统计量。

• 样本极小值: $X_{(1)}=\min (X_1,X_2,\dots ,X_n)$
• 样本极大值: $X_{(n)}=\max (X_1,X_2,\dots ,X_n)$
• 样本极差（全距）: $R=X_{(n)}-X_{(1)}$
• 样本中位数: $$M=\{\begin{array}{ll}{X}_{(\frac{n+1}{2})},& \text{n 为奇数}\\ \frac{1}{2}(X_{(\frac{n}{2})}+X_{(\frac{n}{2}+1)}),& \text{n 为偶数}\end{array}$$

性质

设总体 $X$ 的概率密度函数为 $f(x)$，分布函数为 $F(x)$。

1. 样本极大值 $X_{(n)}$ 的分布函数与密度函数：

   • $F_{X_{(n)}}(x)=P(X_{(n)}\le x)=P(\text{所有}{X}_i\le x)=[F(x){]}^n$
   • $f_{X_{(n)}}(x)=n[F(x){]}^{n-1}f(x)$

2. 样本极小值 $X_{(1)}$ 的分布函数与密度函数：

   • $F_{X_{(1)}}(x)=P(X_{(1)}\le x)=1-P(X_{(1)}>x)=1-P(\text{所有}{X}_i>x)=1-[1-F(x){]}^n$
   • $f_{X_{(1)}}(x)=n[1-F(x){]}^{n-1}f(x)$

3. 第 $k$ 顺序统计量 $X_{(k)}$ 的密度函数： $f_{X_{(k)}}(x)=\frac{n!}{(k-1)!(n-k)!}[F(x){]}^{k-1}[1-F(x){]}^{n-k}f(x)$

三大分布

${\chi }^2$ 分布

概念

设 $X_1,X_2,\dots ,X_n$ 相互独立，且都服从标准正态分布 $N(0,1)$，则随机变量

$Y={\sum }_{i=1}^n{X}_i^2$

服从自由度为 $n$ 的 ${\chi }^2$ 分布 (卡方分布)，记为 $Y\sim {\chi }^2(n)$。

性质

设 $Y\sim {\chi }^2(n)$。

1. 期望与方差：$E(Y)=n$, $D(Y)=2n$。
2. 可加性：设 $Y_1\sim {\chi }^2(n_1)$, $Y_2\sim {\chi }^2(n_2)$，且 $Y_1,Y_2$ 相互独立，则 $Y_1+Y_2\sim {\chi }^2(n_1+n_2)$
3. 分位数：对给定的 $\alpha \in (0,1)$，称满足 $P(Y>{\chi }_{\alpha }^2(n))=\alpha$ 的点 ${\chi }_{\alpha }^2(n)$ 为 上 $\alpha$ 分位数。

$t$ 分布

概念

设 $X\sim N(0,1)$, $Y\sim {\chi }^2(n)$，且 $X,Y$ 相互独立，则随机变量

$T=\frac{X}{\sqrt{Y/n}}$

服从自由度为 $n$ 的 $t$ 分布 (学生氏分布)，记为 $T\sim t(n)$。

性质

设 $T\sim t(n)$。

1. 概率密度函数 $f(t)$ 是一个关于 $t=0$ 对称的偶函数，其图像关于纵轴对称。
2. 期望与方差：当 $n>1$ 时，$E(T)=0$；当 $n>2$ 时，$D(T)=\frac{n}{n-2}$。
3. 分位数：上 $\alpha$ 分位数 $t_{\alpha }(n)$ 满足 $P(T>t_{\alpha }(n))=\alpha$。由对称性可知 $t_{1-\alpha }(n)=-t_{\alpha }(n)$。
4. 极限分布：当 $n\to \infty$ 时，$t(n)$ 分布的极限是标准正态分布 $N(0,1)$。

$F$ 分布

概念

设 $U\sim {\chi }^2(n_1)$, $V\sim {\chi }^2(n_2)$，且 $U,V$ 相互独立，则随机变量

$F=\frac{U/n_1}{V/n_2}$

服从自由度为 $(n_1,n_2)$ 的 $F$ 分布，记为 $F\sim F(n_1,n_2)$。$n_1$ 称为第一自由度，$n_2$ 称为第二自由度。

性质

设 $F\sim F(n_1,n_2)$。

1. 倒数性质：若 $F\sim F(n_1,n_2)$，则 $\frac{1}{F}\sim F(n_2,n_1)$
2. 分位数：上 $\alpha$ 分位数 $F_{\alpha }(n_1,n_2)$ 满足 $P(F>F_{\alpha }(n_1,n_2))=\alpha$。由倒数性质可得： $F_{1-\alpha }(n_1,n_2)=\frac{1}{F_{\alpha }(n_2,n_1)}$
3. 与 $t$ 分布的关系：若 $T\sim t(n)$，则 $T^2\sim F(1,n)$。

正态总体的抽样分布

设 $X_1,X_2,\dots ,X_n$ 是来自正态总体 $N(\mu ,{\sigma }^2)$ 的一个样本，$\bar{X}$ 是样本均值，$S^2$ 是样本方差。

单个正态总体

1. 重要性质：样本均值 $\bar{X}$ 与样本方差 $S^2$ 相互独立。

2. $\bar{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$，标准化后有： $\frac{\bar{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)$

3. 卡方统计量： $\frac{(n-1)S^2}{{\sigma }^2}=\frac{1}{{\sigma }^2}{\sum }_{i=1}^n(X_i-\bar{X}{)}^2\sim {\chi }^2(n-1)$

4. $t$ 统计量 (最常用)： $\frac{\bar{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$

两个正态总体

设 $X_1,\dots ,X_{n_1}$ 是来自 $N({\mu }_1,{\sigma }_1^2)$ 的样本，$\bar{X},S_1^2$ 分别为其样本均值和方差。

设 $Y_1,\dots ,Y_{n_2}$ 是来自 $N({\mu }_2,{\sigma }_2^2)$ 的样本，$\bar{Y},S_2^2$ 分别为其样本均值和方差。两样本相互独立。

1. $F$ 统计量： $\frac{S_1^2/{\sigma }_1^2}{S_2^2/{\sigma }_2^2}\sim F(n_1-1,n_2-1)$ 特别地，若 ${\sigma }_1^2={\sigma }_2^2$，则 $\frac{S_1^2}{S_2^2}\sim F(n_1-1,n_2-1)$。

2. $t$ 统计量 (假设 ${\sigma }_1^2={\sigma }_2^2={\sigma }^2$ 未知)：

   • 构造 合并样本方差： $S_w^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}$
   • 相应的 $t$ 统计量为： $\frac{(\bar{X}-\bar{Y})-({\mu }_1-{\mu }_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2)$

例题

[问答题]

设 $X_1,X_2,X_3,X_4$ 为来自总体 $N(1,{\sigma }^2)(\sigma >0)$ 的简单随机样本，$\bar{X}$ 为样本均值，$S^2$ 为样本方差，则正确的是

• A. $\frac{X_1-X_2}{|X_3+X_4-2|}\sim t(2)$
• B. $\frac{4(\bar{X}-1{)}^2}{{\sigma }^2}\sim {\chi }^2(2)$
• C. $\frac{1}{2{\sigma }^2}[(X_1-X_2{)}^2+(X_3-X_4{)}^2]\sim {\chi }^2(2)$
• D. $\frac{4(\bar{X}-1{)}^2}{S^2}\sim F(3,1)$

[答案]

答案：C

已知条件：$X_i\sim N(1,{\sigma }^2)$，样本容量 $n=4$，总体均值 $\mu =1$。

A 选项分析: $X_1-X_2\sim N(1-1,{\sigma }^2+{\sigma }^2)=N(0,2{\sigma }^2)$。 $X_3+X_4-2\sim N(1+1-2,{\sigma }^2+{\sigma }^2)=N(0,2{\sigma }^2)$。 该统计量不符合 t 分布的 $\frac{N(0,1)}{\sqrt{{\chi }^2(k)/k}}$ 结构。故 A 错误。

B 选项分析: 根据样本均值的分布，$\bar{X}\sim N(\mu ,{\sigma }^2/n)=N(1,{\sigma }^2/4)$。 标准化后得到 $\frac{\bar{X}-1}{\sigma /2}\sim N(0,1)$。 其平方服从自由度为 1 的卡方分布： ${\left(\frac{\bar{X}-1}{\sigma /2}\right)}^2=\frac{4(\bar{X}-1{)}^2}{{\sigma }^2}\sim {\chi }^2(1)$ 选项中自由度为 2，故 B 错误。

C 选项分析: 令 $Y_1=X_1-X_2$，$Y_2=X_3-X_4$。 由于 $X_i$ 独立同分布，我们有： $Y_1\sim N(1-1,{\sigma }^2+{\sigma }^2)=N(0,2{\sigma }^2)$ $Y_2\sim N(1-1,{\sigma }^2+{\sigma }^2)=N(0,2{\sigma }^2)$ 由于 $X_1,X_2,X_3,X_4$ 相互独立，所以 $Y_1,Y_2$ 也相互独立。 将它们标准化： $\frac{Y_1}{\sqrt{2{\sigma }^2}}\sim N(0,1)$ $\frac{Y_2}{\sqrt{2{\sigma }^2}}\sim N(0,1)$ 根据卡方分布的定义，两个独立的标准正态变量的平方和服从自由度为 2 的卡方分布： ${\left(\frac{Y_1}{\sqrt{2{\sigma }^2}}\right)}^2+{\left(\frac{Y_2}{\sqrt{2{\sigma }^2}}\right)}^2=\frac{Y_1^2+Y_2^2}{2{\sigma }^2}\sim {\chi }^2(2)$ 代回 $Y_1,Y_2$ 的表达式： $\frac{(X_1-X_2{)}^2+(X_3-X_4{)}^2}{2{\sigma }^2}=\frac{1}{2{\sigma }^2}[(X_1-X_2{)}^2+(X_3-X_4{)}^2]\sim {\chi }^2(2)$ 故 C 正确。

此统计量结构符合单个总体的 F 统计量形式 \frac{n(\bar{X}-\mu)^2}{S^2}。 本题中 n=4, \mu=1，所以 F = \frac{4(\bar{X}-1)^2}{S^2} \sim F(1, n-1) = F(1, 3) 选项给出的分布是 F(3,1)，第一自由度和第二自由度颠倒，故 D 错误。