很多时候我们假设试验的随机误差服从正态分布, 由此我们有著名的一样本、两两本 t 检验.
但是有些时候我们也怀疑正态分布假设是否正确, 因此也需要有检验是否为正态分布的方法.

1 一样本 t 检验

假设样本 ${\displaystyle X_1,\cdots ,X_n\sim \mathcal{N}(a,{\sigma }^2)}$, ${\displaystyle a,\sigma }$ 都是未知参数. 考虑检验问题 $$\begin{array}{}\text{(1.1)}& H_0:a=a_0\leftrightarrow H_1:a\ne a_0.\end{array}$$ 也即我们好奇均值是否是指定的值. (特别地, 有些时候 ${\displaystyle a_0=0}$, 一般在两组实验单元可以一一配对、判断均值是否相等时使用.)
考虑 (1.1) 的水平 ${\displaystyle \alpha }$ 似然比检验.

从而对数似然比为 $$\begin{array}{rl}\ln LR(x_1,\cdots ,x_n)& =\ln \frac{\underset{\sigma >0,a}{sup}f(x_1,\cdots ,x_n,a,\sigma )}{\underset{\sigma >0}{sup}f(x_1,\cdots ,x_n,a_0,\sigma )}\\ & ={\left[\frac{\sum _{i=1}^n(x_i-a_0{)}^2}{\sum _{i=1}^n(x_i-\bar{x}{)}^2}\right]}^{\frac{n}{2}}={[1+\frac{n(\bar{x}-a_0{)}^2}{\sum _{i=1}^n(x_i-\bar{x}{)}^2}]}^{\frac{n}{2}},\end{array}$$ 从而似然比检验有否定域 ${\displaystyle \{\frac{|\bar{X}-a_0|}{\sqrt{\sum _{i=1}^n(X_i-\bar{X}{)}^2}}>C\}}$. 为了确定常数 ${\displaystyle C}$, 考虑统计量 $$\begin{array}{}\text{(1.3)}& T=\sqrt{n(n-1)}\frac{|\bar{X}-a_0|}{\sqrt{\sum _{i=1}^n(X_i-\bar{X}{)}^2}}.\end{array}$$
根据 定理3.1 和 t分布的定义, 当 ${\displaystyle a=a_0}$ 时 ${\displaystyle T\sim t_{n-1}}$, 即自由度 ${\displaystyle n-1}$ 的 ${\displaystyle t}$ 分布. 给定 ${\displaystyle \alpha \in (0,1)}$, 从 t 分布表查出 ${\displaystyle \mathbb{P}(t_{n-1}>t_{n-1}\left(\frac{\alpha }{2}\right))}$ 的值 ${\displaystyle t_{n-1}\left(\frac{\alpha }{2}\right)}$. 根据 t 分布对称性, 它也满足 ${\displaystyle \mathbb{P}(|t_{n-1}|>t_{n-1}\left(\frac{\alpha }{2}\right))=\alpha }$. 从而, 当 ${\displaystyle |T|>t_{n-1}\left(\frac{\alpha }{2}\right)}$ 时拒绝 ${\displaystyle H_0}$, 否则接受 ${\displaystyle H_0}$.

这里 ${\displaystyle T}$ 称为一样本 t 统计量, 上述加粗的检验称为一样本 t 检验. ^[1]

1.1 单边情形

有些时候假设检验问题是单边形式 $$H_0:a\le a_0\leftrightarrow K:a>a_0.$$
这个时候只需要修改为 $$\ln LR(x_1,\cdots ,x_n)=\{\begin{array}{rlr}& {\left[\frac{\sum _{i=1}^n(x_i-a_0{)}^2}{\sum _{i=1}^n(x_i-\bar{x}{)}^2}\right]}^{\frac{n}{2}},& \bar{x}>a_0,\\ & 1,& \bar{x}\le a_0.\end{array}$$
从而当 ${\displaystyle 0<\alpha \le \frac{1}{2}}$ 时, 当 ${\displaystyle T>t_{n-1}(\alpha )}$ 时拒绝 ${\displaystyle H_0}$, 否则接受 ${\displaystyle H_0}$.

可以证明, 单/双边一样本 t 检验是检验问题的 UMPU检验.

2 对比试验的其他检验法

在 (1.1) 中当 ${\displaystyle a_0=0}$, 也即通常是两个组两两配对进行对比试验, 此时如果没有把握认为误差是正态的, 则需要其他检验方法.

2.1 符号检验

每对单元中有时候两个对比对象无法量化差距, 则可以定义"${\displaystyle +}$"为甲比乙好, "${\displaystyle -}$"为乙比甲好, ${\displaystyle 0}$ 为难以区别. 我们根据各种符号的多少来检验"甲乙一样"这个假设.
设有 ${\displaystyle n}$ 对单元, "${\displaystyle +}$"出现了 ${\displaystyle n_{+}}$ 次, "${\displaystyle -}$"出现了 ${\displaystyle n_{-}}$ 次, 其余为 "${\displaystyle 0}$". 如果甲乙一样, 则在非零的 ${\displaystyle n^{\prime }=n_{+}+n_{-}}$ 个结果中, 每个是 ${\displaystyle +,-}$ 机会等同. 从而 ${\displaystyle n_{+}\sim \mathrm{Binom}(n^{\prime },\frac{1}{2})}$. 而如果甲乙确实不一样, 那取"${\displaystyle +}$"的概率为 ${\displaystyle p\ne \frac{1}{2}}$. 记 ${\displaystyle X=n_{+}}$, 则问题转化为 $$X\sim \mathrm{Binom}(n^{\prime },p)(p\in [0,1]),H_0:p=\frac{1}{2}\leftrightarrow H_1:p\ne \frac{1}{2}.$$
一个合适的检验为: ${\displaystyle |X-\frac{n^{\prime }}{2}|>C}$ 时, 否定 ${\displaystyle H_0}$, 否则接受.
当然也可以替换为单边的检验, 这里略去.

2.2 Fisher 置换检验

这里我们对所有的 ${\displaystyle A-B}$ 进行了符号的置换, 得到各种排列组合, 因此称为置换检验.
事实上在 ${\displaystyle n}$ 很大的时候, 置换检验就可以简化为通常的 t 检验.

3 两样本 t 检验

设 ${\displaystyle X_1,\cdots ,X_m\sim \mathcal{N}(a,{\sigma }^2)}$, ${\displaystyle Y_1,\cdots ,Y_n\sim \mathcal{N}(b,{\sigma }^2)}$, 且全体样本独立. 这里 ${\displaystyle a,b,\sigma }$ 未知. 注意方差相同. 考虑 $$\begin{array}{}\text{(3.1)}& H_0:a=b\leftrightarrow H_1:a\ne b.\end{array}$$

可以证明它是 UMPU 检验. 这里 ${\displaystyle T_1}$ 称为两样本统计量, 上述检验称为两样本 t 检验.

如果是检验 ${\displaystyle H_0:a-b=c\leftrightarrow H_1:a-b\ne c}$, 则只需在 ${\displaystyle T_1}$ 中把 ${\displaystyle \bar{X}-\bar{Y}}$ 改成 ${\displaystyle \bar{X}-\bar{Y}-c}$.

3.1 单边情形

如果是 ${\displaystyle H_0:a-b\le 0\leftrightarrow H_1:a-b>0}$, 则 $$LR(x,y)=\{\begin{array}{rlr}& 1,& \bar{y}\ge \bar{x},\\ & {\left(\frac{S_2}{S_1}\right)}^{\frac{m+n}{2}},& \bar{y}<\bar{x}.\end{array}$$

因此若 ${\displaystyle \alpha \le \frac{1}{2}}$, 则有否定域 ${\displaystyle T_1>t_{m+n-2}(\alpha )}$.

如果方差不同且未知, 这个问题将在 这里 讨论.

4 两样本问题的其他检验法

4.1 置换检验法

和 置换检验的例子类似. 把两种处理的全部试验结果, 即 ${\displaystyle X_1,\cdots ,X_m,Y_1,\cdots ,Y_n}$ 改为 ${\displaystyle Z_1,\cdots ,Z_{m+n}}$. 如果两种处理无差别, 则 ${\displaystyle Z_1,\cdots ,Z_{m+n}}$ 的差别来自于这 ${\displaystyle m+n}$ 个试验单元的分配, 有 ${\displaystyle (\genfrac{}{}{0ex}{}{m+n}{m})}$ 种. 每种分配下都计算 $$g=\frac{1}{m}(\text{甲处理试验值之和})-\frac{1}{n}(\mathrm{乙}\mathrm{处}\mathrm{理}\mathrm{试}\mathrm{验}\mathrm{值}\mathrm{之}\mathrm{和}),$$ 一共有 ${\displaystyle N=(\genfrac{}{}{0ex}{}{m+n}{m})}$ 个值: ${\displaystyle g_1,g_2,\cdots ,g_N}$. (${\displaystyle |g_1|\ge \cdots \ge |g_N|}$) 根据实际样本算出 ${\displaystyle g^{\ast }=\bar{X}-\bar{Y}}$. 给定水平 ${\displaystyle \alpha }$ 后, 检验方法为 当 ${\displaystyle |g^{\ast }|>|g_{[N_{\alpha }]}|}$ 时拒绝 ${\displaystyle H_0}$, 否则接受.
如果是单边, 则改为直接按照原始值排序, 而非绝对值.

4.2 Wilcoxon 秩和检验

回到假设 (3.1). 记 ${\displaystyle \theta =b-a}$, 第一总体 ${\displaystyle \mathcal{N}(a,{\sigma }^2)}$ 的分布函数为 ${\displaystyle F(x)}$, 则第二总体 ${\displaystyle \mathcal{N}(b,{\sigma }^2)}$ 的可以表示为 ${\displaystyle F(x-\theta )}$. 如果我们免除 ${\displaystyle F(x)}$ 是正态分布这一假设, 把它当作完全未知的, 则得到这样一个问题: ${\displaystyle X_1,\cdots ,X_m\sim F(x)}$, ${\displaystyle Y_1,\cdots ,Y_n\sim F(x-\theta )}$, 检验 $$H_0:\theta =0\leftrightarrow H_1:\theta \ne 0.$$ (${\displaystyle F}$ 完全未知.)
假设 ${\displaystyle X_1,\cdots ,X_m,Y_1,\cdots ,Y_n}$ 两两不同, 排列为 ${\displaystyle Z_1<\cdots <Z_N}$, ${\displaystyle N=m+n}$, 则每个 ${\displaystyle Y_i}$ 必是序列中的某一个, 记 ${\displaystyle Y_i=Z_{R_i}}$. 称 ${\displaystyle Y_i}$ 在合并的样本中的秩为 ${\displaystyle R_i}$.
记 ${\displaystyle W=R_1+\cdots +R_n}$ 为Wilcoxon 两样本秩和统计量. ^[2]
现在这样推理: 每个 ${\displaystyle R_i}$ 可取 ${\displaystyle 1,\cdots ,N}$ 为值, 平均值为 ${\displaystyle \frac{1}{N}(1+\cdots +N)=\frac{N+1}{2}}$. 若 ${\displaystyle \theta =0}$, 样本来自同一分布, 则 ${\displaystyle W}$ 应该在平均值 ${\displaystyle n\cdot \frac{N+1}{2}}$ 附近; 如果 ${\displaystyle \theta >0}$, 则 ${\displaystyle W}$ 会更大; 若 ${\displaystyle \theta <0}$, 则 ${\displaystyle W}$ 会更小. 总之, ${\displaystyle \theta \ne 0}$ 时, ${\displaystyle |W-\frac{n(N+1)}{2}|}$ 倾向于大值. 因此我们的检验规则是: 当 ${\displaystyle |W-n\frac{n(N+1)}{2}|>C}$ 时拒绝 ${\displaystyle \theta =0}$, 否则接受.
确定 ${\displaystyle C}$: 事实上, 当 ${\displaystyle m,n}$ 较大, ${\displaystyle C\approx u_{\frac{\alpha }{2}}\sqrt{\frac{1}{12}mn(N+1)}}$.

对于单边情形 ${\displaystyle H_0:\theta \le 0\leftrightarrow H-1:\theta >0}$, 修改为**${\displaystyle W-\frac{n(N+1)}{2}>C}$ 时拒绝 ${\displaystyle H_0}$ 否则接受**, ${\displaystyle C\approx u_{\alpha }\sqrt{\frac{1}{12}mn(N+1)}}$.

5 正态分布方差的检验

5.1 一样本情况

设 ${\displaystyle X_1,\cdots ,X_n\sim \mathcal{N}(a,{\sigma }^2)}$, ${\displaystyle a,\sigma }$ 未知. 考虑 $$\begin{array}{}\text{(5.1)}& H_0:{\sigma }^2={\sigma }_0^2\leftrightarrow H_1:{\sigma }^2\ne {\sigma }_0^2,\end{array}$$ 这里 ${\displaystyle {\sigma }_0>0}$ 已知. 对此给出似然比检验. 不难得出似然比为 $$LR(x_1,\cdots ,x_n)=(\mathrm{e}\xi {)}^{-\frac{n}{2}}{\mathrm{e}}^{\frac{\xi }{2}},\xi =\frac{1}{{\sigma }_0^2}\sum _{i=1}^n(x_i-\bar{x}{)}^2.$$ 而 ${\displaystyle \xi \sim {\chi }_{n-1}^2}$, 不难得到似然比检验**${\displaystyle k_1\le \xi \le k_2}$ 时接受 ${\displaystyle H_0}$, 否则拒绝它**, 其中 ${\displaystyle k_1,k_2}$ 是下面方程的解: $$\{\begin{array}{rl}& k_1^{\frac{n}{2}}{\mathrm{e}}^{-\frac{k_1}{2}}=k_2^{\frac{n}{2}}{\mathrm{e}}^{-\frac{k_2}{2}},\\ & \mathbb{P}({\chi }_{n-1}^2<k_1)+\mathbb{P}({\chi }_{n-1}^2>k_2)=\alpha .\end{array}$$
它不是 UMPU, 但是差距不大. 如果改第一个方程里的 ${\displaystyle n}$ 为 ${\displaystyle n-1}$, 则新的 ${\displaystyle k_1,k_2}$ 的似然比检验就是 UMPU. 但方程组一般不容易解, 所以我们取 $$k_1={\chi }_{n-1}^2(1-\frac{\alpha }{2}),k-2={\chi }_{n-1}^2\left(\frac{\alpha }{2}\right).$$

单侧情况 #？ .

5.2 两样本情况

设 ${\displaystyle X_1,\cdots ,X_m\sim \mathcal{N}(a,{\sigma }_1^2)}$, ${\displaystyle Y_1,\cdots ,Y_n\sim \mathcal{N}(b,{\sigma }_2^2)}$. ${\displaystyle a,b,{\sigma }_1^2,{\sigma }_2^2}$ 未知. 样本相互独立. 考虑 $$\begin{array}{}\text{(5.2)}& H_0:{\sigma }_1^2\le {\sigma }_2^2\leftrightarrow H_1:{\sigma }_1^2>{\sigma }_2^2\end{array}$$ 或者双边问题 $$\begin{array}{}\text{(5.3)}& H_0:{\sigma }_1^2={\sigma }_2^2\leftrightarrow H_1:{\sigma }_1^2\ne {\sigma }_2^2.\end{array}$$ 给出前者的似然比 $$F=\frac{(m-1{)}^{-1}\sum _{i=1}^m(X_i-\bar{X}{)}^2}{(n-1{)}^{-1}\sum _{j=1}^n(Y_j-\bar{Y}{)}^2}.$$ 原假设成立时 ${\displaystyle F\sim F_{m-1,n-1}}$. 定义 ${\displaystyle F_{m-1,n-1}(\alpha )}$ 满足 ${\displaystyle \mathbb{P}(F_{m-1,n-1}>F_{m-1,n-1}(\alpha ))=\alpha }$. 则问题变为当 ${\displaystyle F>F_{m-1,n-1}(\alpha )}$ 时拒绝 ${\displaystyle H_0}$, 否则接受.
对于后者 (5.3), 似然比为 $$LR(x_1,\cdots ,x_m,y_1,\cdots ,y_n)=C(1+F^{\ast }{)}^{\frac{n}{2}}{(1+\frac{1}{F^{\ast }})}^{\frac{m}{2}},$$ 这里 ${\displaystyle F^{\ast }=\frac{m-1}{n-1}F}$, ${\displaystyle F}$ 定义同上. 则似然比检验为当 ${\displaystyle f_1\le F\le f_2}$ 时接受 ${\displaystyle H_0}$, 否则拒绝. ${\displaystyle f_1,f_2}$ 是下面方程的解$$\begin{array}{r}\{\begin{array}{rl}& {(1+\frac{m-1}{n-1}{f}_1)}^{\frac{n}{2}}{(1+\frac{n-1}{(m-1)f_1})}^{\frac{m}{2}}={(1+\frac{m-1}{n-1}{f}_2)}^{\frac{n}{2}}{(1+\frac{n-1}{(m-1)f_2})}^{\frac{m}{2}}\\ & \mathbb{P}(F_{m-1,n-1}<f_1)+\mathbb{P}(F_{m-1,n-1}>f_2)=\alpha .\end{array}\end{array}$$
同样它不是 UMPU, 但是把 ${\displaystyle \frac{m}{2},\frac{n}{2}}$ 换成 ${\displaystyle \frac{m-1}{2},\frac{n-1}{2}}$ 就行. 方程组的解我们一般取 $$f_1=F_{m-1,n-1}(1-\frac{\alpha }{2}),f_2=F_{m-1,n-1}\left(\frac{\alpha }{2}\right).$$