3.4 似然比检验

似然比检验是一种基于直观构建出来的方法, 一般来说有良好的性质, 但并不总是最优的检验(如 UMP, UMPU 检验). 另外, 它对分布族形式没有要求, 适用面很广.

1 似然比检验的定义

似然比似然比检验

设 $X$ 有概率函数 $f (x, θ) (θ \in Θ)$ , $Θ_{H}$ 为 $Θ$ 的非空真子集. 考虑前面的假设检验问题(1.1), 定义统计量 $\begin{matrix} (1.1) & L R (x) = \frac{sup_{θ \in Θ} f (x, θ)}{sup_{θ \in Θ_{H}} f (x, θ)} \end{matrix}$ 为该检验问题的似然比. 这样的检验函数 $\begin{matrix} (1.2) & φ (x) = {\begin{aligned} 1, L R (x) > C, \\ γ, L R (x) = C, \\ 0, L R (x) < C \end{aligned} \end{matrix}$ 称为一个似然比检验.

X_{1}, \dots, X_{n} \sim N (θ, 1)

H : θ = θ_{0} \leftrightarrow K : θ \neq θ_{0}

θ_{0}

给定.

此时 $f (x_{1}, \dots, x_{n}, θ) = \frac{1}{(2 π)^{\frac{n}{2}}} \exp [- \frac{1}{2} \sum_{i = 1}^{n} (x_{i} - θ)^{2}] .$ 显然 $\begin{aligned} sup_{θ \in Θ_{H}} f (x_{1}, \dots, x_{n}, θ) & = f (x_{1}, \dots, x_{n}, θ_{0}), \\ sup_{θ \in Θ} f (x_{1}, \dots, x_{n}, θ) & = f (x_{1}, \dots, x_{n}, \overset{―}{θ}) . \end{aligned}$ 故 $L R (x_{1}, \dots, x_{n}) = \exp [\frac{1}{2} n (\overset{―}{x} - θ_{0})^{2}]$ , 是关于 $| \overset{―}{x} - θ_{0} |$ 的严格单增函数, 因此有否定域 ${| \overset{―}{x} - θ_{0} | > C}$ . 若取水平 $α$ , $C = \frac{u_{α}}{\sqrt{n}}$ .

例子

回到 $χ^{2}$ 拟合优度检验的最简单情形, 相当于给定了 $p_{1}, \dots, p_{r} > 0$ , 和为 $1$ . 又有样本 $(ν_{1}, \dots, ν_{r})$ , 概率分布为 $P_{θ_{1} \dots θ_{r}} (ν_{1}, \dots, ν_{r}) = \frac{n!}{ν_{1}! \dots ν_{r}!} θ_{1}^{ν_{1}} \dots θ_{r}^{ν_{r}} .$ 要检验假设 $H : θ_{1} = p_{1}, \dots, θ_{r} = p_{r}$ . 这里

Θ = {(θ_{1}, \dots, θ_{r}) | θ_{i} \geq 0 (i = 1, \dots, r), \sum_{i = 1}^{r} θ_{i} = 1} .

$Θ_{H}$ 只包含一点 $(p_{1}, \dots, p_{r})$ . 简单计算得出 $L R (ν_{1}, \dots, ν_{r}) = \prod_{i = 1}^{r} {(\frac{ν_{i}}{n p_{i}})}^{ν_{i}} .$

这个结果显然和之前 K. Pearson 的 $χ^{2}$ 检验不同, 但是在渐近意义下 $(n \to \infty)$ , 两者等价.

2 似然比的渐近分布

Wilks

若 $\dim (Θ) - \dim (Θ_{H}) = t > 0$ , 则在原假设 $θ \in Θ_{H}$ 成立之下, 当 $n \to \infty$ 时, $2 \ln L R (X_{1}, \dots, X_{n})$ 有极限分布 $χ_{t}^{2}$ .

由此, 可以近似地决定 (1.2) 中的 $C, γ$ . 将 $2 \ln L R (X_{1}, \dots, X_{n})$ 的分布看成确切地等于 $χ_{t}^{2}$ , 应取 $C = \exp (\frac{1}{2} χ_{t}^{2} (α)), γ = 0.$
此时 $lim_{n \to \infty} β_{φ} (θ) = α, \forall θ \in Θ_{H}$ . 称 $φ$ 有渐近水平 $α$ .
用下面两个例子来验证定理的正确性.

例子

回到这个例子, $2 \ln L R (X_{1}, \dots, X_{n}) = n (\overset{―}{X} - θ_{0})^{2}$ . 当 $θ = θ_{0}$ 成立, $\sqrt{n} (\overset{―}{X} - θ_{0}) \sim N (0, 1) \Rightarrow n (\overset{―}{X} - θ_{0})^{2} \sim χ_{1}^{2}$ , $t = 1 - 0 = 1$ , 符合定理.
回到这个例子, 记 $μ_{i} = ν_{i} - n p_{i}$ . 则 $\sum_{i = 1}^{r} μ_{i} = 0$ . 则 $\ln L R = \sum_{i = 1}^{r} ν_{i} \ln \frac{ν_{i}}{n p_{i}} = \sum_{i = 1}^{r} (n p_{i} + μ_{i}) \ln (1 + \frac{μ_{i}}{n p_{i}}) .$ 在原假设成立时, $\frac{ν_{i}}{n} \to p_{i} \Rightarrow \frac{μ_{i}}{n} \to 0, n \to \infty$ , 因此用 Taylor 展开 $\begin{aligned} \ln L R = & \sum_{i = 1}^{r} (n p_{i} + μ_{i}) [\frac{μ_{i}}{n p_{i}} - \frac{1}{2} {(\frac{μ_{i}}{n p_{i}})}^{2} + O (\frac{μ_{i}^{3}}{n^{3}})] \\ = & \frac{1}{2} \sum_{i = 1}^{r} \frac{μ_{i}^{2}}{n p_{i}} + O (\sum_{i = 1}^{r} \frac{μ_{i}^{3}}{n^{2}}) . \end{aligned}$
只需要证明 $\frac{μ_{i}^{3}}{n^{2}} \to 0$ . 事实上, 由中心极限定理: $\frac{μ_{i}}{\sqrt{n p_{i} (1 - p_{i})}} \to N (0, 1)$ , 故 $\frac{μ_{i}^{3}}{n^{2}} = \frac{1}{\sqrt{n}} \cdot \frac{μ_{i}^{3}}{n^{\frac{3}{2}}} \to 0$ , 于是 $2 \ln L R \to \sum_{i = 1}^{r} \frac{μ_{i}^{2}}{n p_{i}^{2}}$

把基于 $n \to \infty$ 时统计量极限分布够早的检验称为大样本检验. 在应用上它有着重要的意义. 例如, 两个总体的均值分别为 $θ_{1}, θ_{2}$ , 要检验 $H : θ_{1} = θ_{2} \leftrightarrow K : θ_{1} \neq θ_{2}$ . 在两个总体中分别抽出独立样本 $X_{1}, \dots, X_{n_{1}}$ 和 $Y_{1}, \dots, Y_{n_{2}}$ , 记样本均值分别为 $\overset{―}{X}, \overset{―}{Y}$ . 两个总体的方差为 $0 < σ_{1}^{2}, σ_{2}^{2} < \infty$ , 则根据中心极限定理, 如果 $H : θ_{1} = θ_{2}$ 成立, 则 $\frac{\overset{―}{X} - \overset{―}{Y}}{\sqrt{\frac{σ_{1}^{2}}{n_{1}} + \frac{σ_{2}^{2}}{n_{2}}}} \overset{d}{\to} N (0, 1) .$ 且 $S_{1}^{2} = \frac{1}{n_{1} - 1} \sum_{i = 1}^{n_{1}} (X_{i} - \overset{―}{X})^{2}, S_{2}^{2} = \frac{1}{n_{2} - 1} \sum_{i = 1}^{n_{2}} (Y_{i} - \overset{―}{Y})^{2}$ 是 $σ_{1}^{2}, σ_{2}^{2}$ 的相合估计. 这样我们把 $\frac{\overset{―}{X} - \overset{―}{Y}}{\sqrt{\frac{σ_{1}^{2}}{n_{1}} + \frac{σ_{2}^{2}}{n_{2}}}}$ 记为检验量 $T$ , 则 $| T | > u_{\frac{α}{2}}$ 渐近地有水平 $α$ .