第 7 章　参数估计

先验证密度（顺手检查定义域）：\(\int_0^{1}(\theta+1)x^{\theta}\,dx=(\theta+1)\cdot\dfrac{1}{\theta+1}=1\)，合法。

总体一阶矩：

\[ E(X)=\int_0^{1}x\cdot(\theta+1)x^{\theta}\,dx=(\theta+1)\int_0^{1}x^{\theta+1}\,dx=(\theta+1)\cdot\frac{1}{\theta+2}=\frac{\theta+1}{\theta+2} \]

建立方程并求解：令 \(\dfrac{\theta+1}{\theta+2}=\bar{X}\)，去分母：

\[ \theta+1=(\theta+2)\bar{X} \ \Rightarrow\ \theta(1-\bar{X})=2\bar{X}-1 \ \Rightarrow\ \hat{\theta}=\frac{2\bar{X}-1}{1-\bar{X}} \]

易错：解方程时去分母出错。可代回检验：若 \(\bar{X}=\frac{1}{2}\)，则 \(\hat{\theta}=0\)，密度退化为均匀密度 \(f=1\)，其期望恰为 \(\frac{1}{2}\)，自洽。

泊松分布 \(E(X)=D(X)=\lambda\)，只有一个参数，用一阶矩即可：

\[ \mu_1=E(X)=\lambda=A_1=\bar{X}\ \Rightarrow\ \hat{\lambda}=\bar{X} \]

(2) 代入样本值：\(\hat{\lambda}=\bar{x}=\dfrac{180}{60}=3\)。

套路总结：常见总体的期望方差必须背熟——\(B(1,p)\) 期望 \(p\)；\(P(\lambda)\) 期望方差都是 \(\lambda\)；\(U(a,b)\) 期望 \(\frac{a+b}{2}\)、方差 \(\frac{(b-a)^2}{12}\)；指数 \(E(\theta)\)（均值参数）期望 \(\theta\)、方差 \(\theta^{2}\)；\(N(\mu,\sigma^{2})\) 期望 \(\mu\)、方差 \(\sigma^{2}\)。矩估计题的下半场全靠它们。

两个参数，列前两阶原点矩方程：

\[ \mu_1=E(X)=\mu=A_1=\bar{X} \]

\[ \mu_2=E(X^{2})=D(X)+[E(X)]^{2}=\sigma^{2}+\mu^{2}=A_2=\frac{1}{n}\sum_{i=1}^{n}X_i^{2} \]

第一式代入第二式：

\[ \hat{\sigma}^{2}=\frac{1}{n}\sum_{i=1}^{n}X_i^{2}-\bar{X}^{2}=\frac{1}{n}\sum_{i=1}^{n}(X_i-\bar{X})^{2} \]

（最后一步用恒等式 \(\sum(X_i-\bar{X})^{2}=\sum X_i^{2}-n\bar{X}^{2}\)。）

故 \(\hat{\mu}=\bar{X}\)，\(\hat{\sigma}^{2}=\dfrac{1}{n}\sum(X_i-\bar{X})^{2}\)。注意分母是 \(n\) 不是 \(n-1\)：矩估计的方差与样本方差 \(S^{2}\) 不同，7.3 节将证明 \(E\!\left[\frac{1}{n}\sum(X_i-\bar{X})^{2}\right]=\frac{n-1}{n}\sigma^{2}\neq\sigma^{2}\)，它是有偏的。

(1) \(E(X)=\int_0^{\theta}x\cdot\dfrac{2x}{\theta^{2}}\,dx=\dfrac{2}{\theta^{2}}\cdot\dfrac{\theta^{3}}{3}=\dfrac{2\theta}{3}\)。

令 \(\dfrac{2\theta}{3}=\bar{X}\)，解得 矩估计量 \(\hat{\theta}_{矩}=\dfrac{3\bar{X}}{2}\)。

样本均值 \(\bar{x}=\dfrac{0.5+0.8+1.1+0.9+1.4}{5}=\dfrac{4.7}{5}=0.94\)，矩估计值 \(\hat{\theta}_{矩}=\dfrac{3\times 0.94}{2}=1.41\)。

(2) 似然函数（连续总体，密度连乘）：

\[ L(\theta)=\prod_{i=1}^{n}\frac{2x_i}{\theta^{2}}=\frac{2^{n}\prod x_i}{\theta^{2n}},\qquad 0\lt x_i\lt\theta\ (i=1,\dots,n) \]

\[ \ln L(\theta)=n\ln 2+\sum_{i=1}^{n}\ln x_i-2n\ln\theta \]

求导：\(\dfrac{d\ln L}{d\theta}=-\dfrac{2n}{\theta}\lt 0\) 对一切 \(\theta\gt 0\) 成立，似然函数单调递减，无驻点。此时 \(\theta\) 越小 \(L\) 越大，但约束条件要求 \(\theta\gt x_i\) 对所有 \(i\) 成立，即 \(\theta\ge\max\{x_i\}\)。故取

\[ \hat{\theta}_{MLE}=\max\{X_1,\dots,X_n\} \]

代入样本值：\(\hat{\theta}_{MLE}=1.4\)（最大的那个观察值）。

易错：似然方程无解时不能答「最大似然估计不存在」——单调情形在边界（样本最大值）处取得最大值，这正是最大似然的经典陷阱。

套路总结：同一参数的矩估计与最大似然估计一般不相等（本题 1.41 与 1.4），但都是合法估计。真题常让考生两种方法都求，注意最后分别代入数值。

① 构造似然函数（分布律连乘）：

\[ L(\lambda)=\prod_{i=1}^{n}\frac{\lambda^{x_i}e^{-\lambda}}{x_i!}=e^{-n\lambda}\lambda^{\sum x_i}\Big/\prod_{i=1}^{n}x_i! \]

② 取对数：

\[ \ln L(\lambda)=-n\lambda+\Big(\sum_{i=1}^{n}x_i\Big)\ln\lambda-\sum_{i=1}^{n}\ln(x_i!) \]

③ 求导并令其为零：

\[ \frac{d\ln L}{d\lambda}=-n+\frac{\sum x_i}{\lambda}=0 \ \Rightarrow\ \hat{\lambda}=\frac{1}{n}\sum_{i=1}^{n}x_i=\bar{X} \]

④ 验证：\(\dfrac{d^{2}\ln L}{d\lambda^{2}}=-\dfrac{\sum x_i}{\lambda^{2}}\lt 0\)，故 \(\hat{\lambda}=\bar{X}\) 确使 \(\ln L\) 最大。且 \(\lambda\to 0^{+}\) 或 \(\lambda\to+\infty\) 时 \(L\to 0\)，最大值在内部驻点取得。

结论：\(\hat{\lambda}_{MLE}=\bar{X}\)，与矩估计相同。

① 似然函数：

\[ L(\lambda)=\prod_{i=1}^{n}\lambda e^{-\lambda x_i}=\lambda^{n}e^{-\lambda\sum x_i},\qquad x_i\gt 0 \]

② 取对数：\(\ln L(\lambda)=n\ln\lambda-\lambda\sum x_i\)。

③ 求导：

\[ \frac{d\ln L}{d\lambda}=\frac{n}{\lambda}-\sum x_i=0\ \Rightarrow\ \hat{\lambda}=\frac{n}{\sum X_i}=\frac{1}{\bar{X}} \]

④ 验证：\(\dfrac{d^{2}\ln L}{d\lambda^{2}}=-\dfrac{n}{\lambda^{2}}\lt 0\)，是最大值点。

不变性求事件的估计：\(P\{X\gt 2\}=\int_2^{+\infty}\lambda e^{-\lambda x}dx=e^{-2\lambda}\)，它是 \(\lambda\) 的函数 \(g(\lambda)\)。由最大似然的不变性原理，\(g(\lambda)\) 的最大似然估计就是 \(g(\hat{\lambda})\)：

\[ \widehat{P\{X\gt 2\}}=e^{-2\hat{\lambda}}=e^{-2/\bar{X}} \]

① 似然函数：

\[ L(\mu,\sigma^{2})=\prod_{i=1}^{n}\frac{1}{\sqrt{2\pi}\sigma}\exp\!\Big[-\frac{(x_i-\mu)^{2}}{2\sigma^{2}}\Big]=(2\pi)^{-\frac{n}{2}}(\sigma^{2})^{-\frac{n}{2}}\exp\!\Big[-\frac{1}{2\sigma^{2}}\sum_{i=1}^{n}(x_i-\mu)^{2}\Big] \]

② 取对数：

\[ \ln L=-\frac{n}{2}\ln(2\pi)-\frac{n}{2}\ln\sigma^{2}-\frac{1}{2\sigma^{2}}\sum_{i=1}^{n}(x_i-\mu)^{2} \]

③ 分别对 \(\mu\)、\(\sigma^{2}\) 求偏导并令其为零：

\[ \frac{\partial\ln L}{\partial\mu}=\frac{1}{\sigma^{2}}\sum_{i=1}^{n}(x_i-\mu)=0\ \Rightarrow\ \hat{\mu}=\frac{1}{n}\sum x_i=\bar{X} \]

\[ \frac{\partial\ln L}{\partial\sigma^{2}}=-\frac{n}{2\sigma^{2}}+\frac{1}{2\sigma^{4}}\sum_{i=1}^{n}(x_i-\mu)^{2}=0\ \Rightarrow\ \hat{\sigma}^{2}=\frac{1}{n}\sum_{i=1}^{n}(x_i-\hat{\mu})^{2}=\frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})^{2} \]

（第二个方程中的 \(\mu\) 用第一个方程的结果 \(\hat{\mu}=\bar{x}\) 代入。）由实际问题含义或二阶条件可验证这是最大值点。

结论：\(\hat{\mu}=\bar{X}\)，\(\hat{\sigma}^{2}=\dfrac{1}{n}\sum(X_i-\bar{X})^{2}\)。正态总体下最大似然估计与矩估计完全一致，且 \(\hat{\sigma}^{2}\) 与 \(S^{2}\) 差一个因子 \(\frac{n-1}{n}\)。

易错：对 \(\sigma\) 求导与对 \(\sigma^{2}\) 求导结果形式不同，建议把 \(\sigma^{2}\) 看作整体变量 \(\tau\)，如上处理最不易错。

密度 \(f(x;\theta)=\begin{cases}\dfrac{1}{\theta}, & 0\le x\le\theta,\\ 0, & \text{其他.}\end{cases}\)

似然函数：

\[ L(\theta)=\prod_{i=1}^{n}\frac{1}{\theta}=\frac{1}{\theta^{n}},\qquad \text{要求 } 0\le x_i\le\theta\ \text{对一切 } i \text{ 成立} \]

即 \(\theta\) 的可行范围是 \(\theta\ge\max\{x_1,\dots,x_n\}\)。在该范围上 \(L(\theta)=\theta^{-n}\) 关于 \(\theta\) 严格递减，没有驻点；\(L\) 在可行域左端点 \(\theta=\max\{x_i\}\) 处取得最大值。故

\[ \hat{\theta}_{MLE}=\max\{X_1,\dots,X_n\} \]

说明：若 \(\theta\lt\max x_i\)，则必有某个样本点密度为 0，\(L=0\)；若 \(\theta\gt\max x_i\)，则 \(L=\theta^{-n}\lt(\max x_i)^{-n}\)。故最大值只能在 \(\theta=\max x_i\) 取得。

套路总结：支撑区间含未知参数的密度（均匀、平移指数等），其最大似然估计几乎都是样本最大值或最小值，且必须写出「似然函数在边界取得最大」的理由，这是大题得分点。

结论（不变性原理）：是。若 \(\hat{\theta}\) 最大化 \(L(\theta)\)，则对 \(g(\theta)=\varphi\)（一一对应），参数空间随之一一映射，\(L\) 的最大值点对应 \(\varphi=g(\hat{\theta})\)，故 \(\widehat{g(\theta)}=g(\hat{\theta})\)。

应用：\(\sigma^{2}\) 的最大似然估计为 \(\hat{\sigma}^{2}=\dfrac{1}{n}\sum(X_i-\bar{X})^{2}\)，由不变性（\(\sigma=\sqrt{\sigma^{2}}\) 是一一对应函数），

\[ \hat{\sigma}=\sqrt{\hat{\sigma}^{2}}=\sqrt{\frac{1}{n}\sum_{i=1}^{n}(X_i-\bar{X})^{2}} \]

同理：总体 \(X\sim P(\lambda)\) 时 \(P\{X=0\}=e^{-\lambda}\) 的最大似然估计直接写 \(e^{-\bar{X}}\)，不必重新构造似然函数。

矩估计：\(E(X)=\int_0^{1}x\cdot\theta x^{\theta-1}\,dx=\theta\int_0^{1}x^{\theta}\,dx=\dfrac{\theta}{\theta+1}\)。

令 \(\dfrac{\theta}{\theta+1}=\bar{X}\)，解得 \(\theta=\bar{X}(\theta+1)\Rightarrow\theta(1-\bar{X})=\bar{X}\Rightarrow\hat{\theta}_{矩}=\dfrac{\bar{X}}{1-\bar{X}}\)。

最大似然估计：

\[ L(\theta)=\prod_{i=1}^{n}\theta x_i^{\theta-1}=\theta^{n}\Big(\prod_{i=1}^{n}x_i\Big)^{\theta-1} \]

\[ \ln L=n\ln\theta+(\theta-1)\sum_{i=1}^{n}\ln x_i \]

\[ \frac{d\ln L}{d\theta}=\frac{n}{\theta}+\sum_{i=1}^{n}\ln x_i=0\ \Rightarrow\ \hat{\theta}_{MLE}=-\frac{n}{\sum\limits_{i=1}^{n}\ln X_i} \]

由 \(0\lt x_i\lt 1\) 知 \(\ln x_i\lt 0\)，故 \(\hat{\theta}_{MLE}\gt 0\) 合法；又 \(\dfrac{d^{2}\ln L}{d\theta^{2}}=-\dfrac{n}{\theta^{2}}\lt 0\)，确为最大值点。

易错：此密度似然函数连乘后出现 \(x_i^{\theta-1}\) 的乘积，必须把指数乘积写成 \(\big(\prod x_i\big)^{\theta-1}\) 再取对数成 \((\theta-1)\sum\ln x_i\)，这一步是本题的唯一坎。

(1) 由定理，\(E(S^{2})=\sigma^{2}\)，\(S^{2}\) 是无偏估计。

(2) \(E(T)=\dfrac{n-1}{n}\sigma^{2}\neq\sigma^{2}\)，\(T\) 不是无偏估计（只是渐进无偏）。

(3) \(E(cT)=c\cdot\dfrac{n-1}{n}\sigma^{2}\)，令其等于 \(\sigma^{2}\)：\(c=\dfrac{n}{n-1}\)。（验证：\(\dfrac{n}{n-1}\cdot\dfrac{1}{n}\sum(X_i-\bar{X})^{2}=S^{2}\)，一致。）

套路总结：判断无偏性就是老老实实算期望，「求常数 \(c\) 使 \(c\hat{\theta}\) 无偏」是固定套路：\(c=\theta/E(\hat{\theta})\) 中与 \(c\) 有关的因子，即令 \(c\,E(\hat{\theta})=\theta\) 解出。

(1) 由独立性（不同样本）与 \(E(X_i)=\mu\)：

\[ E(\hat{\mu}_1)=\mu,\qquad E(\hat{\mu}_2)=\frac{\mu+\mu}{2}=\mu,\qquad E(\hat{\mu}_3)=\frac{\mu+2\mu}{3}=\mu \]

三个都是无偏估计。

(2) 方差：

\[ D(\hat{\mu}_1)=\sigma^{2} \]

\[ D(\hat{\mu}_2)=\frac{1}{4}\big[D(X_1)+D(X_2)\big]=\frac{\sigma^{2}}{2} \]

\[ D(\hat{\mu}_3)=\frac{1}{9}\big[D(X_1)+4D(X_2)\big]=\frac{5\sigma^{2}}{9} \]

比较：\(\dfrac{5}{9}\approx 0.556\gt\dfrac{1}{2}=0.5\)，故 \(D(\hat{\mu}_2)\lt D(\hat{\mu}_3)\lt D(\hat{\mu}_1)\)，\(\hat{\mu}_2\) 最有效（等权平均是线性组合中方差最小者）。

易错：有效性比较的前提是两者都无偏。若一个有偏一个无偏，不能只看方差直接比，此概念辨析是选择题常客。

(1) \(X_1,\dots,X_n\) 独立同分布且期望 \(\mu\) 有限，由辛钦大数定律：

\[ \bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_i\stackrel{P}{\longrightarrow}\mu \]

即 \(\bar{X}\) 是 \(\mu\) 的相合估计。（同理 \(\frac{1}{n}\sum X_i^{k}\stackrel{P}{\to}E(X^{k})\)，故矩估计一般都是相合的。）

(2) 对任意 \(\varepsilon\gt 0\)（不妨设 \(\varepsilon\lt\theta\)），注意 \(X_{(n)}\le\theta\) 恒成立，故

\[ P\{|X_{(n)}-\theta|\ge\varepsilon\}=P\{X_{(n)}\le\theta-\varepsilon\}=\prod_{i=1}^{n}P\{X_i\le\theta-\varepsilon\}=\Big(\frac{\theta-\varepsilon}{\theta}\Big)^{n}\longrightarrow 0\quad(n\to\infty) \]

（每个 \(X_i\sim U(0,\theta)\)，\(P\{X_i\le\theta-\varepsilon\}=\dfrac{\theta-\varepsilon}{\theta}\lt 1\)，\(n\) 次方趋于 0。）故 \(X_{(n)}\stackrel{P}{\to}\theta\)，是相合估计。

套路总结：证相合性的两条路——样本均值型用辛钦大数定律直接引用；顺序统计量型求出精确概率再取极限。

(1) 无偏性。已知 \(E(X_i)=\dfrac{\theta}{2}\)，\(D(X_i)=\dfrac{\theta^{2}}{12}\)。

\[ E(\hat{\theta}_1)=2E(\bar{X})=2\cdot\frac{\theta}{2}=\theta \]

求 \(X_{(n)}\) 的期望：其分布函数 \(F_{X_{(n)}}(z)=P\{X_{(n)}\le z\}=\Big(\dfrac{z}{\theta}\Big)^{n}\)（\(0\le z\le\theta\)），密度为 \(\dfrac{n z^{n-1}}{\theta^{n}}\)。

\[ E(X_{(n)})=\int_0^{\theta}z\cdot\frac{nz^{n-1}}{\theta^{n}}\,dz=\frac{n}{\theta^{n}}\cdot\frac{\theta^{n+1}}{n+1}=\frac{n\theta}{n+1} \]

\[ E(\hat{\theta}_2)=\frac{n+1}{n}\cdot\frac{n\theta}{n+1}=\theta \]

两者都无偏。

(2) 有效性。

\[ D(\hat{\theta}_1)=4D(\bar{X})=4\cdot\frac{1}{n}\cdot\frac{\theta^{2}}{12}=\frac{\theta^{2}}{3n} \]

\[ E(X_{(n)}^{2})=\int_0^{\theta}z^{2}\frac{nz^{n-1}}{\theta^{n}}\,dz=\frac{n\theta^{2}}{n+2},\qquad D(X_{(n)})=\frac{n\theta^{2}}{n+2}-\frac{n^{2}\theta^{2}}{(n+1)^{2}}=\frac{n\theta^{2}}{(n+2)(n+1)^{2}} \]

\[ D(\hat{\theta}_2)=\frac{(n+1)^{2}}{n^{2}}\cdot\frac{n\theta^{2}}{(n+2)(n+1)^{2}}=\frac{\theta^{2}}{n(n+2)} \]

比较分母：\(n(n+2)\ge 4n\gt 3n\)（\(n\ge 2\)），故 \(D(\hat{\theta}_2)\lt D(\hat{\theta}_1)\)，\(\hat{\theta}_2\) 更有效。

(3) 相合性。由辛钦大数定律 \(\bar{X}\stackrel{P}{\to}\dfrac{\theta}{2}\)，由依概率收敛的连续函数定理（Slutsky 定理特例）：

\[ \hat{\theta}_1=2\bar{X}\stackrel{P}{\longrightarrow}2\cdot\frac{\theta}{2}=\theta \]

故 \(\hat{\theta}_1\) 是 \(\theta\) 的相合估计。（\(\hat{\theta}_2\) 的相合性由例 13(2) 与同样道理可得。）

易错：\(X_{(n)}\) 的密度公式 \(\dfrac{nz^{n-1}}{\theta^{n}}\) 与其分布函数求导要一致；\(D(X_{(n)})\) 的代数化简是本题计算量所在——通分时分母 \((n+2)(n+1)^{2}\)，分子 \(n(n+1)^{2}-n^{2}(n+2)=n\)，动笔逐步核验。

\(\sigma^{2}=36\) 已知，用 \(Z\) 枢轴量。标准差：\(\dfrac{\sigma}{\sqrt{n}}=\dfrac{6}{\sqrt{36}}=1\)。

\[ \Big(\bar{x}\pm z_{0.025}\frac{\sigma}{\sqrt{n}}\Big)=(1000\pm 1.96\times 1)=(998.04,\ 1001.96) \]

即以 95% 的置信度认为平均长度在 998.04 mm 到 1001.96 mm 之间。

套路总结：区间长度 \(L=2z_{\alpha/2}\dfrac{\sigma}{\sqrt{n}}\)。若要求长度不超过给定值，反解出 \(n\ge\Big(\dfrac{2z_{\alpha/2}\sigma}{L}\Big)^{2}\)，向上取整——填空高频模型。

\(\sigma\) 未知，用 \(T=\dfrac{\bar{X}-\mu}{S/\sqrt{n}}\sim t(n-1)=t(15)\)。

\[ t_{0.025}(15)\frac{s}{\sqrt{n}}=2.131\times\frac{2}{\sqrt{16}}=2.131\times 0.5=1.0655 \]

\[ (10\pm 1.0655)=(8.934,\ 11.066)\approx(8.93,\ 11.07) \]

易错：\(\sigma\) 未知却仍用 \(Z\) 分位数 1.96 是最常见错误；t 分布自由度是 \(n-1=15\) 不是 16，查表看清。

枢轴量 \(\dfrac{(n-1)S^{2}}{\sigma^{2}}\sim\chi^{2}(15)\)。

\[ \Big(\frac{(n-1)s^{2}}{\chi_{0.025}^{2}(15)},\ \frac{(n-1)s^{2}}{\chi_{0.975}^{2}(15)}\Big)=\Big(\frac{15\times 4}{27.488},\ \frac{15\times 4}{6.262}\Big) \]

\[ =\Big(\frac{60}{27.488},\ \frac{60}{6.262}\Big)=(2.183,\ 9.582) \]

易错：\(\chi^{2}\) 区间不对称，两个分位数「交叉」放置——大的 \(\chi_{0.025}^{2}\) 对应区间下限。若把顺序颠倒，区间会反向，直接零分。

方差已知，用 \(Z\)：

\[ \bar{x}-\bar{y}=2,\qquad \sqrt{\frac{\sigma_1^{2}}{n_1}+\frac{\sigma_2^{2}}{n_2}}=\sqrt{\frac{25}{50}+\frac{25}{50}}=\sqrt{1}=1 \]

\[ (2\pm 1.96\times 1)=(0.04,\ 3.96) \]

该区间整个位于原点右侧（下限 \(0.04\gt 0\)），故以 95% 置信度认为 \(\mu_1-\mu_2\gt 0\)，即甲工艺指标均值显著高于乙。

套路总结：双侧置信区间与双侧检验对偶——区间不含 0 就等价于在水平 \(\alpha\) 下拒绝「\(\mu_1=\mu_2\)」，第 8 章假设检验将反复使用这一思想。