第七章参数估计

type

status

date

slug

summary

Ch7 参数估计

参数是刻画总体某方面的概率特性的数量.

当这个数量是未知的时候，从总体抽出一个样本，用某种方法对这个未知参数进行估计就是参数估计.

e.g. 对，若未知，通过构造样本函数，给出它们的估计值（点估计）或取值范围（区间估计）就是参数估计的内容

Ch7.1 点估计法

点估计的思想方法

设总体的分布函数形式已知，但它含有一个或多个未知参数，设为总体的一个样本，构造个统计量（随机变量）

当测得一组样本值代入上述统计量，即可得到个数（数值）

称为未知参数的估计值.

对应的统计量为未知参数的估计量.

重点是：如何构造统计量以及评价估计量的好坏.

点估计方法

频率替换法
矩估计方法
最大似然估计法

频率替换法

利用事件在次试验中发生频率，作为事件发生的概率的估计量.

矩估计法

用样本的阶矩作为总体的阶矩的估计量，建立含有待估计参数的方程，从而可解出待估计参数.

设待估计参数，设总体的阶矩存在，记为 .

设为取自总体的一组样本，样本的阶矩存在，记为 .

令，这就是含未知数的方程组.

解方程组，得到个统计量：

我们称它们为未知参数的矩估计量.

代入一组样本值得到个数：

称为未知参数的矩估计值.

一般地，不论总体服从什么分布，总体期望与方差存在，则它们的矩估计量分别为

事实上，按矩法原理，

（）

部分例题暂略

Note: 则不能用估计.

Note: 注意矩估计不唯一的情况

最大似然估计法

使得一次试验就出现的事件有较大的概率的参数作为参数真值的估计. (概率最大的事件在一次实验中最可能发生.)

一般地，设为离散型随机变量，其分布律为

则样本的概率分布为

称为样本的似然函数.

若为连续型随机变量，取为的密度函数.

步骤

写出似然函数

求出，使得

若关于可微，则称下式（或取对数后再求偏导）为似然方程组.

解得，称之为参数的最大似然估计值.

相应的统计量称之为参数的最大似然估计量.

最大似然估计不变性原理

设是未知参数的最大近似估计，又是的连续函数，则是的最大似然估计.

应用举例：已知的最大似然估计，可算得和的最大似然估计和 .

PPT 例题/案例选摘

PPT 例题/案例选摘

Ch7.2 点估计的评价标准

对于同一个未知参数，不同的方法得到的估计量可能不同。

常用标准

无偏性
有效性
一致性

无偏性

DEF: 设是总体的样本，是总体参数的估计量，存在，且满足，则称是的无偏估计量.

总体阶矩的无偏估计量

样本均值是总体期望的无偏估计量.
样本二阶原点矩是总体二阶原点矩的无偏估计量.

总体方差的无偏估计量

设总体的期望与方差存在，是总体的样本，，则

证明：因为，则

Note: 由于样本矩是总体矩的无偏估计量，以及数学期望的线性性质，只要将未知参数表示成总体矩的线性函数，然后用样本矩作为总体矩的估计量，这样得到的未知参数的估计量即为无偏估计量。

有效性

DEF: 设都是总体参数的无偏估计量，且，则称比 更高效.

Note: 算术均值比加权均值更有效（见例题）.

Rao-Cramer 不等式

若是参数的无偏估计量，若

其中是总体的分布律函数（离散型）或概率密度函数（连续型），则称为方差的下界.

当时，称为达到方差下界的无偏估计量，此时称为最有效的估计量，简称有效估计量.

一致性（相合性）

设是总体参数的估计量. 若依概率收敛于，即，

则称是总体参数的一致（或相合）估计量.

一致性估计量仅在样本容量足够大时，才显示其优越性.

Note: 一致估计不要求无偏性，而有效性比较是建立在无偏性基础上.

Note: 样本阶矩是总体阶矩的一致估计量：. 即大数定律.

Note: 样本方差是总体方差的一致估计量.

Note: 样本二阶中心矩也是总体方差的一致估计量.

性质: 设是未知参数的无偏估计量，且，则是的一致估计量.

PPT 例题/案例选摘

无偏性

判断一个统计量是否为一个参数的无偏估计量：正态分布的线性组合、纠偏、

求参数的无偏估计量

有效性

算术均值比加权均值更有效

“哪个更有效”

一致性

Ch 7.3 区间估计

置信区间的定义

DEF: 设是一个待估计的参数，是来自总体的一个样本。若对给定的，存在和，使得

成立，则称区间是的置信度为的置信区间，和分别称为置信下限与置信上限，称为置信度或置信水平.

区间估计中需要注意的问题

不唯一性：确定后置信区间的选取方法不唯一，但常选区间长度较小的.

为什么选取？

当概率密度曲线对称时，在样本容量固定的条件下，对平分所得到的置信区间最短.
区间长度更小，其中抽取一个值和真实值更接近，我们显然希望它越短越好.

估计精度：置信区间的长度反映了估计的精度.

可靠度：反映了估计的可靠程度，越小，可靠程度越高.

我们无法在样本容量固定的条件下，同时提高区间的可靠度和估计精度.

原则：一般先保证可靠度. 在保证可靠度的基础上，再提高精度.

提高精度的方法：增大样本容量.

求置信区间的步骤

构造一个样本的函数（含有待估参数，不含其它未知参数，其分布已知，且分布不依赖于待估计参数），即枢轴量（注意这虽然是随机变量，但不是统计量）：

给定置信度，确定两个常数使得

由解出下式，得到置信区间 .

正态总体下置信区间求解：一个正态总体下参数的置信区间

设正态总体，为一组样本，分别为样本均值和样本方差，置信度 .

已知，求的置信区间.

枢轴量

未知，求的置信区间.

枢轴量

已知，求的置信区间.

枢轴量

偏态分布，为方便起见，仍取

未知，求的置信区间.

枢轴量

Note: 记住四个枢轴量、分位数写法即可，无需死记区间结论.