《概率论期末考试第十九讲极大似然估计法.ppt》由会员分享，可在线阅读，更多相关《概率论期末考试第十九讲极大似然估计法.ppt（40页珍藏版）》请在三一办公上搜索。
1、教学目的 1.讲解极大似然估计法；2.讲解评价估计量优劣的三个标准。,教学内容：第六章，6.1-2；6.2。,第十九讲 极大似然估计法、估计量优劣的标准,极大似然估计法,思想方法：一次试验就出现的 事件有较大的概率,例如:有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球,现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.,答:第一箱.,问:所取的球来自哪一箱？,例6 设总体 X 服从0-1分布,且P(X=1)=p,用极大似然法求 p 的估计值.,解,总体 X 的概率分布为,设 x1,x2,xn为总体样本X1,X2,Xn的样本值,则,对于不
2、同的 p,L(p)不同,见右下图,现经过一次试验，,在容许范围内选择 p，使L(p)最大,注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大,则这个p 必使L(p)最大。,一般,设 X 为离散型随机变量,其分布律为,则样本 X1,X2,Xn的概率分布为,或,称 L()为样本的似然函数,称这样得到的,为参数 的极大似然估计值,称统计量,为参数 的极大似然估计量,极大似然法的思想,简记,简记,若 X 连续,取 f(xi,)为Xi 的密度函数,似然函数为,注1,注2,未知参数可以不止一个,如1,k,设X 的密度(或分布)为,则定义似然函数为,为似然方程组,若对于某组给定的样
3、本值 x1,x2,xn，参数 使似然函数取得最大值,即,显然，,称统计量,为1,2,k 的极大似然估计量,例7 设总体 X N(,2),x1,x2,xn 是 X 的样本值,求,2 的极大似然估计.,解,2 的极大似然估计量分别为,极大似然估计方法,1）写出似然函数 L,可得未知参数的极大似然估计值,然后,再求得极大似然估计量.,L是 的可微函数,解似然方程组,若,L不是 的可微函数,需用其它方法求极大似然估计值.请看下例：,若,例8 设 X U(a,b),x1,x2,xn 是 X 的一个样本值,求 a,b 的极大似然估计值与极大似然估计量.,似然函数为,似然函数只有当 a xi b,i=1,2
4、,n 时才能获得最大值,且 a 越大,b 越小,L 越大.,令,xmin=min x1,x2,xnxmax=max x1,x2,xn,取,都有,故,是 a,b 的极大似然估计值.,分别是 a,b 的极大似然估计量.,问 题,1)待估参数的极大似然估计是否一定存在?,2)若存在,是否唯一?,设 X U(a,a+),x1,x2,xn 是 X的一个样本,求 a 的极大似然估计值.,解,由上例可知,当,时,L 取最大值 1,即,显然,a 的极大似然估计值可能不存在,也可能不唯一.,例9,不仅如此,任何一个统计量,若满足,都可以作为 a 的估计量.,极大似然估计方法,是的实值函数，且具有单值反函数。,例
5、 X N(,2),2 的极大似然估计.,则 的极大似然估计为,作业 P.192 习题六,1 2 3 4,点估计的评价标准,对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题,(1)无偏性,(3)一致性,(2)有效性,若,定义,我们不可能要求每一次由样本得到的,估计值与真值都相等，但可以要求这些估,计值的期望与真值相等.,证明:不论 X 服从什么分布(但期望存在),证,因而,由于,则,特别地,是总体期望 E(X)的,样本均值,无偏估计量,例2 设总体 X 的期望 与方差存在,X 的,样本为(n 1).,(1)不是 D(X)的无偏估量;,(2)是 D(X)的无偏估计量.,证,前已证,
6、证明,因而,故 证毕.,XB(n,p)n 1,求 p 2 的无偏估计量.,解 由于样本矩是总体矩的无偏估计量以及数学期望的线性性质,只要将未知参数表示成总体矩的线性函数,然后用样本矩作为总体矩的估计量,这样得到的未知参数的估计量即为无偏估计量.,令,因此,p 2 的无偏估计量为,故,例4 设总体 X 的密度函数为,为常数,为 X 的一个样本,证,故,是 的无偏估计量.,令,即,故 n Z 是 的无偏估计量.,都是总体参数 的无偏估计量,且,则称 比 更有效.,是 的无偏估计量,问哪个估计量更有效？,由例4可知,与 都,为常数,例5 设总体 X 的密度函数为,解，,例6 设总体 X，且 E(X)
7、=,D(X)=2,为总体 X 的一个样本,证(1),(1)设常数,(2),而,例如 X N(,2),(X 1,X 2)是一样本.,都是 的无偏估计量,定义 设 是总体参数,的估计量.若对于任意的,当n 时,依概率收敛于,即,一致性估计量仅在样本容量 n 足够大时,才显示其优越性.,一致,关于一致性的两个常用结论,1.样本 k 阶矩是总体 k 阶矩的一致性估计量.,是 的一致估计量.,矩法得到的估计量一般为一致估计量,在一定条件下,极大似然估计具有一致性,2.设 是 的无偏估计 量,且,则,例8,为常数,则 是 的无偏、有效、一致估计量.,证 由例7 知 是 的无偏、有效估计量.,所以 是 的一致估计量,证毕.,作业 P.192-193 习题六,9 11,习题,
