《第三章统计决策与贝叶斯估计.PPT》由会员分享,可在线阅读,更多相关《第三章统计决策与贝叶斯估计.PPT(22页珍藏版)》请在三一办公上搜索。
1、第三章统计决策与贝叶斯估计,第3.1节 统计决策的基本概念,第3.2节 贝叶斯估计,第3.3节 minimax估计,第3.4节 经验贝叶斯估计,前言,20世纪40年代,Wald提出了把统计推断问题看成是人与自然的一种博弈过程,由此建立了统计决策理论.,贝叶斯估计是贝叶斯统计的主要部分,它是利用决策理论研究参数估计问题.,本章将主要讨论贝叶斯方法在参数估计中的应用问题.,第3.1节 统计决策的基本概念,一、统计决策问题的三个要素,二、统计决策函数及其风险函数,一、统计决策问题的三个要素,在前几章讲的统计问题,都可以归结为一个统计决策问题,也就是建立所谓的统计决策函数.统计决策问题由三个因素组成,
2、首先来看第一个因素:,1、样本空间和分布族,样本空间,分布族,例1(p79例3.1),设总体X服从两点分布B(1,p),p为,解,由于是两点分布,因而样本的取值只有0,1,则,样本空间为,分布族为,2、决策空间(或称判决空间),决策,对每个统计问题的具体回答,就称为一个决策.,例如,参数的点估计,每一个估计值就是一个决策.,决策空间,一个统计问题中,可能选取得全部决策,组成的集合为决策空间,记为 R.,例如,,3、损失函数,例2(p80例3.2),某厂打算根据各年度市场的销售来,决定下一年度应该扩大生产还是缩减生产,或者维持原状,这样其决策空间为,通常情况下,做任何决策以后,总会有某种后果,由
3、此可以带来某种收益和损失.为了以数量化的方式描述这种收益和损失,为此需要引入损失函数.,例3(p80例3.3),常见的损失函数,(1)线性损失函数,(2)平方损失函数,(3)凸损失函数,(4)多元二次损失函数,注,由于在统计问题中,进行的统计推断总是有误差,,因而损失一定存在,因而一般都会假设损失函数为非负的.二次损失为参数点估计常用的损失函数.,二、统计决策函数及其风险函数,1.统计决策函数,定义3.1,注,决策函数其实就是决策问题的一个“行动方案.,对于统计问题而言,决策函数为统计量.,例4(p82),解,2.风险函数,由于损失函数L与决策函数d(x)有关,而决策函数,是随机变量,因而损失函数也为随机变量。这样损失函数与样本X的取值有关,因而需要构造一个更好的指标来衡量决策函数的好坏.这就是风险函数.,定义3.2,注,由定义可以看到,风险函数是决策d的平均损失.,从定义可以看到,风险越小,决策越好,由此可以给出判断决策函数优良性准则.,定义3.3,定义3.4,注,从上述定义可以看到,决策函数的优良性与损失函数有关,因而优良性会因损失函数而变化.,例5(p83例3.4),解,根据风险函数的定义可知,例6(p84例3.5),解,根据风险函数的定义可知,再 见,