贝叶斯决策学习.pptx

《贝叶斯决策学习.pptx》由会员分享，可在线阅读，更多相关《贝叶斯决策学习.pptx（42页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、一般来说，抽样信息在决策中是很重要的信息，获得此种信息的花费也较大，应予以重视和利用。我们约定，若已知(1)有一个可观察的随机变量X，其密度函数 依赖于未知参数 ，且 。(2)在参数空间 上有一个先验分布 (3)有一个行动集 。在对 做点估计时，一般取 ；在对 做区间估计时，行动a就是一个区间，的一切可能的区间构成行动集 ；在对 作假设检验时，只有两个行动：接受和拒绝。(4)在 上定义了一个损失函数 则说一个贝叶斯决策问题给定了。第1页/共42页5.2 后验风险准则一.后验风险把损失函数对后验分布的期望称为后验风险，记为 ，即第2页/共42页例5.3 某工厂的产品每100件装成一箱运交顾客，在

2、向顾客交货前有如下两个行动的选择：若工厂选择行动 ，则可保证交货时每件产品都是合格品，但因每件产品的检查费为0.8元，为此工厂要支付检查费80元，但顾客发现不合格品时，按合同不仅允许更换，而且每件要支付12.5元的赔偿费。若工厂从产品检查部门发现，该厂产品的不合格品率 没有超过0.12的记录，取U(0,0.12)为 的先验分布，应该如何决策？若该厂先在每箱中抽取两件进行检查，然后再做决策，应该如何决策？第3页/共42页二.决策函数定义5.1 在给定的贝叶斯决策问题中，从样本空间 到行动集 上的一个映射 称为该决策问题的一个决策函数。所有从 到 上的决策函数组成的类称为决策函数类，用 表示。注：

3、在贝叶斯决策问题中，我们面临的是决策函数类D，要在D中选取决策函数 ，使其后验风险最小。第4页/共42页三.后验风险准则定义 在给定的贝叶斯决策问题中，是其决策函数类，则称为决策函数 的后验风险。若在决策函数类D中存在这样的决策函数 ，它在D中具有最小的后验风险，即则称 为后验风险准则下的最优决策函数，或称贝叶斯决策函数或贝叶斯解。第5页/共42页例5.5 设 是来自正态分布 的一个样本，参数 的先验分布为共轭先验分布 ，其中 已知，损失函数为求参数 的贝叶斯估计第6页/共42页例5.6 在新的止痛剂的市场占有率 的估计问题中已给出损失函数药厂厂长对市场占有率 无任何先验信息。在市场调查中，在

4、n个购买止痛剂的顾客中有x个人买了新的止痛剂，试在后验风险准则下对 作出贝叶斯估计。第7页/共42页例5.7 设样本x只能来自密度函数 或 中的一个，为了研究该样本到底来自哪个分布，我们来考虑如下简单假设的检验问题：损失函数用矩阵表示如下：第8页/共42页5.3 常用损失函数下的贝叶斯估计一.平方损失函数下的贝叶斯估计定理5.1 在平方损失函数 下，的贝叶斯估计为后验均值，即定理5.2在加权平方损失函数 下，的贝叶斯估计为第9页/共42页定理5.3 在参数向量 的场合下，对多元二次损失函数 的贝叶斯估计为后验均值向量：第10页/共42页例5.8 设 是来自泊松分布 的一个样本，若 的先验分布用

5、其共轭先验分布 。试在平方损失函数下寻找 的贝叶斯估计例5.9 设 是来自均匀分布 的一个样本，的先验分布函数和密度函数分别为试在平方损失函数下寻求 的贝叶斯估计第11页/共42页例5.10 某产品的寿命T服从指数分布 。对指定的时间后该产品才失效的概率为 ，称其为该产品在时刻的可靠度，现要设法估计可靠度 。设对n个该产品进行寿命试验，n个产品失效需要很长时间，一般达到事先规定的失效数r试验就停止了，这样的寿命试验称为截尾寿命试验，所得的r个失效时间为称为次序样本或结尾样本。第12页/共42页例5.11 设 来自伽马分布 的一个样本，其中 已知。试在平方损失函数下寻求 的贝叶斯估计。第13页/

6、共42页二.线性损失函数下的贝叶斯估计定理5.4 在绝对值损失函数 下，的贝叶斯估计为后验分布的中位数。定理5.5 在线性损失函数下，的贝叶斯估计为后验分布的 分位数。第14页/共42页例5.13 考虑对一个孩子做智商测验。设测验结果x服从正态分布 ，其中 为这个孩子的智商。若从过去的资料知，的先验分布为 ，从而后验分布为 。若这个孩子的测验结果为115分，在估计这个孩子的智商时，认为低估比高估的损失高两倍，则其损失函数为试求这个小孩智商的贝叶斯估计。第15页/共42页三.有限个行动问题的假设检验设行动集由r个行动组成，即在 下的损失为 ，则贝叶斯决策就是使后验期望损失最小的那个行动。以下我们

7、考虑两个行动的假设检验问题。设有如下两个假设：和两个行动 ，其中 表示接受 的行动，表示接受 的行动第16页/共42页若选用如下的损失：假设后验分布 已知，则选用 的后验期望损失为类似地有贝叶斯决策仍为其中较小后验期望损失的行动。若则选用 ，即拒绝 ；若有 ，则有第17页/共42页例5.14 在孩子智商的例5.13中，对那个孩子的智商作出如下假设：试对上述三个假设作出决策。第18页/共42页5.4 抽样信息期望值一.完全信息期望值对需要作决策的问题，假如决策者所获得的信息足以肯定哪个状态即将发生，则该信息就称为(该状态的)完全信息。完全信息在实际工作中预先是不知道的，人们可以通过试产、试销试验

8、等手段获取较多信息，但一般得到的也不是完全信息，因而在相当多的风险决策问题中是不易获得任一状态发生与否的完全信息。第19页/共42页例5.15某工厂准备生产一种新产品，产量可以采取小批、中批、大批三种行动，分别记为市场销售可为畅销、一般、滞销三种状态，分别记为 。前三种行动在不同市场状态下可获利润如下(单位：万元)：试找到该决策问题中的三个完全信息。第20页/共42页一般的，设某决策问题有n种状态且各状态的先验概率 已给定，有m种行动 ，设 为出现 采取 的收益，为使 取最大时的行动，则完全信息期望值定义为注：第21页/共42页定义5.3 在一个决策问题中，是状态集 上的先验分布，是先验期望准

9、则下的最优行动，则在 下的损失函数 的先验期望 称为完全信息先验期望值，记为先验第22页/共42页二.抽样信息期望值设 为样本 给定下 的后验分布，为据此后验分布所确定的贝叶斯决策函数，用此后验分布计算在 下损失函数 的后验期望可称为完全信息后验期望值，记为用样本的边缘分布 对 再求一次期望，并称为后验EVPI期望值，即一般说来，抽样信息的获得总会增加决策者对状态的了解，从而期望损失会减少，这个减少的量就称为抽样信息期望值，记为EVSI第23页/共42页定义5.4 在一个贝叶斯决策问题中 是先验期望准则下的最优行动，时后验准则下的最优决策函数，则先验EVPI与后验EVPI期望值的差称为抽样信息

10、期望值，记为第24页/共42页例5.16 一机器制造厂的某一零件由某街道厂生产，每批1000只，其次品率 的概率分布如下所示：机器制造厂在整机装配时，若发现零件是次品，必须更换，每换一只，由街道厂赔偿损失费2.2元，但也可以在送装之前采取全部检查的办法，使每批零件的次品率降为1，但街道厂必须支付检查费0.1元。现街道厂面临如下两个行动的选择的问题：现在决策者想从每批中任取三只零件进行检查，根据不合格品的个数来决定是采取行动 还是行动 ，并想知道如此抽样能否给决策者带来增益？增益是多少？0.02 0.05 0.100.45 0.30 0.15第25页/共42页5.5 最佳样本量的确定一.抽样净益

11、 我们把抽样费用称为抽样成本，一般抽样成本有固定成本 与可变成本 （表示单位可变成本）两部分组成，则抽样成本可用下式表示当n0时，规定为0。决策者从抽样得到的好处可用抽样信息期望值来度量，从抽样信息期望值中抠取抽样成本后，余下的就是由抽样所能获得的净收益，这个净收益称为抽样净益，记为ENGS，即第26页/共42页二.最佳样本量及其上界若我们能找到满足 的某个n，这说明该问题中进行样本量为此n的抽样值得的；若满足的n有两个那应该用哪一个？使得抽样净益达到最大的样本量 称为最佳样本量，即 满足若最佳样本量不止一个，就选其中最小的一个作为最佳样本量。第27页/共42页要使抽样可行，抽样成本C(n)不

12、应超过抽样信息期望值EVSI(n),而EVSI(n)也不会超过先验完全信息期望值EVPI，从而最佳样本容量 应满足：注：1.上式第一个等号仅在 时成立；2.最佳样本量 满足第28页/共42页例5.8某商店考虑是否向一县办厂订购一种家用电器。该厂生产的电器有一等品和二等品两个等级，一等品与二等品的数量之比有1：1和2：1两种可能，其概率分别为0.45和0.55，若买到二等品，每只要亏15元，若该厂允许在一批电器中抽取若干只进行检查，根据抽样结果决定是否订购该批电器，但抽样的总的费用为每只20元，试问商店必须考虑抽多少只最合算？第29页/共42页三。最佳样本量的求法若对每一个n值，都算得EVSI(

13、n)和抽样成本C(n),则便可计算出所有的ENGS(n)，然后选其中最大正值所对应的n即为最佳样本容量 。第30页/共42页5.6二行动线性决策问题的EVPI一。正态分布下二行动线性决策问题的先验EVPI定理5.6 在二行动线性决策函数 中,若状态参数 的先验分布为正态分布 ,则该决策问题的先验EVPI为第31页/共42页例5.20 在二行动线性决策中，设其收益函数(单位:元)为其平衡值 ，状态 ，决策者想知道尚有多少潜力可挖。第32页/共42页例5.21 某汽车客运公司计划开辟一条新路线，所需新投资200万元，每位乘客的票价定为25元，其中5元为运输成本。该公司的决策者有如下两个行动：对类似

14、于新路线的老路线的营运状况的研究发现每天乘客的平均数 服从正态分布若不抽样，该如何决策？若决策者决定先运行一周，记录七天的乘客的实际数目，得到样本均值为300，样本方差为2500，则该如何决策，值不值得？第33页/共42页二.贝塔分布下二行动线性决策问题的先验EVPI定理5.7 在收益函数为的二行动线性决策问题中，若状态参数 的先验分布为 ，则该决策问题的先验EVPI如下：(1)当 时，第34页/共42页(2)当 时，第35页/共42页注：1.当 时，定理5.7仍然成立，只不过将结论中的 改为 即可；2.在 和 为正整数时，用 计算事件的概率可转化为用二项分布计算：第36页/共42页例5.22

15、 某美术厂与外单位商谈一批美术品绘制任务，如果绘制成功，每张美术作品可得600元；若绘制不成，每张要赔偿损失1800元，该美术厂经理考虑到图案复杂，据本厂技术力量估计废品率不会很低，认为 ，则该厂是否应接受这批绘制任务？若该厂绘制人员充分发挥其才能，还有多少潜力可挖？第37页/共42页三.伽玛分布下二行动线性决策问题的先验EVPI定理5.8 在收益函数为的二行动线性决策问题中，若状态参数 的先验分布为 ，则该决策问题的先验EVPI如下：(1)当 时，第38页/共42页(2)当 时，第39页/共42页注：1.当 时，定理5.8仍然成立，只不过将结论中的 改为 即可；2.在 为正整数时，用 计算事件的概率可转化为用泊松分布计算：第40页/共42页例5.22 在某二行动线性决策问题中，收益函数(单位：万元)为设 的先验分布为 ，试求其先验EVPI。第41页/共42页感谢您的观看。第42页/共42页