第四章不确定性推理精品文档课件.ppt
《第四章不确定性推理精品文档课件.ppt》由会员分享,可在线阅读,更多相关《第四章不确定性推理精品文档课件.ppt(93页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、L|O|G|O第四章第四章 不确定性推理不确定性推理本章内容本章内容不确定性推理中的基本问题不确定性推理中的基本问题证据理论证据理论概率方法概率方法主观主观BayesBayes方法方法4163可信度方法可信度方法5不确定性推理方法分类不确定性推理方法分类 24.1 4.1 不确定性推理中的基本问题不确定性推理中的基本问题 要实现对不确定性知识的处理,必须要解决不要实现对不确定性知识的处理,必须要解决不确定知识的表示问题,不确定信息的计算问题,以确定知识的表示问题,不确定信息的计算问题,以及不确定性表示和计算的语义解释问题。及不确定性表示和计算的语义解释问题。1 1表示问题表示问题1 1、知识不
2、确定性的表示、知识不确定性的表示2 2、证据的不确定性表示、证据的不确定性表示2.2.计算问题计算问题1 1、不确定性的传递算法、不确定性的传递算法2 2、结论不确定性的合成、结论不确定性的合成3 3、组合证据的不确定性算法、组合证据的不确定性算法3.3.语义问题语义问题1 1、知识的不确定性度量、知识的不确定性度量2 2、证据的不确定性度量、证据的不确定性度量4.2 4.2 不确定性推理方法分类不确定性推理方法分类1 1、模型方法、模型方法 特特点点:把把不不确确定定的的证证据据和和不不确确定定的的知知识识分分别别与与某某种种度度量量标标准准对对应应起起来来,并并且且给给出出更更新新结结论论
3、不不确确定定性性的的算算法,从而构成了相应的不确定性推理的模型。法,从而构成了相应的不确定性推理的模型。非数值方法是指出数值方法外的其他各种处非数值方法是指出数值方法外的其他各种处理不确定性的方法理不确定性的方法 ,它采用集合来描述和处它采用集合来描述和处理不确定性,而且满足概率推理的性质。理不确定性,而且满足概率推理的性质。非数值非数值方法方法数值方法是对不确定性的一种定量表示和数值方法是对不确定性的一种定量表示和处理方法。处理方法。数值方法数值方法数值方法数值方法分类分类2 2、模糊推理、模糊推理1 1、基于概基于概率的方法率的方法 对于数值方法,按其依据的理论不同又可分为对于数值方法,按
4、其依据的理论不同又可分为以下两类:以下两类:4.2 4.2 不确定性推理方法分类不确定性推理方法分类4.2 4.2 不确定性推理方法分类不确定性推理方法分类 纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法及理论及理论:1 1、主观、主观BayesBayes方法方法2 2、可信度方法
5、、可信度方法3 3、证据理论、证据理论它是它是PROSPECTORPROSPECTOR专专家系统中使用的不家系统中使用的不确定推理模型,是确定推理模型,是对对BayesBayes公式修正公式修正后形成的一种不确后形成的一种不确定推理方法。定推理方法。它它是是MYCINMYCIN专专家家系系统统中中使使用用的的不不确确定定推推理理模模型型,它它以以确确定定性性理理论论为为基基础础,方法简单、易用。方法简单、易用。它通过定义信任它通过定义信任函数、似然函数,函数、似然函数,把知道和不知道把知道和不知道区别开来。区别开来。4.2 4.2 不确定性推理方法分类不确定性推理方法分类2 2、控制方法控制方
6、法 特点特点:通过识别领域中引起不确定性的某些特征及通过识别领域中引起不确定性的某些特征及相应的控制策略来限制或减少不确定性对系统产生的相应的控制策略来限制或减少不确定性对系统产生的影响,这类方法没有处理不确定性的统一模型,其效影响,这类方法没有处理不确定性的统一模型,其效果极大地依赖于控制策略。果极大地依赖于控制策略。设有如下产生式规则:设有如下产生式规则:IF IF E E THEN THEN H H其中,其中,E E为前提条件,为前提条件,H H为结论,具有随机性。为结论,具有随机性。根据概率论中条件概率的含义,我们可以用条件概率根据概率论中条件概率的含义,我们可以用条件概率表示上述产生
7、式规则的不确定性程度,即表示为在证据表示上述产生式规则的不确定性程度,即表示为在证据出现的条件下,结论出现的条件下,结论H H成立的确定性程度。成立的确定性程度。对于复合条件对于复合条件 E E=E E1 1 ANDAND E E2 2 ANDAND AND AND EnEn可以用条件概率作为在证据出现时结论的确定程度。可以用条件概率作为在证据出现时结论的确定程度。4.3 4.3 概率方法概率方法4.3.1 4.3.1 经典概率方法经典概率方法4.3 4.3 概率方法概率方法4.3.2 Bayes4.3.2 Bayes定理定理 设设 为一些事件,为一些事件,互不相互不相交,交,P P(BiBi
8、)0)0,i i=1,2,=1,2,n n,且,且 则对于则对于 有,有,(4.3.1)(4.3.1)Bayes Bayes公式容易由条件概率的定义、乘法公式和全概公式容易由条件概率的定义、乘法公式和全概率公式得到。在率公式得到。在BayesBayes公式中,公式中,P P(BiBi)称为先验概率,而称为先验概率,而P(Bi|A)P(Bi|A)称为后验概率,也就是条件概率。称为后验概率,也就是条件概率。4.3 4.3 概率方法概率方法4.3.3 4.3.3 逆概率方法的基本思想逆概率方法的基本思想1 1单个证据的情况单个证据的情况 如果用产生式规则如果用产生式规则 IF IF E E THEN
9、 THEN H Hi i i i 1,2,1,2,n n其中前提条件其中前提条件E E 代替代替BayesBayes公式中公式中B B,用,用H Hi i 代替公式中的代替公式中的A Ai i 就可得到就可得到 i i1,2,1,2,n n (4.3.2)(4.3.2)这这 就就 是是 说说,当当 已已 知知 结结 论论H H i i 的的 先先 验验 概概 率率,并并 且且 已已 知知 结结 论论H Hi i(i i=1 1,2 2,)成成立立时时前前提提条条件件E E 所所对对应应的的证证据据出出现现的的条条件件概概率率P P(E E|H H i i),就就可可以以用用上上式式 求求 出出
10、 相相 应应 证证 据据 出出 现现 时时 结结 论论H H i i 的的 条条 件件 概概 率率P P(H H i i|E E)。4.3 4.3 概率方法概率方法例子例子:求求P(P(肺炎肺炎|咳嗽咳嗽)可能比较困难,但统计可能比较困难,但统计P(P(咳嗽咳嗽|肺炎肺炎)可能可能比较容易比较容易(因为要上医院因为要上医院)假设假设P(P(肺炎肺炎)=1|10000)=1|10000,而,而P(P(咳嗽咳嗽)=1|10)=1|10,90%90%的肺炎患者的肺炎患者都咳嗽,都咳嗽,P(P(咳嗽咳嗽|肺炎肺炎)=0.9,)=0.9,则则P(P(肺炎肺炎|咳嗽咳嗽)=)=4.3 4.3 概率方法概率
11、方法修正因子修正因子(1)(1)可以将前面的逆概率公式写成可以将前面的逆概率公式写成这这说说明明先先验验概概率率P(H)P(H)可可以以通通过过方方括括号号部部分分(作作为为修修正正因因子子)修正为后验概率修正为后验概率P(H|E)(P(H|E)(证据证据E E为真时为真时H H的后验概率的后验概率)在在上上面面的的例例子子中中,医医生生认认为为一一个个人人得得肺肺炎炎的的可可能能性性为为万万分之一,一旦发现患者咳嗽,就将调整为万分之九分之一,一旦发现患者咳嗽,就将调整为万分之九4.3 4.3 概率方法概率方法修正因子修正因子(2)(2)将将E E看看作作证证据据,先先验验概概率率P(E)P(
12、E)越越小小,且且H H为为真真时时E E的的条条件件概率概率P(E|H)P(E|H)越大,则修正因子所起作用越大越大,则修正因子所起作用越大在上例中,如果在上例中,如果P(P(咳嗽咳嗽)=0.0001|P()=0.0001|P(咳嗽咳嗽|肺炎肺炎)=0.9999|)=0.9999|P(P(肺肺炎炎)不变不变则则P(P(肺炎肺炎|咳嗽咳嗽)=0.9999)=0.9999,远远超过原来的万分之九,远远超过原来的万分之九4.3 4.3 概率方法概率方法2 2多个证据的情况多个证据的情况 对于有多个证据对于有多个证据 和多个结论和多个结论 并且每个证据都以一定程度支持结论的情况,上面的并且每个证据都
13、以一定程度支持结论的情况,上面的式子可进一步扩充为式子可进一步扩充为 (4.3.3)(4.3.3)例例已知:求:求:P(H1|E1E2),P(H2|E1E2),P(H3|E1E2)解:同理可得:同理可得:P(H2|E1E2)=0.52,P(H3|E1E2)=0.03 逆逆概概率率公公式式的的优优点点是是它它有有较较强强的的理理论论背背景景和和良良好好的的数数学学特特征征,当当证证据据及及结结论论彼彼此此独独立立时时计计算算的的复复杂杂度度比比较较低低。其其缺缺点点是是要要求求给给出出结结论论 的的先先验验概概率率 及及证据证据 的条件概率的条件概率 ,尽管有些时候,尽管有些时候 比比 相相对对
14、容容易易得得到到,但但总总的的来来说说,要要想想得得到到这这些些数数据据仍仍然然是是一一件件相相当当困困难难的的工工作作。另另外外,BayesBayes公公式式的的应应用用条条件件是是很很严严格格的的,它它要要求求各各事事件件互互相相独独立立等等,如若证据间存在依赖关系,就不能直接使用这个方法。如若证据间存在依赖关系,就不能直接使用这个方法。4.3 4.3 概率方法概率方法4.3.4 4.3.4 逆概率方法的优缺点逆概率方法的优缺点4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识不确定性的表示知识不确定性的表示 在主观Bayes方法中,知识是用产生式规则表示的,
15、具体形式为形式为 IF E THEN (LSIF E THEN (LS,LN)H (P(H)LN)H (P(H)其中其中(1 1)E E 是是该该知知识识的的前前提提条条件件。它它既既可可以以是是一一个个简简单单条条件件,也也可可以是复合条件。以是复合条件。(2 2)H H 是是结结论论。P(H)P(H)是是 H H 的的先先验验概概率率,它它指指出出在在没没有有任任何何证证据据情情况况下下的的结结论论 H H 为为真真的的概概率率,即即 H H 的的一一般般可可能能性性。其其值值由由领领域专家根据以往的实践及经验给出。域专家根据以往的实践及经验给出。(3 3)(LSLS,LNLN)为为规规则
16、则强强度度。其其值值由由领领域域专专家家给给出出。LSLS,LNLN相相当于知识的静态强度。当于知识的静态强度。LS=P(E|H)|P(E|LS=P(E|H)|P(E|H)H)LN=P(LN=P(E|H)|P(E|H)|P(E|E|H)H)4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识不确定性的表示知识不确定性的表示引入概率的相对量度引入概率的相对量度 定义定义 几率函数:几率函数:称为称为H H的几率函数或先验几率,取值范围的几率函数或先验几率,取值范围0,0,)由此反过来有由此反过来有 定义定义 条件几率:条件几率:4.4 4.4 主观主观BayesBay
17、es方法方法4.4.1 4.4.1 知识不确定性的表示知识不确定性的表示后验几率和先验几率的关系:后验几率和先验几率的关系:例例子子:O(O(晴晴天天|冬冬天天早早晨晨有有雾雾)=4.2)=4.2,如如果果冬冬天天早早晨晨有有雾雾,则该天为晴天的可能性是非晴天可能性的则该天为晴天的可能性是非晴天可能性的4.24.2倍倍由由几几率率定定义义、条条件件几几率率定定义义和和条条件件概概率率公公式式可可以以推推得得后后验几率和先验几率的关系:验几率和先验几率的关系:则可得下述关系:则可得下述关系:O(H|E)=LS*O(H)O(H|E)=LS*O(H)O(H|O(H|E)=LN*O(H)E)=LN*O
18、(H)4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识不确定性的表示知识不确定性的表示对对LSLS和和LNLN的约束的约束对于对于LSLS和和LNLN有如下约束要求:二者都是非负的,并且满足有如下约束要求:二者都是非负的,并且满足即即LSLS和和LNLN不不是是独独立立取取值值,均均大大于于0 0;不不可可以以E E支支持持H H的的同同时时 E E也支持也支持H H,即,即LSLS和和LNLN不可同时大于不可同时大于1 1,也不可同时小于,也不可同时小于1.1.4.4 4.4 主观主观BayesBayes方法方法4.4.3 4.4.3 不确定性的传递算法不确定
19、性的传递算法主主观观BayesBayes推推理理过过程程是是:根根据据证证据据E E的的概概率率P(E)P(E),利利用用规规则则的的LSLS和和LNLN,把把结结论论的的先先验验概概率率P(H)P(H)更更新新为为后后验验概概率率P(H|E)P(H|E)或或P(H|E)P(H|E),因因而而也也称称为为概概率率传播。传播。4.4 4.4 主观主观BayesBayes方法方法4.4.2 4.4.2 证据不确定性的表示证据不确定性的表示 若以若以O(A)O(A)或或P P(A A)表示证据表示证据A A的不确定性,则转换公式的不确定性,则转换公式是:是:4.4 4.4 主观主观BayesBaye
20、s方法方法4.4.3 4.4.3 不确定性的传递算法不确定性的传递算法1 1证据肯定存在的情况证据肯定存在的情况 在证据在证据E E 肯定存在时,把先验几率肯定存在时,把先验几率O O(H H)更新为后验更新为后验几率几率O O(H H|E E)的计算公式为的计算公式为 (4.4.1)(4.4.1)如果将上式换成概率,就可得到如果将上式换成概率,就可得到 (4.4.2)(4.4.2)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H|E E)的计算公式。的计算公式。4.4 4.4 主观主观BayesBayes方法方法2 2证据肯定不存在的情况证据肯定不存在的
21、情况 在证据在证据E E肯定不存在时,把先验几率肯定不存在时,把先验几率O(H)O(H)更新为后验更新为后验几率几率O O(H H|E E)的计算公式为的计算公式为 (4.4.3)(4.4.3)如果将上式换成概率,就可得到如果将上式换成概率,就可得到 (4.4.4)(4.4.4)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H|E E)的计算公式。的计算公式。4.4 4.4 主观主观BayesBayes方法方法3 3证据不确定的情况证据不确定的情况 在证据不确定的情况下,不能再用上面的公式计算在证据不确定的情况下,不能再用上面的公式计算后验概率,而要用杜达
22、等人后验概率,而要用杜达等人19761976年证明了的公式年证明了的公式 (4.4.5)(4.4.5)来计算。来计算。下面分四种情况讨论这个公式下面分四种情况讨论这个公式(4.4.5)(4.4.5):(1 1)当)当P(E|S)=1P(E|S)=1时,此时式时,此时式(4.4.5)(4.4.5)变成变成这就是证据肯定存在的情况。这就是证据肯定存在的情况。(2 2)当)当P(E|S)=0P(E|S)=0时,此时式时,此时式(4.4.5)(4.4.5)变成变成这就是证据肯定不存在的情况。这就是证据肯定不存在的情况。4.4 4.4 主观主观BayesBayes方法方法(3 3)当)当P(E|S)=P
23、(E)P(E|S)=P(E)时,表示时,表示E E与与S S无关,利用全概率公式无关,利用全概率公式将公式将公式(4.4.5)(4.4.5)变为变为(4 4)当)当P(E|S)P(E|S)为其它值时,通过分段线性插值就可得计为其它值时,通过分段线性插值就可得计算算P(H|S)P(H|S)的公式的公式 该公式称为该公式称为EHEH公式或公式或UEDUED公式。公式。4.4 4.4 主观主观BayesBayes方法方法0 P(E)1 P(E|S)P(H|S)P(H|E)P(H)P(H|E)4 4组合证据的情况组合证据的情况 (1 1)当组合证据是多个单一证据的合取时,即)当组合证据是多个单一证据的
24、合取时,即 E E=E E1 and 1 and E E2 and and 2 and and EnEn 时,如果已知时,如果已知 则则 P P(E E|S S)=)=minmin (2 2)当组合证据)当组合证据E E是多个单一证据的析取时,即是多个单一证据的析取时,即 E E=E E1 or 1 or E E2 or or 2 or or EnEn 时,如果已知时,如果已知 则,则,P P(E E|S S)=)=maxmax “非非”运算用下式计算运算用下式计算 4.4 4.4 主观主观BayesBayes方法方法 若有若有n n条知识都支持相同的结论条知识都支持相同的结论,而且每条知识的
25、,而且每条知识的前提条件所对应的证据前提条件所对应的证据 都有相应的观察都有相应的观察 与之对应,此时只要先对每条知识分别求出与之对应,此时只要先对每条知识分别求出 然后就可运用下述公式求出然后就可运用下述公式求出4.4 4.4 主观主观BayesBayes方法方法4.4.4 4.4.4 结论不确定性的合成算法结论不确定性的合成算法 4.4 4.4 主观主观BayesBayes方法方法例例2 2 设有如下知识设有如下知识R R1 1:IF IF A A THEN(20 THEN(20,1)1)B B1 1(0.03)(0.03)R R2 2:IF IF B B1 1 THEN(300 THEN
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第四 不确定性 推理 精品 文档 课件
限制150内