《不确定性推理》PPT课件.ppt

《《不确定性推理》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《不确定性推理》PPT课件.ppt（92页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、L|O|G|O第四章第四章 不确定性推理不确定性推理本章内容本章内容不确定性推理中的基本问题不确定性推理中的基本问题证据理论证据理论概率方法概率方法主观主观BayesBayes方法方法4163可信度方法可信度方法5不确定性推理方法分类不确定性推理方法分类 24.1 4.1 不确定性推理中的基本问题不确定性推理中的基本问题 要实现对不确定性知识的处理，必须要解决不要实现对不确定性知识的处理，必须要解决不确定知识的表示问题，不确定信息的计算问题，以确定知识的表示问题，不确定信息的计算问题，以及不确定性表示和计算的语义解释问题。及不确定性表示和计算的语义解释问题。1 1表示问题表示问题1 1、知识不

2、确定性的表示、知识不确定性的表示2 2、证据的不确定性表示、证据的不确定性表示2.2.计算问题计算问题1 1、不确定性的传递算法、不确定性的传递算法2 2、结论不确定性的合成、结论不确定性的合成3 3、组合证据的不确定性算法、组合证据的不确定性算法3.3.语义问题语义问题1 1、知识的不确定性度量、知识的不确定性度量2 2、证据的不确定性度量、证据的不确定性度量4.2 4.2 不确定性推理方法分类不确定性推理方法分类1 1、模型方法、模型方法 特特点点:把把不不确确定定的的证证据据和和不不确确定定的的知知识识分分别别与与某某种种度度量量标标准准对对应应起起来来，并并且且给给出出更更新新结结论论

3、不不确确定定性性的的算算法，从而构成了相应的不确定性推理的模型。法，从而构成了相应的不确定性推理的模型。非数值方法是指出数值方法外的其他各种处非数值方法是指出数值方法外的其他各种处理不确定性的方法理不确定性的方法 ,它采用集合来描述和处它采用集合来描述和处理不确定性，而且满足概率推理的性质。理不确定性，而且满足概率推理的性质。非数值非数值方法方法数值方法是对不确定性的一种定量表示和数值方法是对不确定性的一种定量表示和处理方法。处理方法。数值方法数值方法数值方法数值方法分类分类2 2、模糊推理、模糊推理1 1、基于概基于概率的方法率的方法 对于数值方法，按其依据的理论不同又可分为对于数值方法，按

4、其依据的理论不同又可分为以下两类：以下两类：4.2 4.2 不确定性推理方法分类不确定性推理方法分类4.2 4.2 不确定性推理方法分类不确定性推理方法分类 纯概率方法虽然有严密的理论依据，但它通常要求给出事件的先验纯概率方法虽然有严密的理论依据，但它通常要求给出事件的先验概率和条件概率，而这些数据又不易获得，因此其应用受到了限制。为概率和条件概率，而这些数据又不易获得，因此其应用受到了限制。为了解决这这个问题，人们在概率理论的基础上发展起来了一些新的方法了解决这这个问题，人们在概率理论的基础上发展起来了一些新的方法及理论及理论:1 1、主观、主观BayesBayes方法方法2 2、可信度方法

5、、可信度方法3 3、证据理论、证据理论它是它是PROSPECTORPROSPECTOR专专家系统中使用的不家系统中使用的不确定推理模型，是确定推理模型，是对对BayesBayes公式修正公式修正后形成的一种不确后形成的一种不确定推理方法。定推理方法。它它是是MYCINMYCIN专专家家系系统统中中使使用用的的不不确确定定推推理理模模型型，它它以以确确定定性性理理论论为为基基础础，方法简单、易用。方法简单、易用。它通过定义信任它通过定义信任函数、似然函数，函数、似然函数，把知道和不知道把知道和不知道区别开来。区别开来。4.2 4.2 不确定性推理方法分类不确定性推理方法分类2 2、控制方法控制方

6、法 特点特点:通过识别领域中引起不确定性的某些特征及通过识别领域中引起不确定性的某些特征及相应的控制策略来限制或减少不确定性对系统产生的相应的控制策略来限制或减少不确定性对系统产生的影响，这类方法没有处理不确定性的统一模型，其效影响，这类方法没有处理不确定性的统一模型，其效果极大地依赖于控制策略。果极大地依赖于控制策略。设有如下产生式规则：设有如下产生式规则：IF IF E E THEN THEN H H其中，其中，E E为前提条件，为前提条件，H H为结论，具有随机性。为结论，具有随机性。根据概率论中条件概率的含义，我们可以用条件概率根据概率论中条件概率的含义，我们可以用条件概率表示上述产生

7、式规则的不确定性程度，即表示为在证据表示上述产生式规则的不确定性程度，即表示为在证据出现的条件下，结论出现的条件下，结论H H成立的确定性程度。成立的确定性程度。对于复合条件对于复合条件 E E=E E1 1 ANDAND E E2 2 ANDAND AND AND EnEn可以用条件概率作为在证据出现时结论的确定程度。可以用条件概率作为在证据出现时结论的确定程度。4.3 4.3 概率方法概率方法4.3.1 4.3.1 经典概率方法经典概率方法4.3 4.3 概率方法概率方法4.3.2 Bayes4.3.2 Bayes定理定理 设设 为一些事件，为一些事件，互不相互不相交，交，P P(BiBi

8、)0)0，i i=1,2,=1,2,n n，且，且 则对于则对于 有，有，(4.3.1)(4.3.1)Bayes Bayes公式容易由条件概率的定义、乘法公式和全概公式容易由条件概率的定义、乘法公式和全概率公式得到。在率公式得到。在BayesBayes公式中，公式中，P P(BiBi)称为先验概率，而称为先验概率，而P(Bi|A)P(Bi|A)称为后验概率，也就是条件概率。称为后验概率，也就是条件概率。4.3 4.3 概率方法概率方法4.3.3 4.3.3 逆概率方法的基本思想逆概率方法的基本思想1 1单个证据的情况单个证据的情况 如果用产生式规则如果用产生式规则 IF IF E E THEN

9、 THEN H Hi i i i 1,2,1,2,n n其中前提条件其中前提条件E E 代替代替BayesBayes公式中公式中B B，用，用H Hi i 代替公式中的代替公式中的A Ai i 就可得到就可得到 i i1,2,1,2,n n (4.3.2)(4.3.2)这这 就就 是是 说说，当当 已已 知知 结结 论论H H i i 的的 先先 验验 概概 率率，并并 且且 已已 知知 结结 论论H Hi i(i i=1 1,2 2,）成成立立时时前前提提条条件件E E 所所对对应应的的证证据据出出现现的的条条件件概概率率P P(E E|H H i i)，就就可可以以用用上上式式 求求 出出

10、 相相 应应 证证 据据 出出 现现 时时 结结 论论H H i i 的的 条条 件件 概概 率率P P(H H i i|E E)。4.3 4.3 概率方法概率方法例子例子:求求P(P(肺炎肺炎|咳嗽咳嗽)可能比较困难，但统计可能比较困难，但统计P(P(咳嗽咳嗽|肺炎肺炎)可能可能比较容易比较容易(因为要上医院因为要上医院)假设假设P(P(肺炎肺炎)=1|10000)=1|10000，而，而P(P(咳嗽咳嗽)=1|10)=1|10，90%90%的肺炎患者的肺炎患者都咳嗽，都咳嗽，P(P(咳嗽咳嗽|肺炎肺炎)=0.9,)=0.9,则则P(P(肺炎肺炎|咳嗽咳嗽)=)=4.3 4.3 概率方法概率

11、方法修正因子修正因子(1)(1)可以将前面的逆概率公式写成可以将前面的逆概率公式写成这这说说明明先先验验概概率率P(H)P(H)可可以以通通过过方方括括号号部部分分(作作为为修修正正因因子子)修正为后验概率修正为后验概率P(H|E)(P(H|E)(证据证据E E为真时为真时H H的后验概率的后验概率)在在上上面面的的例例子子中中，医医生生认认为为一一个个人人得得肺肺炎炎的的可可能能性性为为万万分之一，一旦发现患者咳嗽，就将调整为万分之九分之一，一旦发现患者咳嗽，就将调整为万分之九4.3 4.3 概率方法概率方法修正因子修正因子(2)(2)将将E E看看作作证证据据，先先验验概概率率P(E)P(

12、E)越越小小，且且H H为为真真时时E E的的条条件件概率概率P(E|H)P(E|H)越大，则修正因子所起作用越大越大，则修正因子所起作用越大在上例中，如果在上例中，如果P(P(咳嗽咳嗽)=0.0001|P()=0.0001|P(咳嗽咳嗽|肺炎肺炎)=0.9999|)=0.9999|P(P(肺肺炎炎)不变不变则则P(P(肺炎肺炎|咳嗽，远远超过原来的万分之九咳嗽，远远超过原来的万分之九4.3 4.3 概率方法概率方法2 2多个证据的情况多个证据的情况 对于有多个证据对于有多个证据 和多个结论和多个结论 并且每个证据都以一定程度支持结论的情况，上面的并且每个证据都以一定程度支持结论的情况，上面的

13、式子可进一步扩充为式子可进一步扩充为 (4.3.3)(4.3.3)例例已知：求：求：P(H1|E1E2），P(H2|E1E2），P(H3|E1E2）解：同理可得：同理可得：P(H2|E1E2），P(H3|E1E2）逆逆概概率率公公式式的的优优点点是是它它有有较较强强的的理理论论背背景景和和良良好好的的数数学学特特征征，当当证证据据及及结结论论彼彼此此独独立立时时计计算算的的复复杂杂度度比比较较低低。其其缺缺点点是是要要求求给给出出结结论论 的的先先验验概概率率 及及证据证据 的条件概率的条件概率 ，尽管有些时候，尽管有些时候 比比 相相对对容容易易得得到到，但但总总的的来来说说，要要想想得得到

14、到这这些些数数据据仍仍然然是是一一件件相相当当困困难难的的工工作作。另另外外，BayesBayes公公式式的的应应用用条条件件是是很很严严格格的的，它它要要求求各各事事件件互互相相独独立立等等，如若证据间存在依赖关系，就不能直接使用这个方法。如若证据间存在依赖关系，就不能直接使用这个方法。4.3 4.3 概率方法概率方法4.3.4 4.3.4 逆概率方法的优缺点逆概率方法的优缺点4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识不确定性的表示知识不确定性的表示 在主观Bayes方法中，知识是用产生式规则表示的，具体形式为形式为 IF E THEN (LSIF E

15、THEN (LS，LN)H (P(H)LN)H (P(H)其中其中（1 1）E E 是是该该知知识识的的前前提提条条件件。它它既既可可以以是是一一个个简简单单条条件件，也也可可以是复合条件。以是复合条件。（2 2）H H 是是结结论论。P(H)P(H)是是 H H 的的先先验验概概率率，它它指指出出在在没没有有任任何何证证据据情情况况下下的的结结论论 H H 为为真真的的概概率率，即即 H H 的的一一般般可可能能性性。其其值值由由领领域专家根据以往的实践及经验给出。域专家根据以往的实践及经验给出。（3 3）（LSLS，LNLN）为为规规则则强强度度。其其值值由由领领域域专专家家给给出出。LS

16、LS，LNLN相相当于知识的静态强度。当于知识的静态强度。LS=P(E|H)|P(E|LS=P(E|H)|P(E|H)H)LN=P(LN=P(E|H)|P(E|H)|P(E|E|H)H)4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识不确定性的表示知识不确定性的表示引入概率的相对量度引入概率的相对量度 定义定义 几率函数：几率函数：称为称为H H的几率函数或先验几率，取值范围的几率函数或先验几率，取值范围0,0,)由此反过来有由此反过来有 定义定义 条件几率：条件几率：4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识不确定性的表示

17、知识不确定性的表示后验几率和先验几率的关系：后验几率和先验几率的关系：例例子子：O(O(晴晴天天|冬冬天天早早晨晨有有雾雾，如如果果冬冬天天早早晨晨有有雾雾，则则该该天为晴天的可能性是非晴天可能性的倍天为晴天的可能性是非晴天可能性的倍由由几几率率定定义义、条条件件几几率率定定义义和和条条件件概概率率公公式式可可以以推推得得后后验几率和先验几率的关系：验几率和先验几率的关系：则可得下述关系：则可得下述关系：O(H|E)=LS*O(H)O(H|E)=LS*O(H)O(H|O(H|E)=LN*O(H)E)=LN*O(H)4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识

18、不确定性的表示知识不确定性的表示对对LSLS和和LNLN的约束的约束对于对于LSLS和和LNLN有如下约束要求：二者都是非负的，并且满足有如下约束要求：二者都是非负的，并且满足即即LSLS和和LNLN不不是是独独立立取取值值，均均大大于于0 0；不不可可以以E E支支持持H H的的同同时时 E E也支持也支持H H，即，即LSLS和和LNLN不可同时大于不可同时大于1 1，也不可同时小于，也不可同时小于1.1.4.4 4.4 主观主观BayesBayes方法方法4.4.3 4.4.3 不确定性的传递算法不确定性的传递算法主主观观BayesBayes推推理理过过程程是是：根根据据证证据据E E的

19、的概概率率P(E)P(E)，利利用用规规则则的的LSLS和和LNLN，把把结结论论的的先先验验概概率率P(H)P(H)更更新新为为后后验验概概率率P(H|E)P(H|E)或或P(H|E)P(H|E)，因因而而也也称称为为概概率率传播。传播。4.4 4.4 主观主观BayesBayes方法方法4.4.2 4.4.2 证据不确定性的表示证据不确定性的表示 若以若以O(A)O(A)或或P P(A A)表示证据表示证据A A的不确定性，则转换公式的不确定性，则转换公式是：是：4.4 4.4 主观主观BayesBayes方法方法4.4.3 4.4.3 不确定性的传递算法不确定性的传递算法1 1证据肯定存

20、在的情况证据肯定存在的情况 在证据在证据E E 肯定存在时，把先验几率肯定存在时，把先验几率O O(H H)更新为后验更新为后验几率几率O O(H H|E E)的计算公式为的计算公式为 (4.4.1)(4.4.1)如果将上式换成概率，就可得到如果将上式换成概率，就可得到 (4.4.2)(4.4.2)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H|E E)的计算公式。的计算公式。4.4 4.4 主观主观BayesBayes方法方法2 2证据肯定不存在的情况证据肯定不存在的情况 在证据在证据E E肯定不存在时，把先验几率肯定不存在时，把先验几率O(H)O(H

21、)更新为后验更新为后验几率几率O O(H H|E E)的计算公式为的计算公式为 (4.4.3)(4.4.3)如果将上式换成概率，就可得到如果将上式换成概率，就可得到 (4.4.4)(4.4.4)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H|E E)的计算公式。的计算公式。4.4 4.4 主观主观BayesBayes方法方法3 3证据不确定的情况证据不确定的情况 在证据不确定的情况下，不能再用上面的公式计算在证据不确定的情况下，不能再用上面的公式计算后验概率，而要用杜达等人后验概率，而要用杜达等人19761976年证明了的公式年证明了的公式 (4.4.5

22、)(4.4.5)来计算。来计算。下面分四种情况讨论这个公式下面分四种情况讨论这个公式(4.4.5)(4.4.5)：（1 1）当）当P(E|S)=1P(E|S)=1时，此时式时，此时式(4.4.5)(4.4.5)变成变成这就是证据肯定存在的情况。这就是证据肯定存在的情况。（2 2）当）当P(E|S)=0P(E|S)=0时，此时式时，此时式(4.4.5)(4.4.5)变成变成这就是证据肯定不存在的情况。这就是证据肯定不存在的情况。4.4 4.4 主观主观BayesBayes方法方法（3 3）当）当P(E|S)=P(E)P(E|S)=P(E)时，表示时，表示E E与与S S无关，利用全概率公式无关，

23、利用全概率公式将公式将公式(4.4.5)(4.4.5)变为变为（4 4）当）当P(E|S)P(E|S)为其它值时，通过分段线性插值就可得计为其它值时，通过分段线性插值就可得计算算P(H|S)P(H|S)的公式的公式 该公式称为该公式称为EHEH公式或公式或UEDUED公式。公式。4.4 4.4 主观主观BayesBayes方法方法0 P(E)1 P(E|S)P(H|S)P(H|E)P(H)P(H|E)4 4组合证据的情况组合证据的情况 （1 1）当组合证据是多个单一证据的合取时，即）当组合证据是多个单一证据的合取时，即 E E=E E1 and 1 and E E2 and and 2 and

24、 and EnEn 时，如果已知时，如果已知 则则 P P(E E|S S)=)=minmin （2 2）当组合证据）当组合证据E E是多个单一证据的析取时，即是多个单一证据的析取时，即 E E=E E1 or 1 or E E2 or or 2 or or EnEn 时，如果已知时，如果已知 则，则，P P(E E|S S)=)=maxmax “非非”运算用下式计算运算用下式计算 4.4 4.4 主观主观BayesBayes方法方法 若有若有n n条知识都支持相同的结论条知识都支持相同的结论，而且每条知识的，而且每条知识的前提条件所对应的证据前提条件所对应的证据 都有相应的观察都有相应的观察

25、 与之对应，此时只要先对每条知识分别求出与之对应，此时只要先对每条知识分别求出 然后就可运用下述公式求出然后就可运用下述公式求出4.4 4.4 主观主观BayesBayes方法方法4.4.4 4.4.4 结论不确定性的合成算法结论不确定性的合成算法 4.4 4.4 主观主观BayesBayes方法方法例例2 2 设有如下知识设有如下知识R R1 1：IF IF A A THEN(20 THEN(20，1)1)B B1 1(0.03)(0.03)R R2 2：IF IF B B1 1 THEN(300 THEN(300，0.0001)0.0001)B B2 2(0.01)(0.01)求：求：P(

26、BP(B2 2|A)A)的值是多少？的值是多少？解解:（1 1）由于）由于A A必发生，由必发生，由R R1 1得得 （2 2）由于）由于B B1 1不是必发生的，所以需作插值处理。不是必发生的，所以需作插值处理。设设4.4.5 4.4.5 例子例子 4.4 4.4 主观主观BayesBayes方法方法当当时，有时，有，所以在此区间插值。，所以在此区间插值。由于由于4.4 4.4 主观主观BayesBayes方法方法解：依R1，P1（B）O（B1）O(B1|A1)=LSO(B1P(B1|A1使用规则R1后，B1的概率从上升到 4.4.5 4.4.5 例子例子3 3例例3 3 证据A1，A2必然

27、发生，且P（B1）规则如下：R1：A1B1 LS=20 LN=1;R2：A2B1 LS=300LN=1求B1的更新值。4.4 4.4 主观主观BayesBayes方法方法依R2：O(B1|A1A2)=300O(B1|A1P(B1|A1A2使用规则R2后，B1的概率从上升到4.4 4.4 主观主观BayesBayes方法方法解：由于B1不确定，所以讨论其前项证据的影响，用插值法。1）当A必然发生时，依R1，P（B1）O（B1）O(B1|A1)=LSO(B1P(B1|A1 2）当P(B1|A1)=1时，P(B2|B1)=P(B2|A)=LS*P(B2)/（(LS-1）*P(B2 4.4.5 4.4

28、.5 例子例子例例4 4证据A必然发生，且P（B1），P(B2规则如下：R1：AB1 LS=20 LN=1;R2：B1B2求B2的更新值。3）A对B1没影响，P(B1|A1)=P(B1时，由已知P(B2最后进行插值：P(B1|A)P(B1),P(B2|A)=0.01+(0.75188-0.01)(1-0.03)/(0.382-0.03)=0.3 主观主观BayesBayes方法的主要优点如下：方法的主要优点如下：（1 1）主观）主观BayesBayes方法中的计算公式大多是在概率论的基方法中的计算公式大多是在概率论的基础上推导出来的，具有较坚实的理论基础。础上推导出来的，具有较坚实的理论基础。

29、（2 2）知识的静态强度）知识的静态强度LSLS及及LNLN是由领域专家根据实验经验是由领域专家根据实验经验给出的，这就避免了大量的数据统计工作。另外，它给出的，这就避免了大量的数据统计工作。另外，它既用既用LSLS指出了证据指出了证据E E对结论对结论H H的支持程度，又用的支持程度，又用LNLN指出指出了了E E对对H H的必要性程度，这就比较全面地反映了证据与的必要性程度，这就比较全面地反映了证据与结论间因果关系，符合现实世界中某些领域的实际情结论间因果关系，符合现实世界中某些领域的实际情况，使推出的结论有较况，使推出的结论有较准确的确定性。准确的确定性。4.4 4.4 主观主观Baye

30、sBayes方法方法4.4.6 4.4.6 主观主观BayesBayes方法的主要优缺点方法的主要优缺点（3 3）主观）主观BayesBayes方法不仅给出了在证据肯定存在或肯定不方法不仅给出了在证据肯定存在或肯定不存在情况下由存在情况下由H H的先验概率更新为后验概率的方法，而的先验概率更新为后验概率的方法，而且还给出了在证据不确定情况下更新先验概率为后验概且还给出了在证据不确定情况下更新先验概率为后验概率的方法。另外，由其推理过程可以看出，它确实实现率的方法。另外，由其推理过程可以看出，它确实实现了不确定性的逐级传递。因此，可以说主观了不确定性的逐级传递。因此，可以说主观BayesBaye

31、s方法方法是一种比较实用且较灵活的不确定性推理方法。是一种比较实用且较灵活的不确定性推理方法。它的主要缺点如下它的主要缺点如下（1 1）要求领域专家在给出知识的同时给出）要求领域专家在给出知识的同时给出H H的先验概率的先验概率P(H)P(H)，这是比较困难的。，这是比较困难的。（2 2）BayesBayes方法中关于事件间独立性的要求使主观方法中关于事件间独立性的要求使主观BayesBayes方法的应用受到了限制。方法的应用受到了限制。4.4 4.4 主观主观BayesBayes方法方法 所谓可信度就是在实际生活中根据自己的经验对某一事所谓可信度就是在实际生活中根据自己的经验对某一事物或现象

32、进行观察，判断相信其为真得程度。物或现象进行观察，判断相信其为真得程度。例如，张三昨天没有上课，他的理由是肚子疼，就此理由例如，张三昨天没有上课，他的理由是肚子疼，就此理由而言，听话的人可能完全相信，也可能完全不相信，也可能而言，听话的人可能完全相信，也可能完全不相信，也可能在某种程度上相信，这与张三平时的表现和人们对他的话相在某种程度上相信，这与张三平时的表现和人们对他的话相信程度有关。信程度有关。这里的相信程度就是我们说的可信度。可信度也称为确定这里的相信程度就是我们说的可信度。可信度也称为确定性因子。性因子。4.5 4.5 可信度方法可信度方法4.5.1 4.5.1 可信度的概念可信度的

33、概念 在在以以产产生生式式作作为为知知识识表表示示的的专专家家系系统统MYCINMYCIN中中，用用以度量知识和证据的不确定性。以度量知识和证据的不确定性。显然，可信度具有较大的主观性和经验性，其准确显然，可信度具有较大的主观性和经验性，其准确性是难以把握的。但是，对于某一具体领域而言，由于性是难以把握的。但是，对于某一具体领域而言，由于该领域的专家具有丰富的专业知识和实践经验，要给出该领域的专家具有丰富的专业知识和实践经验，要给出该领域知识的可信度还是完全有可能的。另外，人工智该领域知识的可信度还是完全有可能的。另外，人工智能所面临的问题，通常都较难用精确的数学模型进行描能所面临的问题，通常

34、都较难用精确的数学模型进行描述，而且先验概率及条件概率的确定也比较困难，因此述，而且先验概率及条件概率的确定也比较困难，因此用可信度来表示知识及证据的不确定性仍然不失为一种用可信度来表示知识及证据的不确定性仍然不失为一种可行的方法。可行的方法。4.5 4.5 可信度方法可信度方法4.5 4.5 可信度方法可信度方法4.5.2 C-F4.5.2 C-F模型模型 C-F C-F模型是基于可信度表示的不确定性推理的基本方法，模型是基于可信度表示的不确定性推理的基本方法，其他可信度方法都是在此基础上发展起来的。其他可信度方法都是在此基础上发展起来的。1 1知识不确定性的表示知识不确定性的表示 2 2证

35、据不确定性的表示证据不确定性的表示3 3组合证据不确定性的算法组合证据不确定性的算法 4 4不确定性的传递算法不确定性的传递算法 5 5结论不确定性的合成算法结论不确定性的合成算法 4.5 4.5 可信度方法可信度方法4.5.3 4.5.3 可信度方法应用举例可信度方法应用举例 已知已知 R R1 1：IF IF A A1 1 THEN THEN B B1 1 CF(CF(B B1 1,A,A1 1；R R2 2:IF :IF A A2 2 THEN THEN B B1 1 CF(CF(B B1 1,A,A2 2；R R3 3:IF :IF B B1 1A A3 3 THEN THEN B B

36、2 2 CF(CF(B B2 2,B B1 1A A3 3)=0.8;)=0.8;初始证据为初始证据为A A1 1,A,A2 2,A,A3 3的可信度的可信度CFCF均设为均设为1 1，即即,CF(,CF(A A1 1)=CF()=CF(A A2 2)=CF()=CF(A A3 3)=1,)=1,对对B B1 1,B,B2 2一无所知一无所知,求求CF(CF(B B1 1)和和CF(CF(B B2 2)。例例4.5 4.5 可信度方法可信度方法 解解:由于对由于对B B1 1,B B2 2一无所知，所以使用合成算法进行计算。一无所知，所以使用合成算法进行计算。由题意得到推理网络如下图所示。由题

37、意得到推理网络如下图所示。B B2 2B B1 1A A3 3A A1 1A A2 24.5 4.5 可信度方法可信度方法(1)(1)对于知识对于知识 ,分别计算分别计算 (2)(2)利用合成算法计算利用合成算法计算 的综合可信度的综合可信度(3)(3)计算计算 的可信度，这时，的可信度，这时，作为作为 的证据，其可信度已由的证据，其可信度已由前面计算出来。，而前面计算出来。，而 的可信度为初始制定的的可信度为初始制定的1 1。由规则由规则 和公式和公式(4.5.1)(4.5.1)得到得到 所以，所求得的所以，所求得的 ，的可信度更新值分别为的可信度更新值分别为4.6 4.6 证据理论证据理论

38、4.6.1 4.6.1 基本概念基本概念 证据理论假设有一个不变的两两相斥的完备元素集合证据理论假设有一个不变的两两相斥的完备元素集合U U，如下图所示，这里如下图所示，这里U U为为 例如例如,U U=三轮车，汽车，火车三轮车，汽车，火车 U U=赤，橙，黄，绿，青，蓝，紫赤，橙，黄，绿，青，蓝，紫 U U=马，牛，羊，鸡，狗，兔马，牛，羊，鸡，狗，兔 图图4.4 4.4 证据理论说明图证据理论说明图4.6 4.6 证据理论证据理论4.6.2 D-S4.6.2 D-S理论理论 证据理论是用集合表示命题的。设证据理论是用集合表示命题的。设D D是变量是变量x x所有可能所有可能取值的集合，且取

39、值的集合，且D D中的元素是互斥的，在任一时刻中的元素是互斥的，在任一时刻x x都取都取D D中中的某一个元素为值，则称的某一个元素为值，则称D D为为x x的样本空间。在证据理论中，的样本空间。在证据理论中，D D的任何一个子集的任何一个子集A A都对应于一个关于都对应于一个关于x x的命题，称该命题为的命题，称该命题为“x x的值在的值在A A中中”。证据理论中，为了描述和处理不确定性，引入了概率分证据理论中，为了描述和处理不确定性，引入了概率分配函数、信任函数及似然函数等概念。配函数、信任函数及似然函数等概念。设设D D为样本空间，领域内的命题都用为样本空间，领域内的命题都用D D的子集

40、表示，则概的子集表示，则概率分配函数（率分配函数（Function of Probability AssignmentFunction of Probability Assignment）定义）定义如下。如下。定义定义4.6.1 4.6.1 设函数设函数M M：,且满足且满足则称则称M M是是 上的概率分配函数，上的概率分配函数，M M(A A)称为称为A A的基本概率函的基本概率函数（数（Function of Basic Probability AssignmentFunction of Basic Probability Assignment），即），即对于样本空间对于样本空间D D的任

41、一子集都分配一个概率值。的任一子集都分配一个概率值。4.6 4.6 证据理论证据理论1 1、概率分配函数、概率分配函数 定义定义4.6.2 4.6.2 设函数设函数BelBel：,且且 （）则称为命题则称为命题A A的信任函数（的信任函数（Function of BeliefFunction of Belief）,即命题即命题A A的信任函数值，就是的信任函数值，就是A A的所有子集的基本概率分配函数之和，的所有子集的基本概率分配函数之和，用来表示对用来表示对A A的总信任。的总信任。BelBel函数又称为下限函数，以函数又称为下限函数，以BelBel（A A）表示对命题）表示对命题A A为真

42、的信任程度。为真的信任程度。4.6 4.6 证据理论证据理论2.2.信任函数信任函数 似然函数（似然函数（Plausible FunctionPlausible Function）又称为不可驳斥）又称为不可驳斥函数或上限函数，下面给出它的定义。函数或上限函数，下面给出它的定义。定义定义4.6.3 4.6.3 似然函数似然函数:,:,且且 （）命题命题A A的似然函数值就是所有与的似然函数值就是所有与A A相交的子集的基本概相交的子集的基本概率分配函数之和，用来表示不否定率分配函数之和，用来表示不否定A A的信任度。的信任度。4.6 4.6 证据理论证据理论3.3.似然函数似然函数 因为因为 ，

43、所以，所以即即 由于由于 表示对表示对A A为真的信任程度，为真的信任程度，表示表示对对A A为非假的信任程度，因此可分别称为非假的信任程度，因此可分别称 和和 为对为对A A信任程度的下限和上限，记作信任程度的下限和上限，记作4.6 4.6 证据理论证据理论4 4信任函数与似然函数的关系信任函数与似然函数的关系 有时对同样的证据会得出两个不同的概率分配函数。有时对同样的证据会得出两个不同的概率分配函数。例如，对于样本空间例如，对于样本空间 ，从不同的来源可分别得，从不同的来源可分别得到如下两个概率分配函数：到如下两个概率分配函数：此时需要对它们进行组合，德普斯特提出的组合方法此时需要对它们进

44、行组合，德普斯特提出的组合方法可对这两个概率分配函数进行正交和运算。可对这两个概率分配函数进行正交和运算。4.6 4.6 证据理论证据理论5 5概率分配函数的正交和概率分配函数的正交和4.6 4.6 证据理论证据理论 设设 是两个概率分配函数，则其正交和是两个概率分配函数，则其正交和 为为 其中，其中，。如果如果 ,则正交和则正交和M M也是一个概率分配函数；也是一个概率分配函数；如果如果K K0,0,则不存在正交和则不存在正交和M M，称，称 矛盾。矛盾。定义定义4.6 4.6 证据理论证据理论定义定义 对于多个概率分配函数对于多个概率分配函数 ，如果它们，如果它们可以组合，则也可通过正交和

45、运算将它们组合为一个概率可以组合，则也可通过正交和运算将它们组合为一个概率分配函数，其定义如下。分配函数，其定义如下。设设 是是n n个概率分配函数，则其正交个概率分配函数，则其正交 和和 为为其中，其中，。4.6 4.6 证据理论证据理论定义定义6 6类概率函数类概率函数 除了可以利用区间除了可以利用区间(BelBel(A A)和和 )表示表示A A的不确定性的不确定性以外，还可以用以外，还可以用A A的类概率函数表示的类概率函数表示A A的不确定性。的不确定性。定义定义4.6.6 4.6.6 命题命题A A的类概率函数为的类概率函数为 其中，分别是其中，分别是A A及及D D中元素的个数。

46、中元素的个数。具有如下性质：具有如下性质：4.6 4.6 证据理论证据理论4.6.3 4.6.3 知识的不确定性的表示知识的不确定性的表示 在该模型中，不确定性知识用如下的产生式规则表示：在该模型中，不确定性知识用如下的产生式规则表示：IF IF E E THEN CF=THEN CF=其中，其中，（1 1）E E为前提条件，它是样本空间为前提条件，它是样本空间D D的子集。的子集。E E既可以是简单既可以是简单条件，也可以是用条件，也可以是用ANDAND或或OROR连接起来的复合条件。连接起来的复合条件。（2 2）H H是结论，它用样本空间中的子集表示，是结论，它用样本空间中的子集表示，是该

47、子集中的元素。是该子集中的元素。（3 3）CF CF 是可信度因子，用集合形式表示，其中，用来指出是可信度因子，用集合形式表示，其中，用来指出 的可信度，的可信度，与与 一一对应一一对应,应满足如下条件应满足如下条件4.6 4.6 证据理论证据理论4.6.4 4.6.4 证据的不确定性的表示证据的不确定性的表示 不确定性证据不确定性证据E E的确定性用的确定性用CER(CER(E E)表示。对于初始证据，其表示。对于初始证据，其确定性由用户给出；当用前面推理所得结论作为当前推理的证确定性由用户给出；当用前面推理所得结论作为当前推理的证据时，其确定性由推理得到。据时，其确定性由推理得到。CER(

48、CER(E E)的取值范围为的取值范围为 。1 1 组合证据不确定性的算法组合证据不确定性的算法 当组合证据是多个证据的合取，即当组合证据是多个证据的合取，即 时，时，则则E E的确定性的确定性CER(CER(E E)为为 当组合证据是多个证据的析取，即当组合证据是多个证据的析取，即 时，时，则则E E的确定性的确定性CER(CER(E E)为为4.6 4.6 证据理论证据理论2 2 不确定性的传递算法不确定性的传递算法 1 1）如果只有一条知识支持结论）如果只有一条知识支持结论H H，即，即 IF IF E E THEN THEN 结论结论H H的确定性通过下述步骤求出。的确定性通过下述步骤

49、求出。对于上述知识，对于上述知识，H H的概率分配函数规定为的概率分配函数规定为这样便求得这样便求得M M(H H)。4.6 4.6 证据理论证据理论 2 2）如果有两条知识支持同一结论，即）如果有两条知识支持同一结论，即 IF THEN IF THEN IF THEN IF THEN 结论结论H H的确定性通过下述步骤求出。的确定性通过下述步骤求出。首先分别对每一条知识求出概率分配函数：首先分别对每一条知识求出概率分配函数：然后再用公式然后再用公式对对 求正交和，从而得到求正交和，从而得到H H的概率分配函数的概率分配函数M M。4.6 4.6 证据理论证据理论 3 3）如果有）如果有n n

50、条知识都支持同一结论条知识都支持同一结论H H，则用公式，则用公式 对对 求其正交和，从而得到求其正交和，从而得到H H的概率分配的概率分配函数函数M M。最后求出最后求出4.6 4.6 证据理论证据理论 4 4）按如下公式求出）按如下公式求出H H的确定性的确定性CERCER(H H)CER CER(H H)=)=MDMD(H H|E E)f f(H H)其中，其中，MDMD(H H|E E)是知识的前提条件与相应证据是知识的前提条件与相应证据E E的匹配的匹配度，定义为度，定义为MDMD(H H|E E)这样，就对一条知识或者多条有相同结论的知识这样，就对一条知识或者多条有相同结论的知识求