人工智能—确定性推理.pptx

《人工智能—确定性推理.pptx》由会员分享，可在线阅读，更多相关《人工智能—确定性推理.pptx（92页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、确定性推理确定性推理4.1 4.1 基本概念基本概念 1.1.为什么要研究不确定性推理问题为什么要研究不确定性推理问题 现实世界的问题求解大部分是不良结构；现实世界的问题求解大部分是不良结构；对不良结构的知识描述具有不确定性：对不良结构的知识描述具有不确定性：1)1)问题证据的不确定性；问题证据的不确定性；2)2)专门知识的不确定性。专门知识的不确定性。2.2.什么是不确定性推理什么是不确定性推理 不确定性推理是建立在非经典逻辑基础上的一种推理，它是对不确定性推理是建立在非经典逻辑基础上的一种推理，它是对 不确定性知识的运用和处理。不确定性知识的运用和处理。不确定性推理就是从不确定性的初始证据

2、出发，通过运用不确不确定性推理就是从不确定性的初始证据出发，通过运用不确 定性的知识，最终推出具有一定程度的不确定性但却合理或者近定性的知识，最终推出具有一定程度的不确定性但却合理或者近 乎合理的结论的思维过程。乎合理的结论的思维过程。2023/4/181 127培训专用 3.3.不确定性推理中的基本问题不确定性推理中的基本问题 在不确定性推理中，知识和证据都具有某种程度的不确定性，在不确定性推理中，知识和证据都具有某种程度的不确定性，这就为推理机的设计与实现增加了复杂性和难度。它除了必须解这就为推理机的设计与实现增加了复杂性和难度。它除了必须解 决推理方向、推理方法、控制策略等基本问题外，一

3、般还需要解决推理方向、推理方法、控制策略等基本问题外，一般还需要解 决不确定性的表示和量度、不确定性匹配、不确定性的传递算法决不确定性的表示和量度、不确定性匹配、不确定性的传递算法 以及不确定性的合成等重要问题。以及不确定性的合成等重要问题。(1)(1)不确定性的表示与量度不确定性的表示与量度 知识不确定性的表示知识不确定性的表示 在确立其表示方法时，有两个直接相关的因素需要考虑：在确立其表示方法时，有两个直接相关的因素需要考虑：1)1)要能根据领域问题的特征把其不确定性比较准确地描述出要能根据领域问题的特征把其不确定性比较准确地描述出 来，满足问题求解的需要；来，满足问题求解的需要；2)2)

4、要便于推理过程中对不确定性的推算。要便于推理过程中对不确定性的推算。2023/4/182127培训专用 目前在专家系统中，知识的不确定性一般由领域专家给出，通常是一目前在专家系统中，知识的不确定性一般由领域专家给出，通常是一 个数值，它表示相应知识的不确定性程度，称为知识的个数值，它表示相应知识的不确定性程度，称为知识的静态强度静态强度。证据不确定性的表示证据不确定性的表示 在推理中，有两种来源不同的证据：在推理中，有两种来源不同的证据：1)1)一种是用户在求解问题时提供的初始证据；一种是用户在求解问题时提供的初始证据；2)2)另一种是在推理中用前面推出的结论作为当前推理的证据。另一种是在推理

5、中用前面推出的结论作为当前推理的证据。证据的不确定性表示方法应与知识的不确定性表示方法保持一致，以便于推理过程中对不确定证据的不确定性表示方法应与知识的不确定性表示方法保持一致，以便于推理过程中对不确定性进行统一处理。性进行统一处理。证据的不确定性通常也用一个数值表示，它代表相应证据的不确定性程度，证据的不确定性通常也用一个数值表示，它代表相应证据的不确定性程度，称为称为动态强度。动态强度。对于初始证据，其值由用户给出；对于初始证据，其值由用户给出；对推理所得证据，其值由推理中不确定性的传递算法通过计算得到。对推理所得证据，其值由推理中不确定性的传递算法通过计算得到。2023/4/183127

6、培训专用 不确定性的量度不确定性的量度 对于不同的知识和不同的证据，其不确定性的程度一般是不相同的，需要用不同的数据对于不同的知识和不同的证据，其不确定性的程度一般是不相同的，需要用不同的数据表示其不确定性的程度，同时还要事先规定它的取值范围。例如，在专家系统表示其不确定性的程度，同时还要事先规定它的取值范围。例如，在专家系统 MYCIN 中，中，用可信度表示知识与证据的不确定性，取值范围为用可信度表示知识与证据的不确定性，取值范围为-1，1。在确定一种量度及其范围时，应注意以下几点：在确定一种量度及其范围时，应注意以下几点：1)量度能充分表达相应知识及证据不确定性的程度。量度能充分表达相应知

7、识及证据不确定性的程度。2)量度范围的指定应便于领域专家及用户对不确定性的估计的程度。量度范围的指定应便于领域专家及用户对不确定性的估计的程度。3)量度要便于对不确定性的传递进行计算，而且对结论算出的不确定性量量度要便于对不确定性的传递进行计算，而且对结论算出的不确定性量度不能超出量度规定的范围。度不能超出量度规定的范围。4)量度的确定应是直观的。量度的确定应是直观的。2023/4/184127培训专用(2)(2)不确定性匹配算法及阈值的选择不确定性匹配算法及阈值的选择 对于不确定性推理，由于知识和证据都具有不确定性，而且知识所对于不确定性推理，由于知识和证据都具有不确定性，而且知识所 要求的

8、不确定性与证据实际具有的不确定性程度不一定相同，因而就出要求的不确定性与证据实际具有的不确定性程度不一定相同，因而就出 现了现了“怎样才算匹配成功怎样才算匹配成功”的问题。的问题。对于这个问对于这个问题题，目前常用的解决方法是：，目前常用的解决方法是：设计一个算法用来计算匹配双方相似的程度，另外再指定一个相似设计一个算法用来计算匹配双方相似的程度，另外再指定一个相似 的的“限度限度”，用来衡量匹配双方相似的程度是否落在指定的限度内。如果，用来衡量匹配双方相似的程度是否落在指定的限度内。如果 落在指定的限度内，就称它们是可匹配的，相应知识可被应用。落在指定的限度内，就称它们是可匹配的，相应知识可

9、被应用。用来计算匹配双方相似程度的算法称为用来计算匹配双方相似程度的算法称为不确定性匹配算法。不确定性匹配算法。用来指出相似的用来指出相似的“限度限度”称为称为阈值。阈值。2023/4/185 127培训专用(3)不确定性的传递算法不确定性的传递算法 不确定性推理的根本目的是根据用户提供的初始证据，通过运用不确定性知识，最终推出不确定性的不确定性推理的根本目的是根据用户提供的初始证据，通过运用不确定性知识，最终推出不确定性的结论，并推算出结论的不确定性程度。为达到这一目的，除了需要解决前面提到的问题外，还需要解决结论，并推算出结论的不确定性程度。为达到这一目的，除了需要解决前面提到的问题外，还

10、需要解决推理过程中不确定性的传递问题，它包括两个子问题：推理过程中不确定性的传递问题，它包括两个子问题：在每一步推理中，如何把证据及知识的不确定性传递给结论；在每一步推理中，如何把证据及知识的不确定性传递给结论；在多步推理中，如何把初始证据的不确定性传递给最终结论。在多步推理中，如何把初始证据的不确定性传递给最终结论。对前一个问题，在不同的不确定推理方法中所采用的处理方法各不相同，对前一个问题，在不同的不确定推理方法中所采用的处理方法各不相同，这将在以后讨论。这将在以后讨论。对第二个问题，各种推理方法所采用的处理方法基本相同，即：对第二个问题，各种推理方法所采用的处理方法基本相同，即：把当前推

11、出的结论及其不确定性程度作为证据放入数据库中，在以后的推理中，它又作把当前推出的结论及其不确定性程度作为证据放入数据库中，在以后的推理中，它又作为证据推出进一步的结论，由此一步步进行推理，必然会把初始证据的不确定性传递给最为证据推出进一步的结论，由此一步步进行推理，必然会把初始证据的不确定性传递给最终结论。终结论。2023/4/186127培训专用(4)(4)结论不确定性的合成结论不确定性的合成 推理时有时会出现这样的情况：推理时有时会出现这样的情况：用不同的知识进行推理得到了相同的结论，但不确定性的程度却不同。用不同的知识进行推理得到了相同的结论，但不确定性的程度却不同。此时，需要用合适的算

12、法对它们进行合成。此时，需要用合适的算法对它们进行合成。在不同的不确定推理方法中所采用的处理方法各不相同，这将在以后讨论。在不同的不确定推理方法中所采用的处理方法各不相同，这将在以后讨论。2023/4/187127培训专用4.2 不确定性推理方法的分类及常用不确定性推理方法简介不确定性推理方法的分类及常用不确定性推理方法简介1.不确定性推理方法的研究分类不确定性推理方法的研究分类不确定性推理方法的研究分为两大类：不确定性推理方法的研究分为两大类：(1)在推理一级上扩展确定性推理在推理一级上扩展确定性推理特点：特点：把不确定的证据和不确定的知识分别与某种量度标准对应起来，并且给出把不确定的证据和

13、不确定的知识分别与某种量度标准对应起来，并且给出更新结论不确定性的算法，从而构成了相应的不确定性推理的模型。更新结论不确定性的算法，从而构成了相应的不确定性推理的模型。一般来说，这类方法与控制策略无关，即无论用何种控制策略，推理的结一般来说，这类方法与控制策略无关，即无论用何种控制策略，推理的结果都是唯一的，我们把这一类方法称为果都是唯一的，我们把这一类方法称为模型方法模型方法。模型方法模型方法数值方法数值方法非数值方法：除数值方法之外的方法，如发生率计算，它采用集合非数值方法：除数值方法之外的方法，如发生率计算，它采用集合来描述和处理不确定性。来描述和处理不确定性。基于概率的方法（基于概率的

14、方法（依据概率论的有关理论发展起来的方法，依据概率论的有关理论发展起来的方法，主要有主观主要有主观Bayes、可信度、证据理论等方法可信度、证据理论等方法）模糊推理（根据模糊理论发展起来的方法）模糊推理（根据模糊理论发展起来的方法）2023/4/188 127培训专用(2)在控制策略一级处理不确定性在控制策略一级处理不确定性特点特点:通过识别领域中引起不确定的某些特征及相应的控制策略来限制或减少不通过识别领域中引起不确定的某些特征及相应的控制策略来限制或减少不确定性对系统产生的影响。确定性对系统产生的影响。这类方法没有处理不确定性的统一模型，其效果极大的依赖于控制策略这类方法没有处理不确定性的

15、统一模型，其效果极大的依赖于控制策略,这类方法称为控制方法。这类方法称为控制方法。（该方法有相关性制导回溯、机缘控制、启发式搜索等方法，在此不讨论）（该方法有相关性制导回溯、机缘控制、启发式搜索等方法，在此不讨论）2023/4/189127培训专用2 常用的不确定性推理方法介绍常用的不确定性推理方法介绍 (1)主观主观 Bayes Bayes 方法方法 利用新的信息将先验概率利用新的信息将先验概率P(H)P(H)更新为后验概率更新为后验概率P(H|E)P(H|E)的一种计算方法的一种计算方法.主观主观 BayesBayes方法由方法由 Dnda Dnda 等人于等人于 1976 1976 年提

16、出，其首先在年提出，其首先在ProspectorProspector专专 家系统中使用，它以概率论中的家系统中使用，它以概率论中的 BayesBayes公式为基础。公式为基础。其核心思想是：其核心思想是：.根据证据的概率根据证据的概率P(E);P(E);.利用规则的（利用规则的（LSLS，LNLN）；）；LSLS：E E 的出现对的出现对 H H 的支持程度，的支持程度，LN LN：E E 的出现对的出现对 H H 的不支持程度。的不支持程度。.把结论把结论 H H 的先验概率更新为后验概率的先验概率更新为后验概率 P(H|E)P(H|E)；.循环循环2023/4/1810127培训专用 (2

17、)可信度方法可信度方法 可信度方法是由可信度方法是由E.H.Shortliffe等人在确定性理论的基础上，结合概率等人在确定性理论的基础上，结合概率 提出的一种不确定性推理方法，首先在提出的一种不确定性推理方法，首先在Mycin系统中得到了成功的应用。系统中得到了成功的应用。其核心思想是：其核心思想是：利用确定性因子利用确定性因子CF（值）值）.联系于具体的断言联系于具体的断言 .联系于每条规则联系于每条规则 .通过通过CF的计算传播不确定性的计算传播不确定性 (3(3）证据理论法）证据理论法 由由DempstanDempstan和和 ShafenShafen提出并发展，其基于一系列理论和描述

18、。由于该理论满足比概率论更弱提出并发展，其基于一系列理论和描述。由于该理论满足比概率论更弱的公理，能够区分的公理，能够区分“不确定不确定”与与“不知道不知道”的差异，并能处理由的差异，并能处理由“不知道不知道”产生的不确定性，具产生的不确定性，具有较大的灵活性。有较大的灵活性。在证据理论的基础上已经发展了多种不确定性推理模型。在证据理论的基础上已经发展了多种不确定性推理模型。2023/4/1811127培训专用(4)4)模糊推理模糊推理 模糊推理与前三种不确定性推理方法有着实质性的区别，前三种方法的模糊推理与前三种不确定性推理方法有着实质性的区别，前三种方法的 理论基础是概率论，它所研究的事件

19、本身有明确的含义，只是由于发生的理论基础是概率论，它所研究的事件本身有明确的含义，只是由于发生的 条件不充分，使得在条件与事件之间不能出现确定的因果关系，从而在事条件不充分，使得在条件与事件之间不能出现确定的因果关系，从而在事 件的出现与否上出现不确定性，那些推理模型是对这种不确定性，即随机件的出现与否上出现不确定性，那些推理模型是对这种不确定性，即随机 性的表示与处理。性的表示与处理。模糊推理是利用模糊性知识进行的一种不确定性推理。模糊推理是利用模糊性知识进行的一种不确定性推理。模糊推理的理论基础是模糊集理论以及在此基础上发展起来的模糊逻辑。模糊推理的理论基础是模糊集理论以及在此基础上发展起

20、来的模糊逻辑。它所处理的事物自身是模糊的，概念本身没有明确的外延，一个对象是否它所处理的事物自身是模糊的，概念本身没有明确的外延，一个对象是否 符合这个概念难以明确的确定，模糊推理是对这种不确定性，即模糊性的符合这个概念难以明确的确定，模糊推理是对这种不确定性，即模糊性的 表示与处理。表示与处理。在人工智能领域内，知识及信息的不确定性大多是由模糊性引起的，这在人工智能领域内，知识及信息的不确定性大多是由模糊性引起的，这 就使得对模糊理论的研究显得格外重要。就使得对模糊理论的研究显得格外重要。2023/4/1812127培训专用4.3 概率方法概率方法 1.经典概率方法经典概率方法设有如下产生式

21、规则：设有如下产生式规则：IF E THEN HIF E THEN HIF E THEN HIF E THEN H (其中，其中，E E为前提条件，为前提条件，H H为结论。为结论。)如果我们在实践中能得出在如果我们在实践中能得出在E E发生条件下发生条件下H H的条件概率的条件概率P(H/E),P(H/E),那么就可把它那么就可把它 作为在证据作为在证据E E出现时结论出现时结论H H的确定性程度。的确定性程度。对于复合条件对于复合条件 E=EE=EE=EE=E1 1 1 1 AND E AND E AND E AND E2 2 2 2 ANDAND E ANDAND E ANDAND E

22、ANDAND En n n n 也是这样，当已知条件概率也是这样，当已知条件概率P(H/EP(H/E1 1,E,E2 2,E,En n),),就可把它作为在证据就可把它作为在证据E E1 1,E,E2 2,E,En n 出现时结论出现时结论H H的确定性程度。的确定性程度。优点：优点：显然这是一种很简单的方法，只能用于简单的不确定性推理。显然这是一种很简单的方法，只能用于简单的不确定性推理。缺点：缺点：由于它只考虑证据为真或为假两种极端情况，因而使其应用受到限制。由于它只考虑证据为真或为假两种极端情况，因而使其应用受到限制。2023/4/1813127培训专用2.逆概率方法逆概率方法经典概率方

23、法要求给出在证据经典概率方法要求给出在证据E出现情况下结论出现情况下结论H的条件概率的条件概率P(H/E),这在实这在实际应用中是相当困难的。际应用中是相当困难的。例例:若以若以E代表咳嗽，以代表咳嗽，以H代表支气管炎，如欲得到在咳嗽的人中有多少是患代表支气管炎，如欲得到在咳嗽的人中有多少是患支气管炎的，就需要作大量的统计工作支气管炎的，就需要作大量的统计工作;但是如果在患支气管炎的人中统计有多少人是咳嗽的，就相对容易一些，但是如果在患支气管炎的人中统计有多少人是咳嗽的，就相对容易一些，因为患支气管炎的人毕竟比咳嗽的人少得多。因为患支气管炎的人毕竟比咳嗽的人少得多。解决方法：可用逆概率解决方法

24、：可用逆概率解决方法：可用逆概率解决方法：可用逆概率P(E/H)P(E/H)来求原概率来求原概率来求原概率来求原概率P(H/E)P(H/E)。(Bayes定理给出了解决这定理给出了解决这 个问题的方法。个问题的方法。)(1)Bayes定理定理:若若A1,A2,An是彼此独立的事件，则对任何事件是彼此独立的事件，则对任何事件B有如下有如下Bayes公式成立：公式成立：P(AP(Ai i/B)=i=1,2,.n/B)=i=1,2,.n2023/4/1814127培训专用 其中，其中，P(AP(Ai i)是事件是事件A Ai i的先验概率；的先验概率；P(B/A P(B/Ai i)是事件在是事件在A

25、 Ai i发生条件下的事件发生条件下的事件B B的条件概率；的条件概率；P(A P(Ai i/B/B)是事件在是事件在B B发生条件下的事件发生条件下的事件A Ai i的条件概率。的条件概率。(2)(2)单个证据时单个证据时 如果用产生式规则：如果用产生式规则：IF E IF E THEN HTHEN Hi i (IF (IF 咳嗽咳嗽 THEN THEN 气管炎）气管炎）中的前提条件中的前提条件E E代替代替BayesBayes公式中的公式中的B,B,用用H Hi i代替公式中的代替公式中的A Ai i,就可得到就可得到 P(HP(Hi i/E)=i=1,2,.n/E)=i=1,2,.n这这

26、就就是是说说，当当已已知知结结论论H Hi i的的先先验验概概率率P(HP(Hi i),),并并且且已已知知结结论论H Hi i(i=1,2,.n)(i=1,2,.n)成成立立时时前前提提条条件件E E所所对对应应的的证证据据所所出出现现的的条条件件概概率率P(E/HP(E/Hi i),),就就可可用用上上式式求求出出相相应应证证据据出出现现时时结结论论H Hi i的的条条件件概概率率P P(H(Hi i/E)/E)。2023/4/1815127培训专用例：设例：设H H1 1,H,H2 2,H,H3 3分别是三个结论，分别是三个结论，E E是支持这些结论的证据，且已知：是支持这些结论的证据，

27、且已知：P(H P(H1 1)=0.3 P(H)=0.3 P(H2 2)=0.4,P(H)=0.4,P(H3 3)=0.5)=0.5 P(E/H P(E/H1 1)=0.5 P(E/H)=0.5 P(E/H2 2)=0.3 P(E/H)=0.3 P(E/H3 3)=0.4)=0.4 求求P(HP(H1 1/E),P(H/E),P(H2 2/E),P(H/E),P(H3 3/E),/E),的值各是多少。的值各是多少。解：根据上面的公式解：根据上面的公式 P(HP(H1 1/E)=/E)=0.32 =0.32 同理可得：同理可得：P(HP(H2 2/E)=0.26/E)=0.26 P(H P(H3

28、 3/E)=0.43/E)=0.43 由此可见，证据由此可见，证据E E的出现，的出现，H H1 1成立的可能性略有增加，成立的可能性略有增加，H H2 2、H H3 3略有下降。略有下降。2023/4/1816127培训专用(3)有多个证据时有多个证据时对于有多个证据对于有多个证据E1,E2,Em和多个结论和多个结论H1,H2,Hn，并且每个证据都以并且每个证据都以一定的程度支持结论的情况，上面的式子可进一步扩充为：一定的程度支持结论的情况，上面的式子可进一步扩充为：P(HP(Hi i/E/E1 1 E E2 2EEm m)=)=i=1,2,3,n i=1,2,3,n(4)(4)小结小结 优

29、点：有较强的理论背景和良好的数学特性，当证据及结论都彼此独立时计优点：有较强的理论背景和良好的数学特性，当证据及结论都彼此独立时计 算的复杂度较低；算的复杂度较低；缺点：它要求给出结论缺点：它要求给出结论H Hi i的先验概率的先验概率P(HP(Hi i)及证据及证据E Ej j的条件概率的条件概率P(EP(Ej j/H/Hi i)，尽尽 管有些时候管有些时候P(EP(Ej j/H/Hi i)比比 P(HP(Hi i/E/Ej j)相对容易得到，但总的来说，想得到相对容易得到，但总的来说，想得到 这些数据是相当困难的；这些数据是相当困难的；另外，另外，BayesBayes公式的应用条件很严格，

30、它要求各事件相互独立。公式的应用条件很严格，它要求各事件相互独立。2023/4/1817127培训专用设已知设已知P(H1)=0.4P(H2)=0.3P(H3)=0.3P(E1/H1)=0.5P(E1/H2)=0.6P(E1/H3)=0.3P(E2/H1)=0.7P(E2/H2)=0.9P(E2/H3)=0.1求：求：P(H1/E1E2)P(H2/E1E2)P(H3/E1E2)0.450.520.032023/4/1818127培训专用作业作业2023/4/1819127培训专用4.4 主观主观 Bayes 方法方法 鉴于上节所述的直接使用鉴于上节所述的直接使用Bayes公式带来的诸多不便，公

31、式带来的诸多不便，1976年年 R.O.Doda、P.E.Hart 等人在等人在 Bayes 公式的基础上经适当改进提出了主观公式的基础上经适当改进提出了主观 Bayes 方法，建方法，建立了相应的不确定推理模型，并在地矿勘探专家系统立了相应的不确定推理模型，并在地矿勘探专家系统 PROSPECTOR 中得到了中得到了成功的应用。成功的应用。1.知识不确定性的表示知识不确定性的表示 在主观在主观 Bayes 方法中，知识是用产生式规则表示的，具体形式为：方法中，知识是用产生式规则表示的，具体形式为：if E then (LS,LN)H (P(H)其中其中 E 是该条知识的前提条件，它既可以是一

32、个简单条件，是该条知识的前提条件，它既可以是一个简单条件，也可以是用也可以是用 and 、or 把单个条件连接起来的复合条件。把单个条件连接起来的复合条件。H 是结论，是结论，P(H)是是 H 的先验概率，它指出在没有任何专门的先验概率，它指出在没有任何专门 证据的情况下，结论为真的概率，证据的情况下，结论为真的概率，其值由领域专家根据其值由领域专家根据 以往的实践及经验给出。以往的实践及经验给出。2023/4/1820127培训专用 LS 称为充分性量度，用于指出称为充分性量度，用于指出 E 对对 H 的支持程度，取值范围的支持程度，取值范围 为为 0，），其定义为：），其定义为：LS=LS

33、 的值由领域专家给出，具体情况在下面论述。的值由领域专家给出，具体情况在下面论述。LN 称为必要性量度，用于指出称为必要性量度，用于指出 E 对对 H 的支持程度，取值范的支持程度，取值范 围为围为 0，），其定义为：），其定义为：LN=LN 的值也由领域专家给出，具体情况在下面论述。的值也由领域专家给出，具体情况在下面论述。LS,LN 相当于知识的静态强度。相当于知识的静态强度。P(E/H)P(E/H)P(E/H)P(E/z H)1 P(E/H)1 P(E/H)2023/4/1821127培训专用2.证据不确定性的表示证据不确定性的表示 在主观在主观 Bayes 方法中，证据的不确定性也是用

34、概率表示的。方法中，证据的不确定性也是用概率表示的。例如，对于初始证据例如，对于初始证据 E，由用户根据观察由用户根据观察 S 给出给出 P(E/S)，它相当于它相当于动态强度。动态强度。但由于但由于 P(E/S)的给出相当困难，因而在具体的应用系统中的给出相当困难，因而在具体的应用系统中 往往采用适当的变通方法，如在往往采用适当的变通方法，如在 PROSPECTOR 中引进了可信中引进了可信 度的概念，让用户在度的概念，让用户在 5 至至 5 之间的之间的 11 个整数中选一个数作为个整数中选一个数作为 初始证据的可信度。初始证据的可信度。可信度可信度 C(E/S)与与 概率概率 P(E/S

35、)的对应关系如下：的对应关系如下：C(E/S)=5，表示在观察表示在观察 S 下证据下证据 E 肯定不存在，即肯定不存在，即 P(E/S)=0；C(E/S)=0，表示表示 S 与与 E 无关，即无关，即 P(E/S)=P(E)；C(E/S)=5，表示在观察表示在观察 S 下证据下证据 E 肯定存在，即肯定存在，即 P(E/S)=1；2023/4/1822127培训专用C(E/S)=其它数值时与其它数值时与 P(E/S)的对应关系，可通过对上述三点进行分段线性的对应关系，可通过对上述三点进行分段线性 插值得到，如下图。插值得到，如下图。P(E/S)1P(E)C(E/S)-5-4-3-2-1012

36、345由上图可得到由上图可得到 C(E/S)与与 P(E/S)的关系式：的关系式：P(E/S)=若若0 C(E/S)5若若 5 C(E/S)1 时，时，P(H/E)P(H)，这表明由于证据这表明由于证据 E 的存在，将增大的存在，将增大 结论结论 H 为真的概率，且为真的概率，且 LS 越大，越大，P(H/E)就越大，即就越大，即 E 对对 H 为真的支持越强。当为真的支持越强。当 LS ，P(H/E)1，E 的存在对的存在对 H 为真是充分的，故称为真是充分的，故称 LS 为充分性量度。为充分性量度。当当 LS=1 时，时，P(H/E)=P(H)，这表明这表明 E 与与 H 无关。无关。当当

37、 LS 1 时，时，P(H/E)1 时，由上式得：时，由上式得：P(H/E)P(H)这表明由于证据这表明由于证据 E 的不存在，将增大的不存在，将增大 结论结论 H 为真为真 的概率，且的概率，且 LN 越大，越大，P(H/E)就越大，即就越大，即 E 对对 H 为真的支持越强。当为真的支持越强。当 LN ，P(H/E)1。当当 LN=1 时，时，P(H/E)=P(H)，这表明这表明 E 与与 H 无关。无关。当当 LN 1 时，时，P(H/E)1，LN 1 LS 1，LN 1 (3)证据不确定的情况证据不确定的情况 在现实中，证据肯定存在或肯定不存在的极端情况是不多的，在现实中，证据肯定存在

38、或肯定不存在的极端情况是不多的，更多的是介于两者之间的不确定情况。更多的是介于两者之间的不确定情况。现在要在现在要在 0 P(E/S)1 的情况下确定的情况下确定 H 的后验概率的后验概率 P(H/S)。在证据不确定的情况下，不能再用上面的公式计算后验概率，在证据不确定的情况下，不能再用上面的公式计算后验概率，而需使用而需使用 R.O.Doda 等人等人1976年证明的如下公式：年证明的如下公式：P(H/S)=P(H/E)P(E/S)+P(H/E)P(E/S)2023/4/1830127培训专用R1:IF E1 THEN(10,1)H1(0.03)R2:IF E1 THEN(10,1)H2(0

39、.03)R3:IF E1 THEN(10,1)H3(0.03)求：当证据E1,E2,E3,存在即不存在时候 P(Hi/Ei)以及P（Hi/!Ei）的值是多少由于r1和r2中的LN1，所以E1和E2不存在时对H1和H2产生影响，不需要计算P（H1/!E1）P（H2/!E2），要计算P（H1/E1）P（H2/E2）由于E1的存在使得H1的可能性增加了8倍，由于E2的存在使得H2为真的可能性增加了10倍2023/4/1831127培训专用由于E3的不存在，使H3为真的可能性，削减了350倍2023/4/1832127培训专用 下面分四种情况讨论：下面分四种情况讨论：1)P(E/S)=1 当当 P(E

40、/S)=1 时，时，P(E/S)=0，此时公式此时公式 变为：变为：P(H/S)=P(H/E)=这是证据肯定存在的情况。这是证据肯定存在的情况。2)P(E/S)=0 当当 P(E/S)=0 时，时，P(E/S)=1，此时公式此时公式 变为：变为：P(H/S)=P(H/E)=这是证据肯定不存在的情况。这是证据肯定不存在的情况。LS P(H)(LS1)P(H)+1LN P(H)(LN1)P(H)+12023/4/1833127培训专用 3)P(E/S)=P(E)当当 P(E/S)=P(E)时，此时公式时，此时公式 变为：变为：P(H/S)=P(H/E)P(E)+P(H/E)P(E)=P(H)表示表

41、示 H 与与 S 无关。无关。4)当当 P(E/S)=其它值时其它值时，通过分段线性插值可得到计算，通过分段线性插值可得到计算P(H/S)的公式。的公式。全概率公式全概率公式2023/4/1834127培训专用 P(H/E)+P(E/S)若若 0 P(E/S)01515P(H/S)=该公式称为该公式称为CP公式。公式。当用初始证据进行推理时，根据用户告知的C(E/s)运用CP,就可以求出P(H/s)当用推理过程中得到的中间结论作为证据进行推理时，通过运用EH公式就可求出P(H/S)2023/4/1836127培训专用 5.结论不确定性的合成算法结论不确定性的合成算法 若有若有n条知识都支持相同

42、的结论，而且每条知识的前提条件所对应的证据条知识都支持相同的结论，而且每条知识的前提条件所对应的证据Ei（i=1,2,n）都都有相应的观察有相应的观察Si 与之对应与之对应,此时只要先求出每条知识的此时只要先求出每条知识的 (H/Si)，然后就可运用下然后就可运用下述公式求出述公式求出 O(H/S1,S2,Sn)。O(x)=P(x)1-P(x)P(x)=O(x)1+O(x)O(H/S1)O(H)O(H/S2)O(H)O(H/Sn)O(H)O(H/S1,S2,Sn)=O(H)其中其中O 为几率函数，它与概率的关系为：为几率函数，它与概率的关系为：2023/4/1837127培训专用例：设有如下知

43、识：例：设有如下知识：r r1 1:if E:if E1 1 then (then (2 2,0.001)H,0.001)H1 1 r r2 2:if E:if E2 2 then (then (100100,0.001)H,0.001)H2 2 r r3 3:if H:if H1 1 then (then (200200,0.01)H,0.01)H2 2 已知：已知：P(HP(H1 1)=0.09)=0.09 P(H P(H2 2)=0.01)=0.01 C(E C(E1 1/S/S1 1)=2)=2 C(E C(E2 2/S/S3 3)=1)=1 求：求：P(HP(H2 2/S/S1 1,

44、S,S2 2)=?)=?(或或 O(H(H2 2/S/S1 1,S,S2 2)=?)=?）H2H1E1E2S2S1(200,0.01)(100,0.001)(2,0.001)C(EC(E1 1/S/S1 1)=2)=2C(EC(E2 2/S/S3 3)=1)=1 解解：O(H1)=P(H1)1-P(H1)=0.09/(1-0.09)=0.1O(H2)=P(H2)1-P(H2)=0.01/(1-0.01)=0.012023/4/1838127培训专用 2 2 0.090.09(2-1)(2-1)0.09+10.09+1P(HP(H1 1/E/E1 1)=)=LSLS1 1 P(HP(H1 1)(

45、LS(LS1 11)1)P(HP(H1 1)+1)+1=0.17(1)(1)计算计算 P(HP(H1 1/S/S1 1)(O(H(H1 1/S/S1 1)对于初始证据，对于初始证据，使用使用CPCP公式，公式，C(EC(E1 1/S/S1 1)=2 0)=2 0 使用使用CPCP公式的后半部。公式的后半部。P(HP(H1 1)+)+P(HP(H1 1/E/E1 1)P(HP(H1 1)C(E C(E1 1/S/S1 1)1 15 5P(HP(H1 1/S/S1 1)=)=0.09+0.17-0.09=0.09+0.17-0.09 2 2 1/51/5=0.122=0.122O(H(H1 1/S

46、/S1 1)=)=P(H1/S1)1-P(H1/S1)0.122 0.1221-0.1221-0.122=0.14=2023/4/1839127培训专用 100 100 0.090.09(100-1)(100-1)0.09+10.09+1P(HP(H1 1/E/E2 2)=)=LSLS2 2 P(HP(H1 1)(LS(LS2 21)1)P(HP(H1 1)+1)+1=0.91(2)(2)计算计算 P(HP(H1 1/S/S2 2)(O(H(H1 1/S/S2 2)对于初始证据，使用对于初始证据，使用CPCP公式，公式，C(EC(E2 2/S/S2 2)=1 0)=1 0 使用使用CPCP公式

47、的后半部。公式的后半部。P(HP(H1 1)+)+P(HP(H1 1/E/E2 2)P(HP(H1 1)C(E C(E2 2/S/S2 2)1 15 5P(HP(H1 1/S/S2 2)=)=0.09+0.91-0.09=0.09+0.91-0.09 1 1 1/51/5=0.254=0.254O(H(H1 1/S/S2 2)=)=P(H1/S2)1-P(H1/S2)0.254 0.2541-0.2541-0.254=0.34=2023/4/1840127培训专用(3)(3)计算计算 P(P(H H1 1/S/S1 1,S,S2 2)(O(H(H1 1/S/S1 1,S,S2 2)=(0.14

48、/0.1)(0.14/0.1)(0.34/0.1)(0.34/0.1)0.10.1=0.476=0.476 O(H(H1 1/S/S1 1)O(H(H1 1)O(H(H1 1/S/S1 1,S,S2 2)=)=O(H(H1 1/S/S2 2)O(H(H1 1)O(H(H1 1)P(P(H H1 1/S/S1 1,S,S2 2)=O(H H1 1/S/S1 1,S,S2 2)1+1+O(H H1 1/S/S1 1,S,S2 2)=0.476/(1+0.476)=0.3222023/4/1841127培训专用(4)(4)计算计算 P(HP(H2 2/S/S1 1,S,S2 2)(O(H(H2 2/

49、S/S1 1,S,S2 2)使用使用EHEH公式公式 P(P(H H1 1/S/S1 1,S,S2 2)P(H)P(H1 1)使用使用EHEH公式的后半部。公式的后半部。200 200 0.010.01(200-1)(200-1)0.01+10.01+1P(HP(H2 2/H/H1 1)=)=LSLS3 3 P(HP(H2 2)(LS(LS3 31)1)P(HP(H2 2)+1)+1=0.67P(HP(H1 1/S/S1 1,S,S2 2)P(H)P(H1 1)1 P(H 1 P(H1 1)P(HP(H2 2/S/S1 1,S,S2 2)=)=P(HP(H2 2)+)+P(HP(H2 2/H/

50、H1 1)P(H P(H2 2)=0.01+(0.322-0.09)/(1-0.01)=0.01+(0.322-0.09)/(1-0.01)(0.67-0.01)(0.67-0.01)=0.165=0.165O(H(H2 2/S1,S/S1,S2 2)=)=P(H2/S1,S2)1-P(H2/S1,S2)0.165 0.1651-0.1651-0.165=0.198=H2的先验概率为的先验概率为0.01，而最后算出的后验概率为，而最后算出的后验概率为0.198，增加了近，增加了近20倍。倍。2023/4/1842127培训专用6.主观主观 Bayes 方法的主要由缺点：方法的主要由缺点：主要优