不确定性推理方法概率基础PPT讲稿.ppt

《不确定性推理方法概率基础PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《不确定性推理方法概率基础PPT讲稿.ppt（39页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、不确定性推理方法概率基不确定性推理方法概率基础础第1页，共39页，编辑于2022年，星期三第3章作业的部分问题（续）3.只能置换变量，不可置换常量、函数4.求合一的步骤见P104-P105例：P(g(f(v),g(u)和 P(x,x)5.归结法步骤：声明谓词的含义；写出谓词公式（别忘了量词），按结论的否定写出谓词公式；将各公式的子句集求出；归结，得到；说明按归结原理，原题得证。注：参与归结的都是子句，不可出现包含的句子。注：第3章作业的部分参考答案已放在 1=g(f(v)/xP(g(f(v),g(f(v)2=g(f(v)/x,f(v)/uu/f(v)第2页，共39页，编辑于2022年，星期三5

2、 不确定性推理方法不确定性推理方法背景背景推理基于知识，而知识库包含大量模糊、随机、推理基于知识，而知识库包含大量模糊、随机、不可靠的知识。不可靠的知识。必须采用必须采用非精确非精确推理推理(即即不确定性不确定性推理推理)。AI的核心研究课题。的核心研究课题。第3页，共39页，编辑于2022年，星期三不确定性推理的发展史不确定性推理的发展史概率论是不确定性推理的理论基础之一。概率论是不确定性推理的理论基础之一。80年代，贝叶斯网络成功应用于专家系统。年代，贝叶斯网络成功应用于专家系统。75年，年，Shortliff等提出了确定性推理方法等提出了确定性推理方法(医疗诊医疗诊断系统断系统MYCIN

3、)。76年，年，DURA等提出了主观贝叶斯方法等提出了主观贝叶斯方法(地矿勘探地矿勘探系统系统PROSPECTOR)。76年，年，Dempster和和Shafer提出了证据理论提出了证据理论(D-S理论理论,又称广义概率论又称广义概率论)。83年，年，Zadeh等提出了模糊逻辑。等提出了模糊逻辑。第4页，共39页，编辑于2022年，星期三不确定性推理中的术语解释不确定性推理中的术语解释规则规则前件前件后件后件(产生式系统中产生式系统中)规则规则证据证据结论结论(不确定性推理中不确定性推理中)规则规则新证据新证据结论结论第5页，共39页，编辑于2022年，星期三5.1.1 不确定性的普遍存在不确

4、定性的普遍存在证据有不确定性，如证据有不确定性，如事实描述有歧义、事实描述有歧义、不精确、不精确、不肯定。不肯定。证据可以是证据可以是初始证据初始证据新证据新证据第6页，共39页，编辑于2022年，星期三5.1.1 不确定性的普遍存在不确定性的普遍存在(续续)规则规则是启发类是启发类(Heuristic)知识，描述由知识，描述由已有知识可推得哪些新知识。已有知识可推得哪些新知识。规则有不确定性。规则有不确定性。规则自身规则自身证据组合证据组合结论结论A1A2ANDBAB第7页，共39页，编辑于2022年，星期三5.1.1 不确定性的普遍存在不确定性的普遍存在(续续)推理过程推理过程的不确定性的

5、不确定性知识不确定性的知识不确定性的动态积累和传播的动态积累和传播的过程。过程。第8页，共39页，编辑于2022年，星期三5.1.2 基本问题基本问题(1)不确定性如何表示？不确定性如何表示？定量定量(数值数值)表示表示 例：例：P(A)是是A发生的概率，用作证据发生的概率，用作证据A的不确定的不确定性度量。性度量。定性定性(非数值非数值)表示表示 例：例：A很可能很可能(或可能、不太可能、一定或可能、不太可能、一定)发生。发生。第9页，共39页，编辑于2022年，星期三5.1.2 基本问题基本问题(2)不确定程度该如何计算？不确定程度该如何计算？已知已知P(A)和和P(B,A)，怎样求，怎样

6、求P(B)？已知已知P(B1,A)和和P(B2,A)，怎样求，怎样求P(A)？已知已知P(A1)和和P(A2)，怎样求，怎样求P(A1 A2)和和P(A1 A2)？各规则和初始证据的不确定性度一般由专家各规则和初始证据的不确定性度一般由专家给出。给出。第10页，共39页，编辑于2022年，星期三5.1.2 基本问题基本问题(3)不确定性度量代表什么含义？不确定性度量代表什么含义？P(B,A)可理解为可理解为A真对真对B真的影响程度。真的影响程度。P(A)可理解为可理解为A为真的程度。为真的程度。第11页，共39页，编辑于2022年，星期三5.1.3 推理方法的分类推理方法的分类形式化方法形式化

7、方法逻辑法逻辑法采用多值逻辑和非单调逻辑处理不确定性。采用多值逻辑和非单调逻辑处理不确定性。新计算法新计算法采用扩展的概率方法，表示不确定性。采用扩展的概率方法，表示不确定性。如：如：证据理论证据理论(D-S法法)、确定性方法、确定性方法(CF法法)、模糊、模糊逻辑法逻辑法第12页，共39页，编辑于2022年，星期三5.1.3 推理方法的分类推理方法的分类(续续)新概率法新概率法根据传统概率论，采用新方法描述不确定性。根据传统概率论，采用新方法描述不确定性。如：如：主观内叶斯方法、贝叶斯网络方法。主观内叶斯方法、贝叶斯网络方法。非形式化方法非形式化方法即启发性方法，对不确定性没有给出明确定即启

8、发性方法，对不确定性没有给出明确定义。义。第13页，共39页，编辑于2022年，星期三5.2 概率论基础概率论基础概率可表示随机现象发生的可能性。概率可表示随机现象发生的可能性。不确定性现象不同于随机现象，但用概率不确定性现象不同于随机现象，但用概率思考不确定性，效果不错。思考不确定性，效果不错。“新计算法新计算法”和和“新概率法新概率法”都是以概率都是以概率论为基础的。论为基础的。第14页，共39页，编辑于2022年，星期三5.2.1 随机事件随机事件样本空间样本空间()随机实验可能结果的集合。随机实验可能结果的集合。样本点样本点()一个可能出现的结果。一个可能出现的结果。随机事件随机事件(

9、A、B、)一些样本点的集合。一些样本点的集合。CAB第15页，共39页，编辑于2022年，星期三5.2.1 随机事件随机事件事件间的关系事件间的关系包含包含 等价等价 A=B 互斥互斥 对立对立 A=BABABA B第16页，共39页，编辑于2022年，星期三事件间的关系运算事件间的关系运算由已知事件，导出新事件。由已知事件，导出新事件。交交 并并 第17页，共39页，编辑于2022年，星期三事件间的关系运算事件间的关系运算(续续)差差 A发生而发生而B不发生不发生 求余求余 A=A ABAA第18页，共39页，编辑于2022年，星期三事件关系运算的性质事件关系运算的性质交换律交换律 结合律结

10、合律分配律分配律摩根律摩根律第19页，共39页，编辑于2022年，星期三运行符的优先顺序运行符的优先顺序 余余 交交 差差 并并高高低低第20页，共39页，编辑于2022年，星期三5.2.2 事件的概率事件的概率有有和和A，P(A)称作事件称作事件A发生的概率，发生的概率，当满足当满足:0P(A)1P()=1,P()=0AB=,则则P(A B)=P(A)+P(B)第21页，共39页，编辑于2022年，星期三完备事件族完备事件族An|n=1,2,称为完备称为完备事件事件族族,当当 对于任意对于任意i,j 1且且ij，Ai Aj=，且，且 。A1A1A2A2A3A3A4A4第22页，共39页，编辑

11、于2022年，星期三完备事件族完备事件族(续续)An|n=1,2,为完备事件族为完备事件族,则则 对于任意对于任意B,B Ai 第23页，共39页，编辑于2022年，星期三基本事件族基本事件族An|n=1,2,称为基本事件族称为基本事件族,当当An|n=1,2,是完备事件族；是完备事件族；且对于且对于任意任意B，有，有B An=An或或,这里，这里，n=1,2,。A1A1A2A2A3A3A4A4B B第24页，共39页，编辑于2022年，星期三基本事件族基本事件族(续续)An|n=1,2,为基本事件族为基本事件族,当当 B Ai 第25页，共39页，编辑于2022年，星期三统计概率统计概率(古

12、典概率古典概率)若在同一条件下，事件若在同一条件下，事件A出现频率为出现频率为m/n,则则m/n称为称为A的统计概率。的统计概率。第26页，共39页，编辑于2022年，星期三统计概率的性质统计概率的性质0P(A)1P()=1,P()=0对于任意对于任意A,P(A)=1 P(A)An|n=1,2,n中两两不相容，中两两不相容，则对于任意则对于任意A和和B，有，有第27页，共39页，编辑于2022年，星期三条件概率条件概率在事件在事件A 发生情况下发生情况下B 发生的条件概率发生的条件概率边缘概率边缘概率A与与B的联合概率（乘法公式）的联合概率（乘法公式）第28页，共39页，编辑于2022年，星期

13、三条件概率条件概率(续续)如果是统计概率，则如果是统计概率，则第29页，共39页，编辑于2022年，星期三C、D发生下发生下A、B发生的概率发生的概率另一种写法：另一种写法：第30页，共39页，编辑于2022年，星期三条件概率的性质条件概率的性质0P(B|A)1P(|A)=1,P(|A)=0若若B1,B2不相容，则不相容，则P(B1+B2|A)=P(B1|A)+P(B2|A)另一种写法：另一种写法：P(B1 B2|A)=P(B1|A)+P(B2|A)第31页，共39页，编辑于2022年，星期三条件概率的性质条件概率的性质(续续)乘法公式乘法公式(联合概率联合概率)P(A1A2An)=P(A1)

14、P(A2|A1)P(An|A1A2An-1)例：例：P(ABCD)=P(A|BCD)P(B|CD)P(C|D)P(D)第32页，共39页，编辑于2022年，星期三条件概率的性质条件概率的性质(续续)Ai|i=1,2,n是完备事件集，且是完备事件集，且P(Ai)0，则有全概率公式：，则有全概率公式：例：例：A+B+C=,对于任意对于任意D，有，有P(D)=P(A)P(D|A)+P(B)P(D|B)+P(C)P(D|C)=P(AD)+P(BD)+P(CD)=P(AD BD CD)=P(D)第33页，共39页，编辑于2022年，星期三事件的独立性事件的独立性若若P(AB)=P(A)P(B)，则，则A

15、与与B相互独立。相互独立。性质：性质：P(A)=0或或1，则，则A与任何事件独立。与任何事件独立。若若A，B独立，且独立，且P(B)0,则则P(A|B)=P(A)。若若A，B独立，则独立，则A与与B，A与与B，A与与 B都相互独立。都相互独立。Ai|i=1,2,n中事件相互独立，则其中事件相互独立，则其中任何一组事件之间相互独立。中任何一组事件之间相互独立。第34页，共39页，编辑于2022年，星期三5.2.3 贝叶斯定理贝叶斯定理(公式公式)Bi|i=1,2,n是一个完备事件集，是一个完备事件集，P(A)0,P(Bi)0,则则 P(Bi)称为先验概率，称为先验概率，P(Bi|A)称为后称为后

16、验概率，验概率，B1,B2,Bn为互不相容的原为互不相容的原因，因，A为结果。为结果。第35页，共39页，编辑于2022年，星期三5.2.4 信任几率信任几率概率基于重复的随机实验，而实际中事件不可重复。概率基于重复的随机实验，而实际中事件不可重复。A代表出红斑，代表出红斑，B代表出麻疹，代表出麻疹，P(B|A)理解为理解为“A成立时成立时B的可信度的可信度”。A=T，P(B|A)=1,则则B=T。A=T，P(B|A)=0，则，则B=F。A=T，0P(B|A)1，则不能确定，则不能确定B的值。的值。P(B|A)表示了存在证据表示了存在证据A时时B的似然性（或可信度）。的似然性（或可信度）。第36页，共39页，编辑于2022年，星期三信任几率信任几率事件发生与否的相对可能性，几率事件发生与否的相对可能性，几率O事件或证据事件或证据X的几率的几率O(X)与概率与概率P(X)的关的关系系O(X)称为先验几率，称为先验几率，O(B|A)称为后验几称为后验几率率第37页，共39页，编辑于2022年，星期三概率与几率的关系概率与几率的关系P(X)=0,则则O(X)=0P(X)=0.5,则则O(X)=1P(X)=1,则则O(X)=0 1 P(X)O(x)第38页，共39页，编辑于2022年，星期三第39页，共39页，编辑于2022年，星期三