不确定性推理方法概率基础.ppt

《不确定性推理方法概率基础.ppt》由会员分享，可在线阅读，更多相关《不确定性推理方法概率基础.ppt（39页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第3章作业的部分问题1.看清括号，看清联结词的优先顺序2.求谓词公式的字句集的步骤（P100）1.消 2.移到量词之后3.扩大量词辖域 xP(X)xQ(X)=x(P(X)Q(X)4.将辖域内变为简单合取式5.引入skolem函数，消去量词6.得到子句集(x)P(x)(y)P(y)P(f(x,y)(y)Q(x,y)P(y)xP(x)yP(y)P(f(x,y)yQ(x,y)P(y)xP(XxP(X)xQ(XxQ(X)=x(P(X)Q(X)=x(P(X)Q(X)换名要等到不得不换的时候再进行。4,5步之间不可用“=”联结（P100倒数第3行）。第3章作业的部分问题（续）3.只能置换变量，不可置换常量

2、、函数4.求合一的步骤见P104-P105例：P(g(f(v),g(u)和 P(x,x)5.归结法步骤：声明谓词的含义；写出谓词公式（别忘了量词），按结论的否定写出谓词公式；将各公式的子句集求出；归结，得到；说明按归结原理，原题得证。注：参与归结的都是子句，不可出现包含的句子。注：第3章作业的部分参考答案已放在 1=g(f(v)/xP(g(f(v),g(f(v)2=g(f(v)/x,f(v)/uu/f(v)5 不确定性推理方法不确定性推理方法背景背景推理基于知识，而知识库包含大量模糊、随机、推理基于知识，而知识库包含大量模糊、随机、不可靠的知识。不可靠的知识。必须采用必须采用非精确非精确推理推

3、理(即即不确定性不确定性推理推理)。AI的核心研究课题。的核心研究课题。不确定性推理的发展史不确定性推理的发展史概率论是不确定性推理的理论基础之一。概率论是不确定性推理的理论基础之一。80年代，贝叶斯网络成功应用于专家系统。年代，贝叶斯网络成功应用于专家系统。75年，年，Shortliff等提出了确定性推理方法等提出了确定性推理方法(医医疗诊断系统疗诊断系统MYCIN)。76年，年，DURA等提出了主观贝叶斯方法等提出了主观贝叶斯方法(地矿勘地矿勘探系统探系统PROSPECTOR)。76年，年，Dempster和和Shafer提出了证据理论提出了证据理论(D-S理论理论,又称广义概率论又称广义

4、概率论)。83年，年，Zadeh等提出了模糊逻辑。等提出了模糊逻辑。不确定性推理中的术语解释不确定性推理中的术语解释规则规则前件前件后件后件(产生式系统中产生式系统中)规则规则证据证据结论结论(不确定性推理中不确定性推理中)规则规则新证据新证据结论结论5.1.1 不确定性的普遍存在不确定性的普遍存在证据有不确定性，如证据有不确定性，如事实描述有歧义、事实描述有歧义、不精确、不精确、不肯定。不肯定。证据可以是证据可以是初始证据初始证据新证据新证据5.1.1 不确定性的普遍存在不确定性的普遍存在(续续)规则规则是启发类是启发类(Heuristic)知识，描述知识，描述由已有知识可推得哪些新知识。由

5、已有知识可推得哪些新知识。规则有不确定性。规则有不确定性。规则自身规则自身证据组合证据组合结论结论A1A2ANDBAB5.1.1 不确定性的普遍存在不确定性的普遍存在(续续)推理过程推理过程的不确定性的不确定性知识不确定性的知识不确定性的动态积累和传播的动态积累和传播的过程。过程。5.1.2 基本问题基本问题(1)不确定性如何表示？不确定性如何表示？定量定量(数值数值)表示表示 例：例：P(A)是是A发生的概率，用作证据发生的概率，用作证据A的不确定的不确定性度量。性度量。定性定性(非数值非数值)表示表示 例：例：A很可能很可能(或可能、不太可能、一定或可能、不太可能、一定)发生。发生。5.1

6、.2 基本问题基本问题(2)不确定程度该如何计算？不确定程度该如何计算？已知已知P(A)和和P(B,A)，怎样求，怎样求P(B)？已知已知P(B1,A)和和P(B2,A)，怎样求，怎样求P(A)？已知已知P(A1)和和P(A2)，怎样求，怎样求P(A1A2)和和P(A1A2)？各规则和初始证据的不确定性度一般由专家各规则和初始证据的不确定性度一般由专家给出。给出。5.1.2 基本问题基本问题(3)不确定性度量代表什么含义？不确定性度量代表什么含义？P(B,A)可理解为可理解为A真对真对B真的影响程度。真的影响程度。P(A)可理解为可理解为A为真的程度。为真的程度。5.1.3 推理方法的分类推理

7、方法的分类形式化方法形式化方法逻辑法逻辑法采用多值逻辑和非单调逻辑处理不确定性。采用多值逻辑和非单调逻辑处理不确定性。新计算法新计算法采用扩展的概率方法，表示不确定性。采用扩展的概率方法，表示不确定性。如：如：证据理论证据理论(D-S法法)、确定性方法、确定性方法(CF法法)、模糊逻辑法模糊逻辑法5.1.3 推理方法的分类推理方法的分类(续续)新概率法新概率法根据传统概率论，采用新方法描述不确定性。根据传统概率论，采用新方法描述不确定性。如：如：主观内叶斯方法、贝叶斯网络方法。主观内叶斯方法、贝叶斯网络方法。非形式化方法非形式化方法即启发性方法，对不确定性没有给出明确即启发性方法，对不确定性没

8、有给出明确定义。定义。5.2 概率论基础概率论基础概率可表示随机现象发生的可能性。概率可表示随机现象发生的可能性。不确定性现象不同于随机现象，但用概率不确定性现象不同于随机现象，但用概率思考不确定性，效果不错。思考不确定性，效果不错。“新计算法新计算法”和和“新概率法新概率法”都是以概率都是以概率论为基础的。论为基础的。5.2.1 随机事件随机事件样本空间样本空间()随机实验可能结果的集合。随机实验可能结果的集合。样本点样本点()一个可能出现的结果。一个可能出现的结果。随机事件随机事件(A、B、)一些样本点的集合。一些样本点的集合。CAB5.2.1 随机事件随机事件事件间的关系事件间的关系包含

9、包含 等价等价 A=B 互斥互斥 对立对立 A=BABABA B事件间的关系运算事件间的关系运算由已知事件，导出新事件。由已知事件，导出新事件。交交 并并 事件间的关系运算事件间的关系运算(续续)差差 A发生而发生而B不发生不发生 求余求余 A=A ABAA事件关系运算的性质事件关系运算的性质交换律交换律 结合律结合律分配律分配律摩根律摩根律运行符的优先顺序运行符的优先顺序 余余 交交 差差 并并高高低低5.2.2 事件的概率事件的概率有有和和A，P(A)称作事件称作事件A发生的概率，发生的概率，当满足当满足:0P(A)1P()=1,P()=0AB=,则则P(A B)=P(A)+P(B)完备事

10、件族完备事件族An|n=1,2,称为完备称为完备事件事件族族,当当 对于任意对于任意i,j 1且且ij，AiAj=，且且 。A1A1A2A2A3A3A4A4完备事件族完备事件族(续续)An|n=1,2,为完备事件族为完备事件族,则则 对于任意对于任意B,B Ai 基本事件族基本事件族An|n=1,2,称为基本事件称为基本事件族族,当当An|n=1,2,是完备事件族；是完备事件族；且对于且对于任意任意B，有，有BAn=An或或,这这里，里，n=1,2,。A1A1A2A2A3A3A4A4B B基本事件族基本事件族(续续)An|n=1,2,为基本事件族为基本事件族,当当 B Ai 统计概率统计概率(

11、古典概率古典概率)若在同一条件下，事件若在同一条件下，事件A出现频率为出现频率为m/n,则则m/n称为称为A的统计概率的统计概率。统计概率的性质统计概率的性质0P(A)1P()=1,P()=0对于任意对于任意A,P(A)=1P(A)An|n=1,2,n中两两不相容，中两两不相容，则对于任意则对于任意A和和B，有，有条件概率条件概率在事件在事件A 发生情况下发生情况下B 发生的条件概率发生的条件概率边缘概率边缘概率A与与B的联合概率（乘法公式）的联合概率（乘法公式）条件概率条件概率(续续)如果是统计概率，则如果是统计概率，则C、D发生下发生下A、B发生的概率发生的概率另一种写法：另一种写法：条件

12、概率的性质条件概率的性质0P(B|A)1P(|A)=1,P(|A)=0若若B1,B2不相容，则不相容，则P(B1+B2|A)=P(B1|A)+P(B2|A)另一种写法：另一种写法：P(B1B2|A)=P(B1|A)+P(B2|A)条件概率的性质条件概率的性质(续续)乘法公式乘法公式(联合概率联合概率)P(A1A2An)=P(A1)P(A2|A1)P(An|A1A2An-1)例：例：P(ABCD)=P(A|BCD)P(B|CD)P(C|D)P(D)条件概率的性质条件概率的性质(续续)Ai|i=1,2,n是完备事件集，且是完备事件集，且P(Ai)0，则有全概率公，则有全概率公式：式：例：例：A+B

13、+C=,对于任意对于任意D，有，有P(D)=P(A)P(D|A)+P(B)P(D|B)+P(C)P(D|C)=P(AD)+P(BD)+P(CD)=P(AD BD CD)=P(D)事件的独立性事件的独立性若若P(AB)=P(A)P(B)，则，则A与与B相互独立。相互独立。性质：性质：P(A)=0或或1，则，则A与任何事件独立。与任何事件独立。若若A，B独立，且独立，且P(B)0,则则P(A|B)=P(A)。若若A，B独立，则独立，则A与与B，A与与B，A与与 B都相互独立。都相互独立。Ai|i=1,2,n中事件相互独立，则其中中事件相互独立，则其中任何一组事件之间相互独立。任何一组事件之间相互独

14、立。5.2.3 贝叶斯定理贝叶斯定理(公式公式)Bi|i=1,2,n是一个完备事件集，是一个完备事件集，P(A)0,P(Bi)0,则则 P(Bi)称为先验概率，称为先验概率，P(Bi|A)称为后称为后验概率，验概率，B1,B2,Bn为互不相容的原为互不相容的原因，因，A为结果。为结果。5.2.4 信任几率信任几率概率基于重复的随机实验，而实际中事件不可概率基于重复的随机实验，而实际中事件不可重复。重复。A代表出红斑，代表出红斑，B代表出麻疹，代表出麻疹，P(B|A)理解为理解为“A成立时成立时B的可信度的可信度”。A=T，P(B|A)=1,则则B=T。A=T，P(B|A)=0，则则B=F。A=T，0P(B|A)1，则，则不能确定不能确定B的值。的值。P(B|A)表示了存在证据表示了存在证据A时时B的似然性（或可信的似然性（或可信度）。度）。信任几率信任几率事件发生与否的相对可能性，几率事件发生与否的相对可能性，几率O事件或证据事件或证据X的几率的几率O(X)与概率与概率P(X)的关的关系系O(X)称为先验几率，称为先验几率，O(B|A)称为后验几称为后验几率率概率与几率的关系概率与几率的关系P(X)=0,则则O(X)=0P(X)=0.5,则则O(X)=1P(X)=1,则则O(X)=0 1 P(X)O(x)