AI章不确定性推理.pptx
《AI章不确定性推理.pptx》由会员分享,可在线阅读,更多相关《AI章不确定性推理.pptx(103页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、11.不确定性的表示2.不确定性的匹配3.组合证据的不确定性的计算4.不确定性的更新5.不确定性结论的合成6.1.2 不确定性推理的基本问题 第1页/共103页2(1)知识的不确定性的表示考虑因素:问题的描述能力推理中不确定性的计算含义:知识的确定性程度,或动态强度表示:用概率,0,1,0接近于假,1接近于真用可信度,-1,1,大于0接近于真小于0接近于假6.1.2 不确定性推理的基本问题1.不确定性的表示(2)证据的非精确性表示 证据来源:初始证据,中间结论 表示:用概率或可信度第2页/共103页3含义 不确定的前提条件与不确定的事实匹配问题 前提是不确定的,事实也是不确定的方法 设计一个计
2、算相似程度的算法,给出相似的限度标志 相似度落在规定限度内为匹配,否则为不匹配6.1.2 不确定性推理的基本问题2.不确定性的匹配第3页/共103页4含义 知识的前提条件是多个证据的组合方法 最大最小方法,如合取取最小、析取取最大 概率方法,按概率6.1.2 不确定性推理的基本问题3.组合证据不确定性的计算第4页/共103页54.非精确性的更新 主要问题 如何用证据的不确定性去更新结论的不确定性 如何在推理中把初始证据的不确定性传递给最终结论 解决方法 对,不同推理方法的解决方法不同 对,不同推理方法的解决方法基本相同,即把当 前结论及其不确定性作为新的结论放入综合数据库,依次 传递,直到得出
3、最终结论5.非精确性结论的合成 含义:多个不同知识推出同一结论,且不确定性程度不同 方法:视不同推理方法而定6.1.2 不确定性推理的基本问题4.不确定性的更新 5.不确定性结论的合成第5页/共103页6模糊推理基于概率的方法主观Bayes方法确定性理论证据理论数值方法非数值方法不确定性推理框架推理语义网络推理常识推理6.1.2 不确定性推理的类型第6页/共103页76.1不确定性推理的基本概念6.2不确定性推理的概率论基础6.2.1样本空间和随机事件6.3.2事件的概率6.3.3全概率公式和Bayes公式6.3确定性理论6.4主观Bayes方法6.5证据理论6.6模糊推第6章 不确定性推理
4、第7页/共103页8概念在概率论中,把试验中每一个可能出现的结果称为试验的一个样本点,由全体样本点构成的集合称为样本空间。表示通常,用D表示样本空间,d表示样本点。例子在掷币试验中,若用d1表示硬币的正面向上,用d2表示硬币的反面向上,则该试验的样本空间为:D=d1,d26.2.1样本空间和随机事件1.样本空间第8页/共103页9概念由样本点构成的集合称为随机事件例子:在掷币试验中,若用A表示硬币正面向上这一事件,则有A=d1运算并事件事件A与事件B至少有一个发生记为AB交事件事件A与事件B同时发生记为AB互逆事件事件A与B之间满足“AB=,AB=D”6.2.1样本空间和随机事件2.随机事件第
5、9页/共103页10频率的概念统计概率是通过某一事件出现的频率定义的。频率:fn(A)=m/n式中,A所讨论的事件,n是试验的总次数,m是实验中A发生的次数统计概率的定义定义6.1在同一组条件下所进行大量重复试验时,如果事件A出现的频率总是在区间0,1上的一个确定常数p附近摆动,并且稳定于p,则称p为事件A的统计概率。即 P(A)=p 统计概率例子在掷币试验中,当掷币次数足够多时有fn(正面向上)=0.5则称正面向上的概率为0.5,即P(正面向上)=0.56.2.2事件的概率1.统计概率(1/2)第10页/共103页11统计概率的性质(1)对任一事件A,有0P(A)=1(2)必然事件D的概率P
6、(D)=1,不可能事件的概率P()=0。(3)对任一事件A,有P(A)=1-P(A)(4)设事件A1,A2,Ak(kn)是两两互不相容的事件,即有AiAj=(ij),则(5)设A、B是两个事件,则P(AB)=P(A)+P(B)-P(AB)6.2.2事件的概率1.统计概率(2/2)第11页/共103页12概念定义6.2设A与B是两个随机事件,P(B)0,则称:P(A|B)=P(AB)/P(B)为在事件B发生的条件下事件A的条件概率。例子设样本空间D是扑克牌中的54张牌,即D=红桃A,方块A,黑桃A,梅花A,红桃2,方块2,小王,大王,且有以下两个事件A=取花脸牌,B=取红桃牌,求在事件B发生的条
7、件下事件A发生的概率P(A|B)。解:由于事件B已经发生,因此以下事件取到红桃A;取到红桃2;取到红桃3;取到红桃K中必有一个出现。而对事件A,在事件B发生的前提下,只有以下事件取到红桃J;取到红桃Q;取到红桃K中的一个发生时事件A才能发生。因此,在事件B发生的条件下事件A发生的概率是3/13。6.2.2事件的概率2.条件概率第12页/共103页13 定理6.16.1 设事件A A1 1,A,A2 2,A,An n满足:(1)(1)任意两个事件都互不相容,即当ijij时,有A Ai iAAj j=(i=1,2,n(i=1,2,n;j=1,2,n)j=1,2,n);(2)(2)P(AP(Ai i
8、)0(i=1,2,n);)0(i=1,2,n);(3)D=(3)D=则对任何事件B B由下式成立:该公式称为全概率公式,它提供了一种计算P(B)P(B)的方法。6.2.3全概率公式和Bayes公式1.全概率公式第13页/共103页14定理6.2设事件A1,A2,An满足定理6.1规定的条件,则对任何事件B有下式成立:该定理称为Bayes定理,上式称为Bayes公式。其中,P(Ai)是事件Ai的先验概率,P(B|Ai)是在事件Ai发生条件下事件B的条件概率;P(Ai|B)是在事件B发生条件下事件Ai的条件概率。如果把全概率公式代入Bayes公式,则有:即这是Bayes公式的另一种形式。Bayes
9、定理给处了用逆概率P(B|Ai)求原概率P(Ai|B)的方法。6.2.3全概率公式和Bayes公式2.Bayes公式第14页/共103页156.1不确定性推理的基本概念6.2不确定性推理的概率论基础6.3确定性理论 6.3.1可信度的概念6.3.2CF模型6.4主观Bayes方法6.5证据理论6.6模糊推理第6章 不确定性推理 第15页/共103页16可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断,或者说是人们对某个事物或现象为真的相信程度。例如,沈强昨天没来上课,理由是头疼。就此理由,只有以下两种可能:一是真的头疼了,理由为真;二是没有头疼,理由为假。但就听话人而言,因不能确
10、切知道,就只能某种程度上相信,即可信度。可信度具有一定的主观性,较难把握。但对某一特定领域,让该领域专家给出可信度还是可行的。6.3.1可信度的概念第16页/共103页176.3.2CF模型1.知识不确定性的表示表示形式:在C-F模型中,知识是用产生式规则表示的,其一般形式为:IFETHENH(CF(H,E)其中,E是知识的前提条件;H是知识的结论;CF(H,E)是知识的可信度。说明:(1)E可以是单一条件,也可以是复合条件。例如:E=(E1ORE2)ANDE3ANDE4(2)H可以是单一结论,也可以是多个结论(3)CF是知识的静态强度,CF(H,E)的取值为-1,1,表示当E为真时,证据对H
11、的支持程度,其值越大,支持程度越大。例子:IF发烧AND流鼻涕THEN感冒(0.8)表示当某人确实有“发烧”及“流鼻涕”症状时,则有80%的把握是患了感冒。第17页/共103页18可信度的定义在CF模型中,把CF(H,E)定义为CF(H,E)=MB(H,E)-MD(H,E)式中MB称为信任增长度,MB(H,E)定义为MD称为不信任增长度,MB(H,E)定义为6.3.2CF模型2.可信度的定义与性质(1/5)第18页/共103页19MB和MD的关系当MB(H,E)0时,有P(H|E)P(H),即E的出现增加了H的概率当MD(H,E)0时,有P(H|E)0,CF(H,E)=0,CF(H,E)0-=
12、-=-=)()|()()|()()|()()|()(),(00)(1)()|(0),(),(HPEHPHPEHPHPEHPHPEHPHPEHMDHPHPEHPEHMBEHCF若若若6.3.2CF模型2.可信度的定义与性质(2/5)第19页/共103页20可信度的性质(1)互斥性对同一证据,它不可能既增加对H的信任程度,又同时增加对H的不信任程度,这说明MB与MD是互斥的。即有如下互斥性:当MB(H,E)0时,MD(H,E)=0当MD(H,E)0时,MB(H,E)=0(2)值域 (3)典型值当CF(H,E)=1时,有P(H/E)=1,它说明由于E所对应证据的出现使H为真。此时,MB(H,E)=1
13、,MD(H,E)=0。当CF(H,E)=-1时,有P(H/E)=0,说明由于E所对应证据的出现使H为假。此时,MB(H,E)=0,MD(H,E)=1。当CF(H,E)=0时,有MB(H,E)=0、MD(H,E)=0。前者说明E所对应证据的出现不证实H;后者说明E所对应证据的出现不否认H。6.3.2CF模型2.可信度的定义与性质(3/5)第20页/共103页21(4)对H的信任增长度等于对非H的不信任增长度根据MB、MD的定义及概率的性质有:再根据CF的定义和MB、MD的互斥性有CF(H,E)+CF(H,E)=(MB(H,E)-MD(H,E)+(MB(H,E)-MD(H,E)=(MB(H,E)-
14、0)+(0-MD(H,E)(由互斥性)=MB(H,E)-MD(H,E)=0它说明:(1)对H的信任增长度等于对非H的不信任增长度(2)对H的可信度与非H的可信度之和等于0(3)可信度不是概率,不满足P(H)+P(H)=1和0P(H),P(H)16.3.2CF模型2.可信度的定义与性质(4/5)第21页/共103页22(5)对同一前提E,若支持若干个不同的结论Hi(i=1,2,n),则因此,如果发现专家给出的知识有如下情况CF(H1,E)=0.7,CF(H2,E)=0.4则因0.7+0.4=1.11为非法,应进行调整或规范化。6.3.2CF模型2.可信度的定义与性质(5/5)第22页/共103页
15、23不确定性的表示:证据的不确定性也是用可信度来表示的,其取值范围也为-1,1若E为初始证据,其值由用户给出。若E为中间结论,其值可通过计算得到。不确定性的含义:对E,其可信度CF(E)的含义如下:CF(E)=1,证据E肯定它为真CF(E)=-1,证据E肯定它为假CF(E)=0,对证据E一无所知0CF(E)1,证据E以CF(E)程度为真-1CF(E)0,证据E以CF(E)程度为假6.3.2CF模型3.证据不确定性的表示第23页/共103页244.否定证据不确定性的计算CF(E)=-CF(E)5.组合证据不确定性的计算对证据的组合形式可分为“合取”与“析取”两种基本情况。合取当组合证据是多个单一
16、证据的组合时,即E=E1ANDE2ANDANDEn时,若已知CF(E1),CF(E2),CF(En),则CF(E)=minCF(E1),CF(E2),CF(En)析取当组合证据是多个单一证据的析取时,即E=E1ORE2OROREn时,若已知CF(E1),CF(E2),CF(En),则CF(E)=maxCF(E1),CF(E2),CF(En)6.3.2CF模型4、5.否定、不确定证据的计算第24页/共103页25CF模型中的不确定性推理实际上是从不确定的初始证据出发,不断运用相关的不确性知识,逐步推出最终结论和该结论可信度的过程。而每一次运用不确定性知识,都需要由证据的不确定性和知识的不确定性去
17、计算结论的不确定性。不确定性的更新公式CF(H)=CF(H,E)max0,CF(E)若CF(E)1时,O(H|E)O(H),说明E支持H,LS越大,O(H|E)比O(H)大得越多,即 LS越 大,E对 H的 支 持 越 充 分。当 LS时,O(H|E),即P(H/E)1,表示由于E的存在,将导致H为真。当LS=1时,O(H|E)=O(H),说明E对H没有影响。当LS1时,O(H|E)1时,O(H|E)O(H),说明E支持H,即由于E的不出现,增大了H为真的概率。并且,LN得越大,P(H|E)就越大,即E对H为真的支持就越强。当LN时,O(H|E),即P(H|E)1,表示由于E的存在,将导致H为
18、真。当LN=1时,O(H|E)=O(H),说明E对H没有影响。当LN1时,O(H|E)1且LN1LS1LS=LN=1证:LS1P(E|H)/P(E|H)1P(E|H)P(E|H)1-P(E|H)1-P(E|H)P(E|H)P(E|H)P(E|H)/P(E|H)1LNP(E),使用(6.8)式的后半部分,得P(H1|S1)为:第43页/共103页44(2)计算O(H1|(S1ANDS2)由于r2的前件是E1、E2的合取关系,且已知P(E1|S1)=0.76,P(E2|S2)=0.68,即P(E2|S2)P(E2),还使用(6.8)式的后半部分,得P(H1|S2)为:第44页/共103页45(3)
19、计算O(H1|S1,S2)先将H1的先验概率转换为先验几率再根据合成公式计算H1的后验几率 然后再将后验几率转换为后验概率第45页/共103页46(4)计算P(H2|S1,S2)对r3,H1相当于已知事实,H2为结论。将H2的先验概率P(H2)更新为在H1下的后验概率P(H2|H1)由于P(H1|S1,S2)=0.321P(H1),仍使用(6.8)式的后半部分,得到在当前观察S1、S2下H2的后验概率P(H2|S1,S2)可以看出,H2的先验概率是0.01,通过r1、r2、r3及初始证据进行推理,最后推出H2的后验概率为0.177,相当于概率增加了16倍多。主观Bayes方法的主要优点是理论模
20、型精确,灵敏度高,不仅考虑了证据间的关系,而且考虑了证据存在与否对假设的影响,因此是一种较好的方法。其主要缺点是所需要的主观概率太多,专家不易给出。第46页/共103页476.1不确定性推理的基本概念6.2不确定性推理的概率论基础6.3确定性理论6.4主观Bayes方法6.5证据理论证据理论是由德普斯特(A.P.Dempster)首先提出,并有沙佛(G.Shafer)进一步发展起来的用于处理不确定性的一种理论,也称DS(Dempster-Shafer)理论。它将概率论中的单点赋值扩展为集合赋值,可以处理由“不知道”所引起的不确定性,比主观Bayes方法有着更大的灵活性。在DS理论中,可以分别用
21、信任函数、似然函数及类概率函数来描述知识的精确信任度、不可驳斥信任度及估计信任度。6.5.1DS理论的形式描述6.5.2证据理论的推理模型6.5.3推理实例6.6模糊推理第6章 不确定性推理 第47页/共103页486.5.1DS理论的形式描述 1.概率分配函数(1/3)DS理论处理的是集合上的不确定性问题,为此需要先建立命题与集合之间的一一对应关系,以把命题的不确定性问题转化为集合的不确定性问题,。设为样本空间,且中的每个元素都相互独立,则由的所有子集构成的幂集记为2。当中的元素个数为N时,则其幂集2的元素个数为2N,且其中的每一个元素都对应于一个关于x取值情况的命题。例6.4设=红,黄,白
22、,求的幂集2。解:的幂集可包括如下子集:A0=,A1=红,A2=黄,A3=白,A4=红,黄,A5=红,白,A6=黄,白,A7=红,黄,白其中,表示空集,空集也可表示为。上述子集的个数正好是23=8第48页/共103页496.5.1DS理论的形式描述 1.概率分配函数(2/3)定义6.3设函数m:20,1,且满足则称m是2上的概率分配函数,m(A)称为A的基本概率数。对例6.4,若定义2上的一个基本函数m:m(,红,黄,白,红,黄,红,白,黄,白,红,黄,白)=(0,0.3,0,0.1,0.2,0.2,0,0.2)其中,(0,0.3,0,0.1,0.2,0.2,0,0.2)分别是幂集2中各个子集
23、的基本概率数。显然m满足概率分配函数的定义。第49页/共103页506.5.1DS理论的形式描述 1.概率分配函数(3/3)对概率分配函数的说明(1)概率分配函数的作用是把的任一子集映射为0,1上的一个数m(A)当A,且A由单个元素组成时,则m(A)表示对A的精确信任度;当A、A,且A由多个元素组成时,m(A)也表示对A的精确信任度,但却不知道这部分信任度该分给A中哪些元素;当A=时,则m(A)也表示不知道该如何分配的部分。例如,对上例所给出的有限集及基本函数m,当A=红时,有m(A)=0.3,它表示对命题“x是红色”的精确信任度为0.3。B=红,黄时,有m(B)=0.2,它表示对命题“x或者
24、是红色,或者是黄色”的精确信任度为0.2,却不知道该把这0.2分给红还是分给黄。C=红,黄,白时,有m()=0.2,表示不知道该对这0.2如何分配,但知道它不属于红,就一定属于黄或白。(2)概率分配函数不是概率例如,在例6.5中,m符合概率分配函数的定义,但m(红)+m(黄)+m(白)=0.3+0+0.1=0.41因此m不是概率,因为概率P要求:P(红)+P(黄)+P(白)=1第50页/共103页51定义6.4信任函数Bel:20,1为其中,2是的幂集。Bel又称为下限函数,Bel(A)表示对A的总的信任度。例如,对例6.5有Bel(红)=0.3Bel(红,白)=m(红)+m(白)+m(红,白
25、)=0.3+0.1+0.2=0.6根据定义还可以得到:例如,对例6.5有Bel()=m()=0Bel(红,黄,白)=m()+m(红)+m(黄)+m(白)+m(红,黄)+(红,白)+(黄,白)+(红,黄,白)=0+0.3+0+0.1+0.2+0.2+0+0.2=16.5.1D-S理论的形式描述2.信任函数第51页/共103页526.5.1D-S理论的形式描述3.似然函数(1/2)定义6.5似然函数Pl:20,1为Pl(A)=1-Bel(A)对所有的A其中,A=-A。似然函数又称为不可驳斥函数或上限函数。由于Bel(A)表示对A的信任度,即A为假的信任度,因此,Pl(A)表示对A为非假的信任度。以
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- AI 不确定性 推理
限制150内