不确定性推理的方法.pptx
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_05.gif)
《不确定性推理的方法.pptx》由会员分享,可在线阅读,更多相关《不确定性推理的方法.pptx(157页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、11第4章 不确定性推理方法o现实世界中由于客观上存在的随机性、模糊性,反映到知识以及由观察所得到的证据上来,就分别形成了不确定性的知识及不确定性的证据。因而还必须对不确定性知识的表示及推理进行研究。这就是本章将要讨论的不确定性推理。o下面首先讨论不确定性推理中的基本问题,然后着重介绍基于概率论的有关理论发展起来的不确定性推理方法,主要介绍可信度方法、证据理论,最后介绍目前在专家系统、信息处理、自动控制等领域广泛应用的依据模糊理论发展起来的模糊推理方法。第1页/共157页2第4章 不确定性推理方法4.1 不确定性推理的基本概念 4.2 概率方法 4.3 主观Bayes方法4.4 可信度方法4.
2、5 证据理论4.6 模糊推理方法 4.7 模糊控制第2页/共157页3第4章 不确定性推理方法4.1 不确定性推理中的基本问题 4.2 概率方法 4.3 主观Bayes方法4.4 可信度方法4.5 证据理论4.6 模糊推理方法 4.7 模糊控制第3页/共157页44.1 不确定性推理中的基本问题推理:从已知事实(证据)出发,通过运用相关知识逐步推出结论或者证明某个假设成立或不成立的思维过程。不确定性推理:从不确定性的初始证据出发,通过运用不确定性的知识,最终推出具有一定程度的不确定性但却是合理或者近乎合理的结论的思维过程。第4页/共157页5不确定性的表示与量度 不确定性匹配算法及阈值的选择
3、组合证据不确定性的算法 不确定性的传递算法 结论不确定性的合成4.1 不确定性推理中的基本问题第5页/共157页64.1 不确定性推理中的基本问题 1.不确定性的表示与量度(1)知识不确定性的表示(2)证据不确定性的表示证据的动态强度(3)不确定性的量度 在专家系统中知识的不确定性一般是由领域专家给出的,通常是一个数值知识的静态强度 用户在求解问题时提供的初始证据。在推理中用前面推出的结论作为当前推理的证据。能充分表达相应知识及证据不确定性的程度。能充分表达相应知识及证据不确定性的程度。度量范围的指定便于领域专家及用户对不确定性的估计。度量范围的指定便于领域专家及用户对不确定性的估计。便便于于
4、对对不不确确定定性性的的传传递递进进行行计计算算,而而且且对对结结论论算算出出的的不不确确定性量度不能超出量度规定的范围。定性量度不能超出量度规定的范围。度量的度量的确定应当是直观的,同时应有相应的理论依据。确定应当是直观的,同时应有相应的理论依据。第6页/共157页74.1 不确定性推理中的基本问题2.不确定性匹配算法及阈值的选择不确定性匹配算法:用来计算匹配双方相似程度的算法。阈值:用来指出相似的“限度”。3.组合证据不确定性的算法:最大最小方法、Hamacher方法、概率方法、有界方法、Einstein方法等。第7页/共157页84.1 不确定性推理中的基本问题4.不确定性的传递算法(1
5、)在每一步推理中,如何把证据及知识的不确定性 传递给结论。(2)在多步推理中,如何把初始证据的不确定性传递 给最终结论。5.结论不确定性的合成第8页/共157页9第4章 不确定性推理方法4.1 不确定性推理的基本概念 4.2 概率方法 4.3 主观Bayes方法4.4 可信度方法4.5 证据理论4.6 模糊推理方法 4.7 模糊控制第9页/共157页104.2 概率方法4.2.1 经典概率方法4.2.2 逆概率方法第10页/共157页114.2.1 经典概率方法 产生式规则:E:前提条件,:结论 :在证据 出现的条件下,结论 成立的确定性程度。复合条件:在证据 出现时结论的确定程度。IF E
6、THEN HiE=Ei AND E2 AND AND Em第11页/共157页121.逆概率方法的基本思想:Bayes定理定理:逆概率逆概率 原概率原概率4.2.2 逆概率方法 例如:咳嗽,:支气管炎,条件概率 :统计咳嗽的人中有多少是患支气管炎的。逆概率 :统计患支气管炎的人中有多少人是咳嗽的。第12页/共157页132.单个证据的情况 产生式规则:Bayes公式:结论 的先验概率结论 成立时前提条件所对应的证据出现的条件概率 4.2.2 逆概率方法IF E THEN Hi第13页/共157页14例1 :结论,:证据。已知:求:同理可得:4.2.2 逆概率方法解:P(H2 E)=0.26,P
7、(H3E)=0.43P(H1E),P(H2E),P(H3E)?第14页/共157页15 多个证据 ,多个结论 ,且每个证据都以一定程度支持结论。扩充后的公式:4.2.2 逆概率方法3.多个证据的情况1212121)()()()()()()()()(njjjmjjiimiimiHPHEPHEPHEPHPHEPHEPHEPEEEHP=LLL第15页/共157页16 例2 已知:4.2.2 逆概率方法 求:P(H1E1E2),P(H1E1E2),P(H1E1E2)?。第16页/共157页17解:同理可得同理可得:4.2.2 逆概率方法第17页/共157页18优点:较强的理论背景和良好的数学特征,当证
8、据及结论都彼此独立时计算的复杂度比较低。缺点:要求给出结论 的先验概率 及证据 的条件概率 。4.2.2 逆概率方法4.逆概率方法的优缺点第18页/共157页19第4章 不确定性推理方法4.1 不确定性推理的基本概念 4.2 概率方法 4.3 主观Bayes方法4.4 可信度方法4.5 证据理论4.6 模糊推理方法 4.7 模糊控制第19页/共157页204.3 主观 Bayes 方法1976年,杜达(R.O.Duda)、哈特(P.E.Hart)等人提出主观Bayes方法,建立了不确定性推理模型,并在地矿勘探专家系统PROSPECTOR中得到了成功的应用。第20页/共157页214.3 主观B
9、ayes方法4.3.1 知识不确定性的表示4.3.2 证据不确定性的表示4.3.3 组合证据不确定性的算法4.3.4 不确定性的传递算法第21页/共157页224.3.1 知识不确定性的表示 知识:前提条件(简单条件或复合条件):结论 :规则强度 规则成立的充分性度量规则成立的充分性度量 IF E THEN (LS,LN)H (P(H))()EE=规则成立的必要性度量规则成立的必要性度量(HHPP11第22页/共157页23 :对于初始证据 ,由用户根据观察 给出的概率。可 信 度 :对 所 提 供 的 证 据 可 以 相 信 的 程 度。4.3.2 证据不确定性的表示 1,(2)LS1,(3
10、)LS 1,(2)LN1,(3)LN,LN 1 (2)LS,LN 1第33页/共157页34 例1 设有如下知识:4.3.4 不确定性的传递算法o 求:当证据 存在及不存在时,及 的值各是多少?第34页/共157页354.3.4 不确定性的传递算法解:第35页/共157页364.3.4 不确定性的传递算法解:(续)第36页/共157页37例3 设有如下知识:4.3.4 不确定性的传递算法 若 依次出现,求 的值。第37页/共157页384.3.4 不确定性的传递算法解:第38页/共157页394.3.4 不确定性的传递算法3.证据不确定的情况 用户告知只有60%的把握说明证据 E 是真的,表示
11、初始证据E 为真的程度为0.6,即 =0.6。在 0 P(ES)0,证据的出现越是支持 H 为真,就使CF(H,E)的值越大。反之,CF(H,E)0,证据的出现越是支持 H 为假,CF(H,E)的值就越小。若证据的出现与否与 H 无关,则 CF(H,E)=0。4.4.2 CF模型1.知识不确定性的表示第55页/共157页56证据E的可信度取值范围:-1,1。对于初始证据,若所有观察S能肯定它为真,则CF(E)=1。若肯定它为假,则 CF(E)=1。若以某种程度为真,则 0 CF(E)1。若以某种程度为假,则 1 CF(E)0。若未获得任何相关的观察,则 CF(E)=0。4.4.2 CF模型CF
12、(E)0.6:E的可信度为0.62.证据不确定性的表示第56页/共157页57 4.4.2 CF模型2.证据不确定性的表示 静态强度静态强度CF(H,E):知识的强度,即当 E 所对应 的证据为真时对 H 的影响程度。动态强度动态强度 CF(E):证据 E 当前的不确定性程度。第57页/共157页58 组合证据:多个单一证据的合取则 组合证据:多个单一证据的析取 则 4.4.2 CF模型3.组合证据不确定性的算法E=E1 AND E2 AND AND EnE=E1 OR E2 OR OR En第58页/共157页59CF模型中的不确定性推理:从不确定的初始证据出发,通过运用相关的不确定性知识,
13、最终推出结论并求出结论的可信度值。结论 H 的可信度由下式计算:4.4.2 CF模型4.不确定性的传递算法第59页/共157页60设知识:4.4.2 CF模型5.结论不确定性的合成算法(1)分别对每一条知识求出CF(H):IFTHENIFTHEN第60页/共157页614.4.2 CF模型(2)求出 与 对H的综合影响所形成的可信度 :5.结论不确定性的合成算法第61页/共157页624.4.2 CF模型例4 设有如下一组知识:已知:求:第62页/共157页634.4.2 CF模型解:第一步:对每一条规则求出CF(H)。第63页/共157页644.4.2 CF模型解:第一步:对每一条规则求出C
14、F(H)。第64页/共157页654.4.2 CF模型解:第一步:对每一条规则求出CF(H)。第65页/共157页664.4.2 CF模型第二步:根据结论不确定性的合成算法得到:综合可信度:综合可信度:第66页/共157页67第4章 不确定性推理方法4.1 不确定性推理的基本概念 4.2 概率方法 4.3 主观Bayes方法4.4 可信度方法4.5 证据理论4.6 模糊推理方法 4.7 模糊控制第67页/共157页68 证据理论(theory of evidence):又称DS理论,是德普斯特(A.P.Dempster)首先提出,沙佛(G.Shafer)进一步发展起来的一种处理不确定性的理论。
15、1981年巴纳特(J.A.Barnett)把该理论引入专家系统中,同年卡威(J.Garvey)等人用它实现了不确定性推理。目前,在证据理论的基础上已经发展了多种不确定性推理模型。4.5 证据理论第68页/共157页694.5 证据理论 4.5.1 概率分配函数 4.5.2 信任函数 4.5.3 似然函数 4.5.4 信任函数与似然函数的关系4.5.5 概率分配函数的正交和(证据的组合)第69页/共157页704.5.1 概率分配函数 设 D 是变量 x 所有可能取值的集合,且 D 中的元素是互斥的,在任一时刻 x 都取且只能取 D 中的某一个元素为值,则称 D 为 x 的样本空间。在证据理论中
16、,D 的任何一个子集 A 都对应于一个关于 x 的命题,称该命题为“x 的值是在 A 中”。设 x:所看到的颜色,D=红,黄,蓝,则 A=红:“x 是红色”;A=红,蓝:“x 或者是红色,或者是蓝色”。第70页/共157页714.5.1 概率分配函数 设D为样本空间,领域内的命题都用D的子集表示,则概率分配函数(basic probability assignment function)定义如下:定义4.1 设函数 M:(对任何一个属于D的子集A,命它对应一个数M 0,1)且满足则 M:上的基本概率分配函数,M(A):A的基本概率数。第71页/共157页72几点说明:(1)设样本空间D中有n个
17、元素,则D中子集的个数为 个。:D的所有子集。(2)概率分配函数:把D的任意一个子集A都映射为0,1上的一个数M(A)。,时,M(A):对相应命题A的精确信任度。(3)概率分配函数与概率不同。4.5.1 概率分配函数概率分配函数 例如,设 A=红,M(A)=0.3:命题“x是红色”的信任度是0.3。4.5.1 概率分配函数 设 D=红,黄,蓝M(红)=0.3,M(黄)=0,M(蓝)=0.1,M(红,黄)=0.2,M(红,蓝)=0.2,M(黄,蓝)=0.1,M(红,黄,蓝)=0.1,M()=0但:M(红)+M(黄)+M(蓝)=0.4设 D=红,黄,蓝则其子集个数 238,具体为:A=红,A=黄,
18、A=蓝,A=红,黄,A=红,蓝,A=黄,蓝,A=红,黄,蓝,A=第72页/共157页73定义4.2 命题的信任函数(belief function)且 :对命题A为真的总的信任程度。4.5.2 信任函数 由信任函数及概率分配函数的定义推出:由信任函数及概率分配函数的定义推出:设 D=红,黄,蓝M(红)=0.3,M(黄)=0,M(红,黄)=0.2,第73页/共157页74 似然函数(plansibility function):不可驳斥函数或上限函数。定义定义4.3 似然函数 且 对所有的4.5.3 似然函数 设 D=红,黄,蓝M(红)=0.3,M(黄)=0,M(红,黄)=0.2,第74页/共1
19、57页75 :对A为真的信任程度。:对A为非假的信任程度。:对A信任程度的下限与上限。4.5.4 信任函数与似然函数的关系因为所以所以第75页/共157页76定义4.4 设 和 是两个概率分配函数;则其正交和 :其中:4.5.5 概率分配函数的正交和(证据的组合)如果 ,则正交和 M也是一个概率分配函数;如果 ,则不存在正交和 M,即没有可能存在概率函数,称 与 矛盾。第76页/共157页77定义4.5 设 是n个概率分配函数,则其正交和 为其中:4.5.5 概率分配函数的正交和第77页/共157页784.5.5 概率分配函数的正交和设 D=黑,白,且设 则:则:第78页/共157页794.5
20、.5 概率分配函数的正交和同理可得:组合后得到的概率分配函数:第79页/共157页804.5.6 基于证据理论的不确定性推理p 基于证据理论的不确定性推理的步骤:(1)建立问题的样本空间D。(2)由经验给出,或者由随机性规则和事实的信度度 量算基本概率分配函数。(3)计算所关心的子集的信任函数值、似然函数值。(4)由信任函数值、似然函数值得出结论。第80页/共157页81 例例5 设有规则:(1)如果 流鼻涕 则 感冒但非过敏性鼻炎(0.9)或 过敏性鼻炎但非感冒(0.1)。(2)如果 眼发炎 则 感冒但非过敏性鼻炎(0.8)或 过敏性鼻炎但非感冒(0.05)。有事实:(1)小王流鼻涕(0.9
21、)。(2)小王发眼炎(0.4)。问:小王患的什么病?4.5.6 基于证据理论的不确定性推理第81页/共157页82取样本空间:表示“感冒但非过敏性鼻炎”,表示“过敏性鼻炎但非感冒”,表示“同时得了两种病”。取下面的基本概率分配函数:4.5.6 基于证据理论的不确定性推理第82页/共157页83将两个概率分配函数组合:第83页/共157页84似然函数:结论:小王可能是感冒了。信任函数:第84页/共157页85第4章 不确定性推理方法4.1 不确定性推理的基本概念 4.2 概率方法 4.3 主观Bayes方法4.4 可信度方法4.5 证据理论4.6 模糊推理方法 4.7 模糊控制第85页/共157
22、页864.6 模糊推理方法4.6.1 模糊逻辑的提出与发展4.6.2 模糊集合4.6.3 模糊集合的运算4.6.4 模糊关系与模糊关系的合成4.6.5 模糊推理4.6.6 模糊决策第86页/共157页874.6.1 模糊逻辑的提出与发展o 1965年,美国L.A.Zadeh发表了“fuzzy set”的论文,首先提出了模糊理论。o从1965年到20世纪80年代,在美国、欧洲、中国和日本,只有少数科学家研究模糊理论。o 1974年,英国Mamdani首次将模糊理论应用于热电厂的蒸汽机控制。o 1976年,Mamdani又将模糊理论应用于水泥旋转炉的控制。第87页/共157页884.6.1 模糊逻
23、辑的提出与发展1983年日本Fuji Electric公司实现了饮水处理装置的模糊控制。1987年日本Hitachi公司研制出地铁的模糊控制系统。1987年1990年在日本申报的模糊产品专利就达319种。目前,各种模糊产品充满日本、西欧和美国市场,如模糊洗衣机、模糊吸尘器、模糊电冰箱和模糊摄像机等。第88页/共157页89 论域:所讨论的全体对象,用 U 等表示。元素:论域中的每个对象,常用a,b,c,x,y,z表示。集合:论域中具有某种相同属性的确定的、可以彼此区别的元素的全体,常用A,B等表示。元素a和集合A的关系:a属于A或a不属于A,即只有两个真值“真”和“假”。模糊逻辑给集合中每一个
24、元素赋予一个介于0和1之间的实数,描述其属于一个集合的强度,该实数称为元素属于一个集合的隶属度。集合中所有元素的隶属度全体构成集合的隶属函数。4.6.2 模糊集合1.模糊集合的定义第89页/共157页90例如,“成年人”集合:4.6.2 模糊集合1.模糊集合的定义“成年人成年人”隶属度函数图隶属度函数图 “成年人成年人”特征函数图特征函数图 00第90页/共157页91当论域中元素数目有限时,模糊集合 的数学描述为 :元素 属于模糊集 的隶属度,是元素 的论域。4.6.2 模糊集合2模糊集合的表示方法第91页/共157页924.6.2 模糊集合2模糊集合的表示方法(1)Zadeh表示法(1)论
25、域是离散且元素数目有限)论域是离散且元素数目有限:或或(2)论域是连续的,或者元素数目无限:)论域是连续的,或者元素数目无限:第92页/共157页934.6.2 模糊集合2模糊集合的表示方法(2)序偶表示法(3)向量表示法 第93页/共157页94 3.隶属函数常见的隶属函数有正态分布、三角分布、梯形分布等。隶属函数确定方法:(1)模糊统计法(2)专家经验法(3)二元对比排序法(4)基本概念扩充法4.6.2 模糊集合第94页/共157页95 3隶属函数4.6.2 模糊集合 例如:以年龄作论域,取例如:以年龄作论域,取 ,扎德给出了,扎德给出了“年老年老”O 与与“年青年青”Y 两个模糊集合的隶
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 不确定性 推理 方法
![提示](https://www.taowenge.com/images/bang_tan.gif)
限制150内