熵理论在建筑工程风险评估中的应用研究.pdf

北京工业大学硕士学位论文熵理论在建筑工程风险评估中的应用研究姓名：郭晋强申请学位级别：硕士专业：结构工程指导教师：刘景园20050501摘要摘要工程项目风险无处不在，无时不有。风险可能会带来灾难，也可能带来利润，关键是如何看待风险，并对风险进行有效的管理。实践证明，要成功达到规避工程风险，节约成本，甚至增加赢利的目的，必须实施风险管理。本文分析了风险的概念和特点，以及建筑工程项目风险及风险评估所具有的特点。风险识另I j 是风险管理的基础，风险分析与评估是风险管理的关键，风险管理决策是风险管理的核心。本文尝试将熵思想的概念引入到建筑工程项目的风险评估中，把熵思想应用于建筑工程风险管理系统中，提高风险管理效率，减少管理系统的风险度。本文旨在对熵理论在建筑工程项目风险评估中的应用进行研究，为工程管理人员提供正确对待工程风险的方法，并用来指导实践。就以往的建筑工程在风险评估中偏重于静态的定性的研究，在权重的选取上偏于主观，而在现实中存在众多的随机因素，常常使得评估的结果与现实有很大的差距，为了弥补这方面对项目风险评估效果的影响，引入了熵的概念和理论，重点讨论了熵理论在工程项目风险中的多目标风险决策、层次分析法方面、资金净现值的具体应用研究，并通过算例说明该方法的优越性和广阔的应用前景。关键词建筑工程；风险评估；熵理论；熵权系数法北京工业大学工学硕士学位论文I IA B S T R A C TT h er i s ko ft h ep r o j e c ti su b i q u i t o u s，d on o th a v ew h e nn o th a v i n g T h er i s km a yb r i n gt h ed i s a s t e r，m a yb r i n gp r o f i t st o o，t h em o r ei m p o r t a n tt h i n gi sh o wt ot h i n ka b o u tt h er i s k，a n dc a r r yo ne f f e c t i v em a n a g e m e n tt ot h er i s k P r a c t i c eh a sp r o v e dt h a tp e o p l es h o u l ds u c c e e d e di nr e a c h i n ga n de v a d i n gt h ep r o j e c tr i s k，e c o n o m i z e dt h ec o s t，e v e ni n c r e a s e dt h ep u r p o s eo ft h ep r o f i ta n dm u s ti m p l e m e n t e dr i s km a n a g e m e n t A tf i r s tt h i st e x ta n a l y s e st h ec o n c e p ta n dc h a r a c t e r i s t i co ft h ep r o j e c tr i s k，a n db u i l d sp r o j e c tr i s ka n dc h a r a c t e r i s t i ct h a tr i s k Sa s s e s s i n g T h er i s kd i s c e r n st h ef o u n d a t i o nt h a ti sr i s km a n a g e m e n t T h er i s ka n a l y s i sa n da s s e s s m e n ta r ek e y so fr i s km a n a g e m e n t T h ea d m i n i s t r a t i v ed e c i s i o no ft h er i s ki sac o r eo fr i s km a n a g e m e n t T h et e x tt r i e st ob u i l dt h ep r o je c to fa s s e s s i n gt oi n t r o d u c ec o n c e p t，a p p l i e st h ee n t r o p y t h o u g h tt ot h er i s ka d m i n i s t r a t i v es y s t e mo ft h ec o n s t r u c t i o nw o r k，i m p r o v e st h ee f f i c i e n c yo fm a n a g e m e n to ft h er i s k，r e d u c er i s kd e g r e eo ft h ea d m i n i s t r a t i v es y s t e m T h i st e x ta i m sa tm a k i n gs o m ed i s c u s s i o n st ot h ea p p l i c a t i o ns t u d yi nt h er i s ko ft h ep r o j e c to ft h eb u i l d i n gw i t ha s s e s so fe n t r o p yt h e o r y,o f f e r i n gt h em e t h o dt oa d o p tac o r r e c ta t t i t u d et o w a r d sp r o j e c tr i s kt oa d m i n i s t r a t i v es t a f fo ft h ep r o j e c t，h o p i n gt og u i d ep r a c t i c e、航t hi t O v e rs t a t i cs t u d y i n gq u a l i t a t i v e l yi nt h er i s ki sa s s e s s e do nt h ep a s tc o n s t r u c t i o nw o r k，p a r t i a lt os u b j e c t i v e l yi nt h ec h o o s i n go ft h ew e i g h t，b u tt h e r ea r en u m e r o u sr a n d o mf a c t o r si nr e a l i t y,r e s u l ta n dr e a l i t yt h a tw e r ea s s e s s e dt om a k eo f t e nh a v eh e a v yd i s p a r i t y,f o rr e m e d yi n t h i sr e s p e c ta s s e s si n f l u e n c eo fr e s u l tt op r o j e c tr i s k，h a v ei n t r o d u c e dt h ec o n c e p ta n dt h e o r yo fe n t r o p y，h a v ed i s c u s s e dt h ec o n c r e t ea p p l i c a t i o ns t u d yi nm a n yg o a l sr i s kd e c i s i o n，a n a l y t i c a lh i e r a r c h yp r o c e s si nt h er i s ko ft h ep r o j e c t，n e tc a s hf l o wo fe n t r o p yt h e o r ye s p e c i a l l y,a n dt h r o u g hc h a r g ee x a m p l ep r o v es u p e r i o r i t ya n dw i d ea p p l i c a t i o np r o s p e c to ft h i sm e t h o d K e y w o r d：C o n s t r u c t i o nw o r k；T h er i s ki sa s s e s s e d；E n t r o p yt h e o r y；R i g h tc o e f f i c i e n tl a wo fe n t r o p y独创性声明本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得北京工业大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。关于论文使用授权的说明2 明圹参2本人完全了解北京工业大学有关保留、使用学位论文的规定，即：学校有权保留送交论文的复印件，允许论文被查阅和借阅；学校可以公布论文的全部或部分内容，可以采用影印、缩印或其他复制手段保存论文。(保密的论文在解密后应遵守此规定)签名：_=瞬址导师签名：第1 章绪论第1 章绪论风险在项目中是普遍存在的，所有的项目都包含风险，风险既涉及到威胁也涉及到机会，能够更好的理解风险的性质并对它们进行有效的管理，不仅可以避免那些不可预见的灾难，而且可以获得更加可靠的利润率，减少应急费用，并将释放出来的资源用于其它的任务，抓住别人认为可能风险太高而放弃的有利的投资机会。风险管理是项目管理的主要内容，可以这样说：风险管理不是项目管理的“附加”内容，而是项目管理实践中不可分割的组成部分。风险管理在国际上已经成为了普遍的实践方法，例如，世界银行对每一个贷款项目都要进行风险分析，制定风险管理计划，并付诸实施。但是，风险管理在我国还没有得到更有效的应用。随着我国改革开放的不断深入，国民经济高速发展，新建工程项目的数量越来越多，其规模也越来越庞大、结构功能日趋复杂，导致项目的投资迅猛增加、建设周期不断拉长、工程项目实施失控的可能性也在日趋增加，使得工程风险愈来愈大。进行建筑工程项目的风险评估，为使管理和评估系统不断完善，有必要大力加强这方面的科研工作，开发和完善建设工程项目的风险研究，对消除项目投资的盲目性，指导项目的最佳投资，项目建成后取得较好的经济效果和社会效益以及减少不必要的经济损失，有积极的指导作用，对我国经济的现代化建设有重大的现实意义。1 1 建筑工程项目风险评估的历史与现状1 1 1 国外历史与现状人类历史上早期风险问题的研究可追溯到公元十四世纪中叶，当时欧洲地中海沿岸各港口的海上保险揭开了人类探索风险的序幕。十九世纪，法国经营管理理论创始人法约尔第一次把对风险的管理列为企业管理的重要职能之一。19 31 年美国管理协会保险部最先倡导风险管理，并开始研究风险管理及保险问题。1 9 3 2 年成立的纽约经纪人协会标志着风险管理的兴起。1 9 5 3 年8 月8 同的美国通用汽车公司的自动变速装置发生大火，导致该公司蒙受高达5 0 0 0 万美北京工业大学工学硕士学位论文元的损失。这场大火震动了美国企业界和学术界，成为风险管理科学发展的契机睇J。到了上个世纪6 0 年代，一门新的管理科学风险管理在美国正式形成，从此风险管理在西方国家得到了迅猛的发展。建筑工程项目风险评估的理论研究是伴随着国际工程建设市场的形成和发展而产生的。早在二战期间，在系统工程中就开始应用风险分析技术。而把风险分析技术用于建筑工程项目管理还是在五、六十年代，伴随着西方社会战后重建，特别是西欧经济的复苏，在欧洲兴建了一大批大型宇航、水电、能源、交通项目，巨大的投资使项目管理者越来越重视成本管理，而复杂的建筑工程项目环境又使项目本身面临极多的不确定因素，如何定量地事先预计不确定性对工程项目成本的影响成为管理者的一大难题。为此，学者们先后开发、研究了各种项目风险评估技术，如早期的项目计划评审技术以及后来的敏感性分析和模拟技术等。在最初的研究中只是用数理统计和概率的方法来描述、评估影响项目目标的一维元素，如时间或成本变化的影响。随后随着新的评估方法的不断产生，对建筑工程风险的分析也向综合、全面、多维方向发展。最早且较成功的实践应用是在六、七十年代欧洲“北海油田开发项目”，该项目历时十几年，投资近几十亿美元，由多家国际承包公司共同合作完成。在该项目中，专家们尝试了几种不同的风险管理方法，取得了一定的经验和成果p J。经过几十年的理论研究和探讨以及在实践中的初步应用，国际学术界己对建筑工程项目风险评估的理论达成一致的看法，认为建筑工程项目风险评估是一个系统工程，它涉及工程管理的各个方面，包括风险的识别、分析、评价、控制和决策，其目的在于通过对项目环境不确定性的研究与控制，达到降低损失，控制成本的目的。为促进该领域的交流与合作，国际学术界定期召开有关的学术会议，交流和探讨取得的最新研究成果，形成了浓厚的学术研究气氛；国际知名大学和研究机构，如英国的S o u t h a m p t o nU n i v e r s i t y 和U n i v e r s i t yo f R e a d i n g，美国的麻省理工大学、斯坦福大学、加州大学、I o w aU n i v e r s i t y 科威特工程科学研究所以及新加坡南洋理工学院等院校都致力于建筑工程项目风险评估理论的研究，从而促进了建筑工程项目风险评估理论的进一步发展。第1 章绪论1 1 2 国内历史与现状与发达国家相比，我国的建筑工程风险评估理论尚处于起步阶段，在计划经济时期，由于工程项目的投资是以国家为主，企业也以国有单位为主体，一旦出现问题，风险主要是国家承担，企业的直接利益关系不大，因而工程风险管理意识极为淡薄。改革开放以来，我国的企业所有制结构发生了很大变化，工程项目投资也呈多元化，工程风险评估己逐渐被工程项目的各参与方所重视，面对我国工程领域所发生的这一变化，工程界人士迫切地需要了解工程风险究竟是指什么，它们对项目各参与方会产生什么影响，如何对风险进行分析和管理。建筑工程项目的参与方在项目的各个阶段都会面临各种各样的风险，要保证项目能实现预期目标，从而使参与各方获得各自的预期回报，风险分析与管理在其中起到了一个十分重要的作用。此外，我国经济体制由计划经济向社会主义市场经济转变，在这一过渡时期，工程项目各参与方所面临的风险更有其特殊性，这就要求项目参与方对风险予以更充分的认识，也对各方的风险管理能力提出了更高的要求。我国目前己加入W T O，可以预见，不远的将来，将有越来越多的国外公司进入中国市场，市场竞争必将越来越激烈。而在激烈的市场竞争中，要想立于不败之地，不断提高自身的管理水平是重要的途径。风险评估水平，作为衡量管理水平的一项重要指标，是决定我国建筑业将来核心竞争力的一项重要因素。不断提高评估风险的能力，不断提高风险管理水平，不断提高自身的管理水平和抵抗风险的能力，是我国建筑业与国际接轨的一条必由之路。1 2 建筑工程项目风险评估的含义1 2 1 风险的定义关于风险的定义有多种，但最基本的表述是：在给定情况下和特定时间内，那些可能发生的结果之间的差异，差异越大则风险越大。这个定义强调了结果的差异，而另外一个具有代表性的定义则强调：不利事件发生的不确定性5 1【6 1。上述定义认为风险即是不期望发生事件的客观不确定性。还有一些项目风险管理专家对项目风险定义为：项目风险是所有影响项目目标实现的不确定因素的北京工业大学工学硕士学位论文集合。一般来说，风险具有下列要素：1 事件(不希望发生的变化)2 事件发生的概率(事件发生具有不确定性)3 事件的影响(后果)4 风险的原因风险中包含不确定的成分，在这类问题中可使用概率计算。同时由失败引起的后果和灾难也必须考虑。若没有完成目标A 的后果比没有完成目标B 的后果严重，则失败概率只有O 0 8 的项目A 的失败要比失败概率为0 3 0 的项目B 的失败严重。固此，每个事件的风险可定义为不确定性和后果的函数。风险=厂(事件，不确定性，后果)总的来说，不确定性和后果的严重性增加，风险加大。风险中另一个重要因素为风险的原因。某个事物或某个事物的缺乏引起风险，称为风险源。特定的事故能通过对事故的了解和采取必要的措施而最大限度地得到避免。因此风险=厂(事故，安全措施)风险随着事故的增加而加大，随着安全措施的增加而减小，这说明好的工程项目管理者应该能识别事故，并采取安全措施克服事故。如果采取了足够的措施，风险可被减小到可接受的水平。1 2 2 风险的分类为了充分、全面地认识项目风险，并有针对性地对其进行管理，有必要将风险分类。1 静态风险和动态风险所谓静态风险是社会经济正常情况下的风险；动态风险是以社会经济的变动为直接原因的风险。换言之，静态风险是自然力的不规则作用和人们的错误判断和错误行为导致的风险：动态风险是由于人们欲望的变化、生产方式和生产技术的变化，以及企业组织的变化导致的风险。具体说静态风险包括：资产物理损失、欺诈及犯罪损失、法律错误判断(按法律规定承担赔偿责任)、利润减少(企业收益能力减退)、经营者的行动能力丧失。动态风险包括：管理风险(包括市场第1 章绪论风险，财务风险和生产风险)、政治风险、技术革新风险。动态风险和静态风险的特征有明显的差异。两者的区别可以归纳为：动态风险的不确定性结果表现为是否创造利益，而静态风险的不确定性结果表现为是否造成损害；企业和项目经营在一定程度上承担动态风险，对社会能发挥积极作用；企业或项目在动态风险下追求利益可能给社会带来损失，而对静态风险，企业或项目受损，社会也受损。2 纯粹风险和机会风险纯粹风险是当发生风险时，仅仅会造成损害的风险；而机会风险是当发生风险时，可能造成利润也可能造成损失的风险f 7】。纯粹风险又可细分为人的风险，财产风险和责任风险，同时还可以按可保或不可保风险细分；机会风险分为市场风险、经营风险、投资风险等。纯粹风险和机会风险的主要区别在于：纯粹风险可以适用大数定理，而机会风险不适用；在纯粹风险发生时，企业蒙受损害往往对社会有害，在投机风险发生时，企业蒙受损害往往对社会有利。1 2 3 建筑工程项目风险建筑工程项目的风险可以定义为：所有影响建筑工程项目目标实现的不确定性因素的集合。建筑工程项目的项目立项、机会分析、可行性研究、工程设计和工程实施计划都是基于对将来情况(政治、经济、社会、自然等各方面)预测基础上，基于正常的、理想的技术、管理和组织之上的。而在实际实施以及项目的运行过程中，这些因素都有可能会产生变化。这些变化会使得原订的计划、方案受到干扰，使原订的目标不能实现。对建筑工程项目这些事先不能确定的内部和外部的干扰因素，称之为建筑工程项目的风险。建筑工程项目风险是项目系统中的不确定因素。风险在任何工程项目中都存在。建筑工程项目作为集合经济、技术、管理、组织各方面的综合性社会活动，表现出规模大、技术新颖、持续时间长、参加单位多、与环境接口复杂的特点，它在各个方面都存在着不确定性。这些风险造成建筑工程项目实施的失控现象，如工期延长、成本增加、计划修改等，最终导致工程经济效益降低，甚至项目失败。北京工业大学工学硕士学位论文1 2 4 建筑工程项目风险特点1 风险的多样性在一个建筑工程项目中有许多种类的风险存在，如政治风险、经济风险、法律风险、自然风险、合同风险、合作者风险等。这些风险之间有复杂的内在联系。2 建筑工程项目整个生命周期均存在风险风险在建筑工程项目生命周期中均存在，而不仅仅发生在实施阶段。在目标设计可能存在构思的错误，重要边界条件的遗漏，目标优化的错误；可行性研究中可能有方案的失误，调查不完全，市场分析错误；工程设计中可能存在专业不协调，地质不确定，图纸和规范错误；施工中可能会出现物价上涨，实施方案不完备，资金缺乏，气候条件变化。3 风险将影响建筑工程项目全局风险的影响常常不是局部的、某一段时间或某一个方面，而是全局性的。例如反常的气候条件造成工程的停滞，则会影响整个后期计划，影响后期所有参加者的工作。它不仅会造成工期延长，而且会造成费用增加，对工程质量造成危害。即使是局部的风险也会随着项目发展，其影响会逐渐扩大。例如一个工序受到风险干扰，可能影响与它相关的许多工序，所以在项目中风险影响随时间推移有扩大的趋势。4 风险有一定的规律性工程项目的环境变化、项目的实施有一定的规律性，所以风险的发生和影响也有一定的规律性，是可以进行预测的。重要的是人们要有风险意识，重视风险，对风险进行合理地控制。1 3 传统建筑工程项目风险评估存在的不足随着我国改革开放的不断深入、社会主义市场经济制度不断完善，建设投资的建筑工程项目规模越来越大，无论从时间方面还是从空间方面考虑，建筑工程项目具有实施周期长，不确定性因素多、经济风险和技术风险大，各种风险之间的相互关系错综复杂，对生态环境的潜在影响严重，在国民经济和社会发展中占有重要的战略地位等特征。建筑工程项目从立项到完成后运行的整个周期中都必6第l 章绪论须重视风险管理。建筑工程项目风险评估定义：在预测和识别建筑工程项目风险的基础上，对项目中可能发生的各类风险进行度量和评估。它是建筑工程项目风险管理不可缺少的关键一环，它的重要性不仅使得对工程项目风险管理建立在科学的基础上，而且使风险定量化，为选择最佳处置手段提供了可靠的依据。国内对建筑工程项目进行的风险评估还存在着不足，具体表现在：1 风险管理意识薄弱从计划经济向市场经济转变的过程中，人们的思想观念往往初于计划经济的陈旧观念所束缚。一直都是由投资方来确定项目的工期和投资，这种方式缺少科学的决策，往往引起项目工期延长，投资增加，同时必然导致项目管理人员对各种工作缺少优化，缺少发现工程项目存在问题的积极性，风险意识薄弱。2 风险管理能力差从一定范围讲，建筑业对人员要求的素质越来越高，如现场建设单位聘请的工程师，监理单位聘请的监理工程师，虽然他们具有丰富的工程经验，但是他们往往对项目投资、合同管理、风险分析、风险评估的能力相对较低。因此当他们发现了工程存在的问题和风险时，往往也是没有合理、科学的办法来解决和控制发现的问题和风险。3 风险评估的技术存在不足首先风险的识别困难。美国及其它发达国家均有专业的风险研究报告或风险一览表，一些大型企业或专业的保险经纪人公司、项目咨询公司还制定有自己的风险管理手册。这一切均为做好风险识别提供了良好的基础。但是，目前国内很少这样的研究和报告，极少有建设单位在项目完成后对项目中的风险进行总结和评估。其次是风险评估的误差大，由于基础工作不扎实，风险评估中可以借鉴的历史资料很少，或者为了查找历史资料要花费巨大的精力和时间。此外，风险识别阶段会有误差，即使评估做的再好，也可能会因主要风险源的漏列而前功尽弃。再有，风险评估技术和方法的复杂性和实际应用的可行性之间没有较好的平衡，常常因为技术的复杂性而降低人们应用的热情与效率。风险评估应以更准确的方式对管理人员的经验判断进行公式化，并允许他们按照新的信息对判断进行北京工业大学工学硕士学位论文修改。1 4 本课题的研究内容目前，世界各地己把风险评估视为项目风险管理的组成部分。项目管理方法的核心是风险管理和目标管理，只有把两者有机的结合起来，才能使项目目标尽可能的实现。现在国内工程风险评估研究大部分集中在工程项目风险识别、工程项目风险控制与决策以及工程保险等方面。在建筑工程方面也有了很多有益的尝试，许多项目风险管理的主要原则：经济性原则、二战原则、满意性原则、社会责任感在建筑业有了一定范围的应用，但值得注意的是由于建筑工程风险评估的复杂性与独特性，仍有很大的研究空间。熵的概念最初是描写和判定热力学的一个状态参量，然后进入理论化学、生物学、信息论等领域。随着科学技术发展、知识经济与信息网络时代的到来，对不确定问题的研究提出了越来越高的要求。而熵既是不确定的理想量度，又能反映概率的灵敏度，从这一角度看，经济金融、信息和管理决策成为熵应用最为重要的领域【8 1 1 9 1。具体到工程管理上，熵理论作为管理科学的一个方法论，在宏观上：广义管理熵理论，可应用于宏观经济与管理系统的评估；微观上：狭义管理熵理论可应用于提高微观企业管理系统的有序度和管理效率的评估与度；同时，对管理复杂性理论的发展也有所贡献。但就现状看在建筑工程项目的风险管理及评估方面，熵理论还没有得到很好的应用。本课题希望将熵思想的概念引入到建筑工程项目的风险评估中，把熵思想应用于建筑工程风险管理系统中，来提高风险管理效率，减少管理系统的风险度。现阶段国内建筑工程项目风险研究争论的焦点主要集中在评估方法上，己开发出的几种风险评估方法各有利弊。风险评估方法分两大类：定量评估方法和定性评估方法。定量评估的方法有蒙特卡洛模拟法、马尔柯夫过程分析法、模糊分析法、计划评审技术法、故障树分析法。运用定性评估的方法有主观评分法和层次分析法，因为是主观的评估所以评估者要根据自己的知识、经验、判断做出结论，也正是因为其主观性较强必然带来较多的偏差。但是也因为其具有方便直观的优点在现实中广泛的得到运用。而在定量评估的方法中则缺少了主观评估方法的灵活性和容易操作性。在定性评估方法的运用中还是偏重于对静态的定性，在第1 章绪论权重的选择上也偏于主观。如何更好的综合运用这些方法，又不会以更繁琐的工作作为代价是理论研究人员在作的工作之一。本课题就以往的建筑工程在评估风险评估偏重于静态的定性的研究，在权重的选取上偏于主观，而在现实中存在众多的随机因素，常常使得评估的结果与现实有很大的差距，为了弥补这方面对项目风险评估效果的影响，引入了熵的概念和理论，并进行多目标风险决策、层次分析法方面、资金净现值的具体应用研究。9北京工业大学工学硕士学位论文第2 章熵理论及其发展2 1 熵概念的产生2 1 1 熵概念的产生早在1 8 6 5 年克劳修斯(C l a u s i u s，德国物理学冢)在热之唯动说一书中，提出一个物理量，这就是熵(用符号S 代表)。他发现：如果一个物体的绝对温度为T，给该物体加进热量Q，该物体增加的熵为等，即心。s 表示吸进热量之后，物体的熵(S：)与吸进热量之前的熵(S，)。如用积分形式表示：卧驴降(2-1)同样，如从该物体取出热量A Q，则该物体的熵就减少A S。设有两物体，一物体温度(五)较高，另一物体温度(疋)较低，把两者靠在一起，就有热量A Q 从温度较高物体转移到温度较低的物体，那么温度较高物体所减少的熵为等，即一等，而温度较低的物体所增加的熵为等。因此两物体的总熵变化为：丛总=一竿+i A Q(2-2)由于T l T：，所以，箐 o，由此可见可逆是一种理想状“态，过程总是向熵增大的方向进行，直到系统熵最大，达到系统的平衡为止。而对信息的研究指出，信息量的大小，取决于包含信息内容的消息不确定性程度，信息不确定性程度大，发出的信息量就大，信息不确定性程度小，发出的信息量就小。在统计学中，不确定性是用概率描述的，因而，信息量的大小应该也能用概率来表示。为此，1 9 4 8 年，申农【2 0】把波尔兹曼上的概念引入信息论中，把熵作为一个随机事件的不确定性或信息量的量度，从而奠定了现代信息论的科学理论基础，大大地促进了信息论的信息量统计模型发展【2 1】。由于熵己经在统计力学中用到不确定性函数，申农将其从物理学中借用过来，通过研究证明，熵在信息度量中也得到了广泛的应用。可见，熵与信息紧密联系，熵是一个系统失去了信息的度量，科学界普遍认为熵的获得永远意味着信息的丢失，而不是别的。从微观上看，系统的有序性越高，熵越小，此时含的信息量越大，相反，系统越混乱，有序度差，熵越大，含的信息量越小。对于有组织的系统，随着熵的增加，组织的破坏，意味着信息减少，当组织完全破坏，熵最大，信息量为零。由上可知，信息和熵都是系统状态的物理量，信息描述的是系统有序的程度，而熵则是描述系统无序的程度。一个系统要从无序变为有序必须减少熵，而增加信息量，必须是一个开放系统向外界环境进行的交换。信息量是信息论的中心概念。信息论量度信息的基本出发点，是把获得的信息看作用以消除不确定的东西。因此信息数量的大小，可以用被消除的不确定性的多少未表示，而随机事件不确定性的大小可以用概率分布函数来描述。关于信息熵的一些基本数学特性1 2 2 J：1。非负性因为0 三p(x)S 1，所以l o g(p(x)0，因此有一p(x)l o g(p(x)0，由北京工业大学工学硕士学位论文!IL l,鼻皇皇曼曼皇曼皇量量皇曼蔓曼皇曼皇曼寡曼曼皇曼曼曼皇墨舅舅曼曼曼舅曼寡曼曼曼舅舅曼量寰皇曼曼曼量曼皇曼皇皇蔓曼量曼璺曼皇曼曼量曼舅曼舅鼍信息熵的定义可知H(v)0。2 极值性即：H(p，P：，P。)H(，)=l o g：(，?)(2-4)此式表示在离散信源情况下，信源各符号等概率分布时，熵值达到最大。3 联合熵假定一对离散随机变量(X，J，)的联合概率分布是p(x，Y)，那么(X，】，)的联合熵的定义如下：H(X，J，)=一p(x，y)l o g(p(x，y)(2-5)JY4 条件熵假定一对离散随机变量(X，y)的联合概率分布是p(x，Y)，那么(X，】，)的条件熵的定义如下：日(彰x)=一ZP(X，y)l o g(p(y x)(2-6)工Y5 强可加性H(X，y)=H(X)+日(Y x)(2-7)6 无依赖性假定一对离散随机变量(X，Y)的联合概率分布是p(x，Y)，那么当且仅当X与Y 之间无依赖性时，有H(X，Y)=H(X)+H(Y)。2 2，2 离散型分布的熵对于随机事件，它的出现与否没有完全的把握，具有一定的不确定性，为了量度概率试验含有的不确定性，申农引入函数：行H n=H(P I，芝，只)=一后只l o g I,(2-8)i=l作为随机试验结果不确定性的量度，其中是一个大于零的恒量，因此，H，0。量。叫做信息熵或s h a n n o n 熵。它的意义是：在实验进行之前，它是实验结果不确定性的量度：在实验完成之后，是从实验中所得到的信息的量度。1 4第2 章熵理论及其发展熵H 儿(x)=一喜P(夕多)1。g 尸(夕多)称为在受到信号y t 条件下信息源x的熵。其平均值r=喜尸(y。)H y,(x)=一喜尸(y，)善尸(形)l。g 尸(形)为受到信号后的信息源X 的条件熵。它具有一下性质：1 H(X Y)=日(x)+H(Y X)2 日()非负3 H(X r)_(x)2 2 3 连续型分布的熵设信息源X 和Y 发送信号x 和Y 具有连续分布的密度函数P(x)和g(y)，联合密度函数为厂(x，y)，则熵值为：H(x)=一P o)l。gP(x)a x日(y)=一lq(x)l o gP(y)d y(2 9)分别称为信息源X 和Y 的信息熵上。它们表示其不确定性一信息量。相应的联合熵为：H(x y)=一m u，y)1 0 9 f(x,y)d x d y(2-l O)条件熵为：纵加何(么)-缈(w)l o gf 郴(x,y)出砂(2-1 1)它们具有以下性质：1 当X 在有限集合中均匀分布时的熵最大。2 若密度函数P(x)当x 0 时等于0，且均值为a，则指数分布尸(x)=二e“加“达到最大熵为l n a。3 当一维密度函数P(x)的方差为盯2 的正态分布时的熵最大，最大值为I n、2 p a i e c r。北京工业大学工学硕士学位论文皇曼皇量量曼璺I 一一一I I一一一一I I 曼量鼍量皇曼量曼量皇曼蔓皇曼璺置曼皇曼皇曼舅置皇舅皇舅量曼皇4 川?划)+以致)-肌功埘驯当且仅当x 与Y 独立是等号日(狐)H(】，)，H(X Y)何(彳)+(】，)l成立。2 3 熵理论以上对熵概念及其拓展作了简要地介绍。那么什么是熵理论呢?最初当然是指热力学第二定律，但随着熵概念的拓展和泛化，其内容也丰富和发展了许多。2 3 1 熵增原理熵增原理指孤立系统(与外界无物质能量交换的系统)的熵不会减少，只能增加或保持不变，而且其熵会自动加大到极大值，并保持在极大熵状态下【2 4】。熵是热力学状态函数，其变化量S 与热力学过程中该系统吸收的微元热量a Q 以及该系统的开氏温标T 具有以下关系：A S 丝7 上式中的等号仅于可逆过程中成立。对于孤立系统，由于没有物质和能量交换，因而Q=0，根据上式，有A S 0上式说明孤立系统的熵是不会减少的。这就是熵增原理的内涵，它的意义在于，小到日常生活，大到天体宇宙现象，熵增原理几乎无所不在。另外一些公式或定律的导出也和熵增原理密不可分，如克拉珀龙方程，质量作用定律等。熵增原理所涉及的可逆与不可逆过程的概念，在很多领域具有独特的意义。从经济学角度，熵增原理首先科学地揭示了环境与发展的问题，不可再生资源问题，因此，必须从全球角度去研究生态问题、环境保护与经济增长的关系问题。从管理学的角度，人类生产与消费活动产生的熵对自然生态环境造成了很大的破坏，而盲目的投资与上马项目又造成了整个社会熵的增加，因此加强全球管理已经迫在眉睫。只有人类的自身活动的社会性与自然性相适应，才能真正做到可持续发展，否则只能是一句空话。在这里熵思想和我国古人“天人合一”的哲学思想具有极其相通之处。1 6第2 章熵理论及其发展2 3 2 极大熵理论熵极大化准则是在决策者面临不确定性状态空间时，在己有信息(通常是样本均值或样本方差等)的基础上对状态空间分布的估计【2 6 1。熵极大化问题是找一个概率分布，和己有的关于状态集合的先验信息一致，并且没有太大的误差。按照极大熵准则，人们应该挑选一定约束下(常常是某些与随机变量有关的平均值)使得熵能极大化的那种分布作为选定的分布，它实际上是求解最优规划问题：m a x(x)=一I 厂(x)I n f(x)d x(2 1 2)，南s，I f(x)d x=1J 南式中0 是x 的论域，f(x)是未知的，即需要求的概率密度函数：&(x)是已知函数，它表示己知的信息。求解该数学规划问题，用l a g r a n g e 乘子法来构造一个新函数：少(x)=月()一口一层，厂(x)吕(x)出(2-1 3)l=1J 0其中，口和均为常数。由少，()：o 有(x)=P-a-善屈吕工从而将(d)代入(a)、(b)可求出f(x)的值，则可求出熵极大值。运用熵极大化准则，可以在已有信息的基础上来推断状态集合的概率分布，从而将不确定决策问题转化为风险性决策问题，达到求解的目的。具体方法是：设不确定性决策问题的状态空间是，状态变量向量为X，其分布函数为F(X)(未知)，决策空间为A，决策向量为s，且S 为f(X)，S=F(x)对于这些不确定性决策问题一般采用悲观法、乐观法、后悔值法或乐观系数法等，但这些方法往往与决策者对不确定性的主观推断有关，通常会导致不同的决策结果，科学性与可信性不充分。运用熵极大化准则可弥补这些不足。假设由熵极大化准则得出概率密度f(x)的估计量为7(x)，如果在进行决策是以期望效用值最大为依据，那么原来的不确定性决策问题的转化为一个风险性决策问题，即：。S=m a x(E U(s，)=m a xE U(F(厂(x)北京工业大学工学硕士学位论文个系统，如果它的状态受到许多相互独立的、均匀小的随机因素影响(称为基本对称系统)，则其状态的概率分布，应在表征这个系统状态的约束条件下，使这个分布的熵最大。可以看出该准则告诉我们如果对随机事件一无所知，则假设它是均匀分布的，各随机事件出现的概率相等：为1 n，此时随机事件的熵值最大。实际上，所有自然现象和社会现象，都遵守着熵极大化准则，即使人的个体行为也不例外。如自习室中学生的分布，公交车上乘客的分布，火车站售票口前排队买票的旅客分布，沙滩上休息人群的分布等无一例外地符合极大熵原理。因此，系统的管理，项目的决策以及设计，也不能抛开极大熵原理，因为很多自然现