第13讲数据处理与数据建模方法精选文档.ppt

第13讲数据处理与数据建模方法本讲稿第一页，共三十六页 实实际际中中大大量量信信息息或或海海量量信信息息对对应应着着大大量量的的数数据据或或海海量量数数据据，从从这这些些数数据据中中寻寻求求所所需需要的问题答案要的问题答案-数据建模问题数据建模问题。通通过过实实际际对对象象过过去去或或当当前前的的相相关关信信息息，研究研究两个方面问题：两个方面问题：（1 1）分分析析研研究究实实际际对对象象所所处处的的状状态态和和特特征，依此做出评价和决策；征，依此做出评价和决策；（2 2）分分析析预预测测实实际际对对象象未未来来的的变变化化状状况和趋势，为科学决策提供依据。况和趋势，为科学决策提供依据。数据处理与数据建模方法数据处理与数据建模方法2022/9/222本讲稿第二页，共三十六页实际对象都客观存在着一些反映其特征的相关数实际对象都客观存在着一些反映其特征的相关数据信息；据信息；如何综合利用这些数据信息对实际对象的现状如何综合利用这些数据信息对实际对象的现状做出综合评价，或预测未来的发展趋势，制定科做出综合评价，或预测未来的发展趋势，制定科学的决策方案？学的决策方案？-数据建模的数据建模的综合评价、综合排序、预测与决策综合评价、综合排序、预测与决策等问题等问题。数据建模一般问题的提出：数据建模一般问题的提出：一、数据建模的一般问题一、数据建模的一般问题一般一般2022/9/223本讲稿第三页，共三十六页综合评价是综合评价是科学、合理决策的前提科学、合理决策的前提。综合评价的基础是综合评价的基础是信息的综合利用信息的综合利用。综合评价的过程是综合评价的过程是数据建模的过程数据建模的过程。数据建模的基础是数据建模的基础是数据的标准化处理数据的标准化处理。一、数据建模的一般问题一、数据建模的一般问题如何构成一个综合评价问题呢？如何构成一个综合评价问题呢？2022/9/224本讲稿第四页，共三十六页 依依据据相相关关信信息息对对实实际际对对象象所所进进行行的的客客观观、公公正、合理的全面评价。正、合理的全面评价。如果把被评价对象视为系统，则问题：如果把被评价对象视为系统，则问题：在在若若干干个个(同同类类)系系统统中中，如如何何确确定定哪哪个个系系统统的的运运行行(或或发发展展)状状况况好好，哪哪个个状状况况差差？即即哪哪个个优优，哪个劣？哪个劣？一类多属性一类多属性(指标指标)的的综合评价问题综合评价问题。综合评价：综合评价：一、数据建模的一般问题一、数据建模的一般问题2022/9/225本讲稿第五页，共三十六页综合评价问题的五个要素综合评价问题的五个要素 （1）被评价对象）被评价对象:被评价者，统称为评价系统。被评价者，统称为评价系统。（2）评价指标：）评价指标：反映被评价对象的基本要素，一起构反映被评价对象的基本要素，一起构成评价指标体系。成评价指标体系。原则原则:系统性、科学性、可比性、可测系统性、科学性、可比性、可测性和独立性。性和独立性。（3）权重系数：）权重系数：反映各指标之间影响程度大小的度反映各指标之间影响程度大小的度量。量。（4）综合评价模型：）综合评价模型：将评价指标与权重系数综合成一将评价指标与权重系数综合成一个整体指标的模型。个整体指标的模型。（5）评价者：）评价者：直接参与评价的人。直接参与评价的人。2022/9/226本讲稿第六页，共三十六页综合评价过程的流程综合评价过程的流程2022/9/227本讲稿第七页，共三十六页 二、数据处理的一般方法二、数据处理的一般方法 1.数据类型的一致化处理方法数据类型的一致化处理方法 极大型极大型:期望取值越大越好；期望取值越大越好；极小型极小型:期望取值越小越好；期望取值越小越好；中间型中间型:期望取值为适当的中间值最好期望取值为适当的中间值最好;区间型区间型:期望取值落在某一个确定的区间期望取值落在某一个确定的区间 内为最好。内为最好。什么是一致什么是一致化处理化处理?为什为什么要一致化么要一致化?2022/9/228本讲稿第八页，共三十六页 二、数据处理的一般方法二、数据处理的一般方法 1.数据类型的一致化处理方法数据类型的一致化处理方法 2022/9/229本讲稿第九页，共三十六页 二、数据处理的一般方法二、数据处理的一般方法 1.数据类型的一致化处理方法数据类型的一致化处理方法 2022/9/2210本讲稿第十页，共三十六页 2.数据指标的无量纲化处理方法数据指标的无量纲化处理方法(3)功效系数法：功效系数法：二、数据处理的一般方法二、数据处理的一般方法(1)标准差法：标准差法：(2)极值差法：极值差法：2022/9/2211本讲稿第十一页，共三十六页 二、数据处理的一般方法二、数据处理的一般方法 3.模糊模糊指标的量化处理方法指标的量化处理方法 在在实实际际中中，很很多多问问题题都都涉涉及及到到定定性性，或或模糊指标的定量处理问题。模糊指标的定量处理问题。诸诸如如:教教学学质质量量、科科研研水水平平、工工作作政政绩绩、人人员员素素质质、各各种种满满意意度度、信信誉誉、态态度度、意意识识、观观念念、能能力力等等因因素素有有关关的的政政治治、社社会会、人人文文等领域的问题。等领域的问题。如何对有关问题给出定量分析呢？如何对有关问题给出定量分析呢？2022/9/2212本讲稿第十二页，共三十六页按国家的评价标准按国家的评价标准,评价因素一般分为五个评价因素一般分为五个等级，如等级，如A A，B B，C C，D D，E E。如何将其量化？若如何将其量化？若A A-，B B+，C C-，D D+等又如何合等又如何合理量化？理量化？根据实际问题，构造模糊隶属函数的量化方根据实际问题，构造模糊隶属函数的量化方法是一种可行有效的方法。法是一种可行有效的方法。二、数据处理的一般方法二、数据处理的一般方法 3.定性定性指标的量化处理方法指标的量化处理方法 2022/9/2213本讲稿第十三页，共三十六页假设有多个评价人对某项因素评价为假设有多个评价人对某项因素评价为A A，B B，C C，D,ED,E共共5 5个等级个等级:v1,v2,v3,v4,v5。譬如：评价人对某事件譬如：评价人对某事件“满意度满意度”的评价可分为的评价可分为 很满意，满意，较满意，不太满意，很不满意很满意，满意，较满意，不太满意，很不满意 将其将其5 5个等级依次对应为个等级依次对应为5 5，4 4，3 3，2 2，1 1。这里为连续量化，取偏大型柯西分布和对数函数作为这里为连续量化，取偏大型柯西分布和对数函数作为隶属函数：隶属函数：二、数据处理的一般方法二、数据处理的一般方法2022/9/2214本讲稿第十四页，共三十六页 二、数据处理的一般方法二、数据处理的一般方法 3.定性定性指标的量化处理方法指标的量化处理方法 2022/9/2215本讲稿第十五页，共三十六页 二、数据处理的一般方法二、数据处理的一般方法 3.定性定性指标的量化处理方法指标的量化处理方法 根据这个规律，对根据这个规律，对于任何一个评价值，都于任何一个评价值，都可给出一个合适的量化可给出一个合适的量化值。值。据实际情况可构据实际情况可构造其他的隶属函数。造其他的隶属函数。如取如取偏大型正态分布偏大型正态分布。2022/9/2216本讲稿第十六页，共三十六页 模糊定性指标量化的应用案例模糊定性指标量化的应用案例（1 1）CUMCM2003-A,C:SARSCUMCM2003-A,C:SARS的传播问题的传播问题（2 2）CUMCM2004-D:CUMCM2004-D:公务员招聘问题；公务员招聘问题；（3 3）CUMCM2005-B:DVDCUMCM2005-B:DVD租赁问题；租赁问题；（4 4）CUMCM2008-B:CUMCM2008-B:高教学费标准探讨问题；高教学费标准探讨问题；（5 5）CUMCM2008-D:NBACUMCM2008-D:NBA赛程的分析与评价问题；赛程的分析与评价问题；（6 6）CUMCM2009-D:CUMCM2009-D:会议筹备问题。会议筹备问题。2022/9/2217本讲稿第十七页，共三十六页 三、数据建模的综合评价方法三、数据建模的综合评价方法 适用条件适用条件:各评价指标之间相互独立。各评价指标之间相互独立。对不完全独立的情况，其结果将导致各指标间信对不完全独立的情况，其结果将导致各指标间信息的重复，使评价结果不能客观地反映实际。息的重复，使评价结果不能客观地反映实际。1.线性加权综合法线性加权综合法 主要特点：主要特点：（1 1）各评价指标间作用得到线性补偿；）各评价指标间作用得到线性补偿；（2 2）权重系数的对评价结果的影响明显。）权重系数的对评价结果的影响明显。2022/9/2218本讲稿第十八页，共三十六页 2.非非线性加权综合法线性加权综合法 三、数据建模的综合评价方法三、数据建模的综合评价方法主要特点：主要特点：（1 1）突突出出了了各各指指标标值值的的一一致致性性，即即平平衡衡评评价价指指标标值值较较小小的指标影响的作用；的指标影响的作用；（2 2）权权重重系系数数大大小小的的影影响响不不是是特特别别明明显显，而而对对指指标标值值的大小差异相对较敏感。的大小差异相对较敏感。2022/9/2219本讲稿第十九页，共三十六页 三、数据建模的综合评价方法三、数据建模的综合评价方法 3.逼近理想点（逼近理想点（TOPSISTOPSIS）方法）方法 2022/9/2220本讲稿第二十页，共三十六页 三、数据建模的综合评价方法三、数据建模的综合评价方法 3.逼近理想点（逼近理想点（TOPSISTOPSIS）方法）方法 2022/9/2221本讲稿第二十一页，共三十六页返回 三、数据建模的综合评价方法三、数据建模的综合评价方法 3.逼近理想点（逼近理想点（TOPSISTOPSIS）方法）方法 2022/9/2222本讲稿第二十二页，共三十六页 综合评价方法的应用案例综合评价方法的应用案例（1 1）CUMCM1993-B:CUMCM1993-B:足球队排名问题；足球队排名问题；（2 2）CUMCM2001-B:CUMCM2001-B:公交车调度问题；公交车调度问题；（3 3）CUMCM2002-B:CUMCM2002-B:彩票中的数学问题；彩票中的数学问题；（4 4）CUMCM2004-D:CUMCM2004-D:公务员招聘问题；公务员招聘问题；（5 5）CUMCM2005-A:CUMCM2005-A:长江水质的评价和预测问题；长江水质的评价和预测问题；（6 6）CUMCM2005-C:CUMCM2005-C:雨量预报方法评价问题；雨量预报方法评价问题；（7 7）CUMCM2006-B:CUMCM2006-B:艾滋病疗法评价与预测问题；艾滋病疗法评价与预测问题；（8 8）CUMCM2007-C:CUMCM2007-C:手机手机“套餐套餐”优惠几何问题；优惠几何问题；（9 9）CUMCM2008-B:CUMCM2008-B:高教学费标准探讨问题；高教学费标准探讨问题；（1010）CUMCM2008-D:NBACUMCM2008-D:NBA赛程的分析与评价问题；赛程的分析与评价问题；（1111）CUMCM2009-D:CUMCM2009-D:会议筹备问题。会议筹备问题。2022/9/2223本讲稿第二十三页，共三十六页 四、数据建模的动态加权综合方法四、数据建模的动态加权综合方法 1.动态加权问题的一般提法动态加权问题的一般提法 问题问题:如何对如何对n个系统做出综合评价呢个系统做出综合评价呢?2022/9/2224本讲稿第二十四页，共三十六页 四、数据建模的动态加权方法四、数据建模的动态加权方法 注意注意:问题对于每一个属性而言，既有问题对于每一个属性而言，既有不同不同类别类别的差异，同类别的又有的差异，同类别的又有不同量值不同量值的差异。的差异。对于既有对于既有“质差质差”，又有，又有“量差量差”的问题，的问题，合理有效的方法是合理有效的方法是动态加权综合评价方法动态加权综合评价方法。1.动态加权问题的一般提法动态加权问题的一般提法 2022/9/2225本讲稿第二十五页，共三十六页 四、数据建模的动态加权方法四、数据建模的动态加权方法2.动态加权函数的设定动态加权函数的设定 2022/9/2226本讲稿第二十六页，共三十六页 四、数据建模的动态加权方法四、数据建模的动态加权方法2.动态加权函数的设定动态加权函数的设定 2022/9/2227本讲稿第二十七页，共三十六页返回 四、数据建模的动态加权方法四、数据建模的动态加权方法2.动态加权函数的设定动态加权函数的设定 2022/9/2228本讲稿第二十八页，共三十六页 四、数据建模的动态加权方法四、数据建模的动态加权方法3.动态加权的综合评价模型动态加权的综合评价模型 2022/9/2229本讲稿第二十九页，共三十六页 五、数据建模的综合排序方法五、数据建模的综合排序方法 1.综合排序问题的一般提法综合排序问题的一般提法 问题问题:如何给出如何给出n个系统的最终排序结果呢个系统的最终排序结果呢?2022/9/2230本讲稿第三十页，共三十六页 五、数据建模的综合排序方法五、数据建模的综合排序方法 2.综合排序问题的方法综合排序问题的方法 2022/9/2231本讲稿第三十一页，共三十六页 动态加权与综合排序的应用案例动态加权与综合排序的应用案例动态加权的综合排序案例：动态加权的综合排序案例：（1 1）CUMCM2002-B:CUMCM2002-B:彩票中的数学问题；彩票中的数学问题；（2 2）CUMCM2005-A:CUMCM2005-A:长江水质的评价和预测问题；长江水质的评价和预测问题；综合评价的排序案例：综合评价的排序案例：（1 1）CUMCM1993-B:CUMCM1993-B:足球队排名问题；足球队排名问题；（2 2）CUMCM2008-D:NBACUMCM2008-D:NBA赛程的分析与评价问题；赛程的分析与评价问题；（3 3）CUMCM2009-D:CUMCM2009-D:会议筹备问题。会议筹备问题。2022/9/2232本讲稿第三十二页，共三十六页 六、数据建模的常用预测方法六、数据建模的常用预测方法1.1.插值与拟合方法：小样本内部预测；插值与拟合方法：小样本内部预测；应用案例：应用案例：（1 1）CUMCM2001-A:血管的三维重建问题；血管的三维重建问题；（2）CUMCM2003-A,C:SARS的传播问题；的传播问题；（3）CUMCM2004-C:饮酒驾车问题；饮酒驾车问题；（4）CUMCM2005-A:长江水质的评价与预测；长江水质的评价与预测；（5）CUMCM2005-D:雨量预报方法的评价；雨量预报方法的评价；（6）CUMCM2006-B:艾滋病疗法的评价与预测。艾滋病疗法的评价与预测。2022/9/2233本讲稿第三十三页，共三十六页 六、数据建模的常用预测方法六、数据建模的常用预测方法2.2.回归模型方法：大样本的内部预测；回归模型方法：大样本的内部预测；应用案例：应用案例：（1）CUMCM2004-A:奥运临时超市网点设计；奥运临时超市网点设计；（2）CUMCM2004-B:电力市场的输电阻塞管理；电力市场的输电阻塞管理；（3）CUMCM2005-A:长江水质的评价与预测；长江水质的评价与预测；（4）CUMCM2006-B:艾滋病疗法的评价与预测；艾滋病疗法的评价与预测；（5）CUMCM2008-B:高教学费标准探讨问题。高教学费标准探讨问题。2022/9/2234本讲稿第三十四页，共三十六页 六、数据建模的常用预测方法六、数据建模的常用预测方法3.3.灰预测灰预测GM(1,1)GM(1,1)：小样本的未来预测；：小样本的未来预测；（1）CUMCM2003-A:SARS的传播问题；的传播问题；（2）CUMCM2005-A:长江水质的评价与预测；长江水质的评价与预测；（3）CUMCM2006-B:艾滋病疗法的评价与预测；艾滋病疗法的评价与预测；（4）CUMCM2008-B:高教学费标准探讨问题。高教学费标准探讨问题。4.4.时间序列方法：大样本的随机因素或周期特征的未来预时间序列方法：大样本的随机因素或周期特征的未来预测；测；（1）CUMCM2003-A:SARS的传播问题；的传播问题；（2）CUMCM2005-A:长江水质的评价与预测；长江水质的评价与预测；（3）CUMCM2006-B:艾滋病疗法的评价与预测。艾滋病疗法的评价与预测。5.5.神经网络方法：大样的未来预测神经网络方法：大样的未来预测2022/9/2235本讲稿第三十五页，共三十六页具体详细的方法具体详细的方法与内容请见韩中与内容请见韩中庚编著的庚编著的数学数学建模方法及其应建模方法及其应用用（第二版）（第二版），高等教育出，高等教育出版社，版社，2009。2022/9/2236本讲稿第三十六页，共三十六页