数据处理和数据建模方法精.ppt

《数据处理和数据建模方法精.ppt》由会员分享，可在线阅读，更多相关《数据处理和数据建模方法精.ppt（39页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、数据处理和数据建模方法第1页，本讲稿共39页 实实际际中中大大量量信信息息或或海海量量信信息息对对应应着着大大量量的的数数据据或或海海量量数数据据，从从这这些些数数据据中中寻寻求求所需要的问题答案所需要的问题答案-数据建模问题数据建模问题。通通过过实实际际对对象象过过去去或或当当前前的的相相关关信信息息，研究研究两个方面问题：两个方面问题：（1 1）分分析析研研究究实实际际对对象象所所处处的的状状态态和和特特征征，依此做出评价和决策；依此做出评价和决策；（2 2）分分析析预预测测实实际际对对象象未未来来的的变变化化状状况和趋势，为科学决策提供依据。况和趋势，为科学决策提供依据。数据处理与数据建

2、模方法数据处理与数据建模方法2023/2/142第2页，本讲稿共39页 数据处理与数据建模方法数据处理与数据建模方法 1.数据建模的一般问题数据建模的一般问题 2.数据处理的一般方法数据处理的一般方法 3.数据建模的综合评价方法数据建模的综合评价方法 4.数据建模的动态加权方法数据建模的动态加权方法 .数据建模的综合排序方法数据建模的综合排序方法 .数据建模的预测方法数据建模的预测方法 2023/2/143第3页，本讲稿共39页实际对象都客观存在着一些反映其特征的相关实际对象都客观存在着一些反映其特征的相关数据信息；数据信息；如何综合利用这些数据信息对实际对象的现状做出如何综合利用这些数据信息

3、对实际对象的现状做出综合评价，或预测未来的发展趋势，制定科学的决综合评价，或预测未来的发展趋势，制定科学的决策方案？策方案？-数据建模的数据建模的综合评价、综合排序、预测与决综合评价、综合排序、预测与决策等问题策等问题。数据建模一般问题的提出：数据建模一般问题的提出：一、数据建模的一般问题一、数据建模的一般问题2023/2/144第4页，本讲稿共39页综合评价是综合评价是科学、合理决策的前提科学、合理决策的前提。综合评价的基础是综合评价的基础是信息的综合利用信息的综合利用。综合评价的过程是综合评价的过程是数据建模的过程数据建模的过程。数据建模的基础是数据建模的基础是数据的标准化处理数据的标准化

4、处理。一、数据建模的一般问题一、数据建模的一般问题如何构成一个综合评价问题呢？如何构成一个综合评价问题呢？2023/2/145第5页，本讲稿共39页 依依据据相相关关信信息息对对实实际际对对象象所所进进行行的的客客观观、公公正、合理的全面评价。正、合理的全面评价。如果把被评价对象视为系统，则问题：如果把被评价对象视为系统，则问题：在在若若干干个个(同同类类)系系统统中中，如如何何确确定定哪哪个个系系统统的的运运行行(或或发发展展)状状况况好好，哪哪个个状状况况差差？即即哪哪个个优优，哪个劣？哪个劣？一类多属性一类多属性(指标指标)的的综合评价问题综合评价问题。综合评价：综合评价：一、数据建模的

5、一般问题一、数据建模的一般问题2023/2/146第6页，本讲稿共39页综合评价问题的五个要素综合评价问题的五个要素 （1）被评价对象）被评价对象:被评价者，统称为评价系统。被评价者，统称为评价系统。（2）评价指标：）评价指标：反映被评价对象的基本要素，一起构反映被评价对象的基本要素，一起构成评价指标体系。成评价指标体系。原则原则:系统性、科学性、可比性、可测系统性、科学性、可比性、可测性和独立性。性和独立性。（3）权重系数：）权重系数：反映各指标之间影响程度大小的度量。反映各指标之间影响程度大小的度量。（4）综合评价模型：）综合评价模型：将评价指标与权重系数综合成将评价指标与权重系数综合成一

6、个整体指标的模型。一个整体指标的模型。（5）评价者：）评价者：直接参与评价的人。直接参与评价的人。2023/2/147第7页，本讲稿共39页综合评价过程的流程综合评价过程的流程2023/2/148第8页，本讲稿共39页评价指标体系的建立及筛选方法评价指标体系的建立及筛选方法一般原则：尽量少地选取一般原则：尽量少地选取“主要主要”的评价的评价指标用于实际评价。系统性、科学性、可指标用于实际评价。系统性、科学性、可比性、可测性和独立性。比性、可测性和独立性。专家调研法专家调研法最小均方差法最小均方差法极小极大离差法极小极大离差法2023/2/149第9页，本讲稿共39页 二、数据处理的一般方法二、

7、数据处理的一般方法 1.数据类型的一致化处理方法数据类型的一致化处理方法 极大型极大型:期望取值越大越好；期望取值越大越好；极小型极小型:期望取值越小越好；期望取值越小越好；中间型中间型:期望取值为适当的中间值最好期望取值为适当的中间值最好;区间型区间型:期望取值落在某一个确定的区间期望取值落在某一个确定的区间 内为最好。内为最好。什么是一什么是一致化处理致化处理?为什么要一为什么要一致化致化?2023/2/1410第10页，本讲稿共39页 二、数据处理的一般方法二、数据处理的一般方法 1.数据类型的一致化处理方法数据类型的一致化处理方法 2023/2/1411第11页，本讲稿共39页 二、数

8、据处理的一般方法二、数据处理的一般方法 1.数据类型的一致化处理方法数据类型的一致化处理方法 2023/2/1412第12页，本讲稿共39页 2.数据指标的无量纲化处理方法数据指标的无量纲化处理方法(3)功效系数法：功效系数法：二、数据处理的一般方法二、数据处理的一般方法(1)标准差法：标准差法：(2)极值差法：极值差法：2023/2/1413第13页，本讲稿共39页 二、数据处理的一般方法二、数据处理的一般方法 3.定性定性指标的量化处理方法指标的量化处理方法 在在实实际际中中，很很多多问问题题都都涉涉及及到到定定性性，或或模模糊糊指指标的定量处理问题。标的定量处理问题。诸诸如如:教教学学质

9、质量量、科科研研水水平平、工工作作政政绩绩、人人员员素素质质、各各种种满满意意度度、信信誉誉、态态度度、意意识识、观观念念、能能力力等等因因素素有有关关的的政政治治、社社会会、人人文文等等领域的问题。领域的问题。如何对有关问题给出定量分析呢？如何对有关问题给出定量分析呢？2023/2/1414第14页，本讲稿共39页按国家的评价标准按国家的评价标准,评价因素一般分为五个等评价因素一般分为五个等级，如级，如A A，B B，C C，D D，E E。如何将其量化？若如何将其量化？若A A-，B B+，C C-，D D+等又如何等又如何合理量化？合理量化？根据实际问题，构造模糊隶属函数的量化根据实际问

10、题，构造模糊隶属函数的量化方法是一种可行有效的方法。方法是一种可行有效的方法。二、数据处理的一般方法二、数据处理的一般方法 3.定性定性指标的量化处理方法指标的量化处理方法 2023/2/1415第15页，本讲稿共39页假设有多个评价人对某项因素评价为假设有多个评价人对某项因素评价为A A，B B，C C，D,ED,E共共5 5个等级个等级:v1,v2,v3,v4,v5。譬如：评价人对某事件譬如：评价人对某事件“满意度满意度”的评价可分为的评价可分为 很满意，满意，较满意，不太满意，很不满意很满意，满意，较满意，不太满意，很不满意 将其将其5 5个等级依次对应为个等级依次对应为5 5，4 4，

11、3 3，2 2，1 1。这里为连续量化，取偏大型柯西分布和对数函数这里为连续量化，取偏大型柯西分布和对数函数作为隶属函数：作为隶属函数：二、数据处理的一般方法二、数据处理的一般方法2023/2/1416第16页，本讲稿共39页 二、数据处理的一般方法二、数据处理的一般方法 3.定性定性指标的量化处理方法指标的量化处理方法 2023/2/1417第17页，本讲稿共39页 二、数据处理的一般方法二、数据处理的一般方法 3.定性定性指标的量化处理方法指标的量化处理方法 根据这个规律，根据这个规律，对于任何一个评价值，对于任何一个评价值，都可给出一个合适的都可给出一个合适的量化值。量化值。据实际情况可

12、构造据实际情况可构造其他的隶属函数。如取其他的隶属函数。如取偏大型正态分布偏大型正态分布。2023/2/1418第18页，本讲稿共39页 模糊定性指标量化的应用案例模糊定性指标量化的应用案例（1 1）CUMCM2003-A,C:SARSCUMCM2003-A,C:SARS的传播问题的传播问题（2 2）CUMCM2004-D:CUMCM2004-D:公务员招聘问题；公务员招聘问题；（3 3）CUMCM2005-B:DVDCUMCM2005-B:DVD租赁问题；租赁问题；（4 4）CUMCM2008-B:CUMCM2008-B:高教学费标准探讨问题；高教学费标准探讨问题；（5 5）CUMCM200

13、8-D:NBACUMCM2008-D:NBA赛程的分析与评价问题；赛程的分析与评价问题；（6 6）CUMCM2009-D:CUMCM2009-D:会议筹备问题。会议筹备问题。2023/2/1419第19页，本讲稿共39页评价指标权重系数的确定方法评价指标权重系数的确定方法1、基于、基于“指标功能指标功能”的赋权方法的赋权方法2、基于、基于“指标差异指标差异”的赋权方法的赋权方法 （1）突出整体差异的）突出整体差异的“拉开档次拉开档次”法法 （2）突出局部差异的）突出局部差异的“客观赋值客观赋值”法法 均方差法、极差法、熵值法均方差法、极差法、熵值法3、基于综合集成的赋值法、基于综合集成的赋值法

14、 加法集成赋权法、乘积集成赋权法加法集成赋权法、乘积集成赋权法2023/2/1420第20页，本讲稿共39页 三、数据建模的综合评价方法三、数据建模的综合评价方法 适用条件适用条件:各评价指标之间相互独立。各评价指标之间相互独立。对不完全独立的情况，其结果将导致各指标间信息对不完全独立的情况，其结果将导致各指标间信息的重复，使评价结果不能客观地反映实际。的重复，使评价结果不能客观地反映实际。1.线性加权综合法线性加权综合法 主要特点：主要特点：（1 1）各评价指标间作用得到线性补偿；）各评价指标间作用得到线性补偿；（2 2）权重系数的对评价结果的影响明显。）权重系数的对评价结果的影响明显。20

15、23/2/1421第21页，本讲稿共39页 2.非非线性加权综合法线性加权综合法 三、数据建模的综合评价方法三、数据建模的综合评价方法主要特点：主要特点：（1 1）突突出出了了各各指指标标值值的的一一致致性性，即即平平衡衡评评价价指指标标值值较较小的指标影响的作用；小的指标影响的作用；（2 2）权权重重系系数数大大小小的的影影响响不不是是特特别别明明显显，而而对对指指标标值值的大小差异相对较敏感。的大小差异相对较敏感。2023/2/1422第22页，本讲稿共39页 三、数据建模的综合评价方法三、数据建模的综合评价方法 3.逼近理想点（逼近理想点（TOPSISTOPSIS）方法）方法 2023/

16、2/1423第23页，本讲稿共39页 三、数据建模的综合评价方法三、数据建模的综合评价方法 3.逼近理想点（逼近理想点（TOPSISTOPSIS）方法）方法 2023/2/1424第24页，本讲稿共39页返回 三、数据建模的综合评价方法三、数据建模的综合评价方法 3.逼近理想点（逼近理想点（TOPSISTOPSIS）方法）方法 2023/2/1425第25页，本讲稿共39页 综合评价方法的应用案例综合评价方法的应用案例（1 1）CUMCM1993-B:CUMCM1993-B:足球队排名问题；足球队排名问题；（2 2）CUMCM2001-B:CUMCM2001-B:公交车调度问题；公交车调度问题

17、；（3 3）CUMCM2002-B:CUMCM2002-B:彩票中的数学问题；彩票中的数学问题；（4 4）CUMCM2004-D:CUMCM2004-D:公务员招聘问题；公务员招聘问题；（5 5）CUMCM2005-A:CUMCM2005-A:长江水质的评价和预测问题；长江水质的评价和预测问题；（6 6）CUMCM2005-C:CUMCM2005-C:雨量预报方法评价问题；雨量预报方法评价问题；（7 7）CUMCM2006-B:CUMCM2006-B:艾滋病疗法评价与预测问题；艾滋病疗法评价与预测问题；（8 8）CUMCM2007-C:CUMCM2007-C:手机手机“套餐套餐”优惠几何问题；

18、优惠几何问题；（9 9）CUMCM2008-B:CUMCM2008-B:高教学费标准探讨问题；高教学费标准探讨问题；（1010）CUMCM2008-D:NBACUMCM2008-D:NBA赛程的分析与评价问题；赛程的分析与评价问题；（1111）CUMCM2009-D:CUMCM2009-D:会议筹备问题。会议筹备问题。2023/2/1426第26页，本讲稿共39页 四、数据建模的动态加权综合方法四、数据建模的动态加权综合方法 1.动态加权问题的一般提法动态加权问题的一般提法 问题问题:如何对如何对n个系统做出综合评价呢个系统做出综合评价呢?2023/2/1427第27页，本讲稿共39页 四、数

19、据建模的动态加权方法四、数据建模的动态加权方法 注意注意:问题对于每一个属性而言，既有问题对于每一个属性而言，既有不同不同类别类别的差异，同类别的又有的差异，同类别的又有不同量值不同量值的差异。的差异。对于既有对于既有“质差质差”，又有，又有“量差量差”的问题，的问题，合理有效的方法是合理有效的方法是动态加权综合评价方法动态加权综合评价方法。1.动态加权问题的一般提法动态加权问题的一般提法 2023/2/1428第28页，本讲稿共39页 四、数据建模的动态加权方法四、数据建模的动态加权方法2.动态加权函数的设定动态加权函数的设定 2023/2/1429第29页，本讲稿共39页 四、数据建模的动

20、态加权方法四、数据建模的动态加权方法2.动态加权函数的设定动态加权函数的设定 2023/2/1430第30页，本讲稿共39页返回 四、数据建模的动态加权方法四、数据建模的动态加权方法2.动态加权函数的设定动态加权函数的设定 2023/2/1431第31页，本讲稿共39页 四、数据建模的动态加权方法四、数据建模的动态加权方法3.动态加权的综合评价模型动态加权的综合评价模型 2023/2/1432第32页，本讲稿共39页 五、数据建模的综合排序方法五、数据建模的综合排序方法 1.综合排序问题的一般提法综合排序问题的一般提法 问题问题:如何给出如何给出n个系统的最终排序结果呢个系统的最终排序结果呢?

21、2023/2/1433第33页，本讲稿共39页 五、数据建模的综合排序方法五、数据建模的综合排序方法 2.综合排序问题的方法综合排序问题的方法 2023/2/1434第34页，本讲稿共39页 动态加权与综合排序的应用案例动态加权与综合排序的应用案例动态加权的综合排序案例：动态加权的综合排序案例：（1 1）CUMCM2002-B:CUMCM2002-B:彩票中的数学问题；彩票中的数学问题；（2 2）CUMCM2005-A:CUMCM2005-A:长江水质的评价和预测问题；长江水质的评价和预测问题；综合评价的排序案例：综合评价的排序案例：（1 1）CUMCM1993-B:CUMCM1993-B:足

22、球队排名问题；足球队排名问题；（2 2）CUMCM2008-D:NBACUMCM2008-D:NBA赛程的分析与评价问题；赛程的分析与评价问题；（3 3）CUMCM2009-D:CUMCM2009-D:会议筹备问题。会议筹备问题。2023/2/1435第35页，本讲稿共39页 六、数据建模的常用预测方法六、数据建模的常用预测方法1.1.插值与拟合方法：小样本内部预测；插值与拟合方法：小样本内部预测；应用案例：应用案例：（1 1）CUMCM2001-A:血管的三维重建问题；血管的三维重建问题；（2）CUMCM2003-A,C:SARS的传播问题；的传播问题；（3）CUMCM2004-C:饮酒驾车

23、问题；饮酒驾车问题；（4）CUMCM2005-A:长江水质的评价与预测；长江水质的评价与预测；（5）CUMCM2005-D:雨量预报方法的评价；雨量预报方法的评价；（6）CUMCM2006-B:艾滋病疗法的评价与预测。艾滋病疗法的评价与预测。2023/2/1436第36页，本讲稿共39页 六、数据建模的常用预测方法六、数据建模的常用预测方法2.2.回归模型方法：大样本的内部预测；回归模型方法：大样本的内部预测；应用案例：应用案例：（1）CUMCM2004-A:奥运临时超市网点设计；奥运临时超市网点设计；（2）CUMCM2004-B:电力市场的输电阻塞管理；电力市场的输电阻塞管理；（3）CUMC

24、M2005-A:长江水质的评价与预测；长江水质的评价与预测；（4）CUMCM2006-B:艾滋病疗法的评价与预测；艾滋病疗法的评价与预测；（5）CUMCM2008-B:高教学费标准探讨问题。高教学费标准探讨问题。2023/2/1437第37页，本讲稿共39页 六、数据建模的常用预测方法六、数据建模的常用预测方法3.3.灰预测灰预测GM(1,1)GM(1,1)：小样本的未来预测；：小样本的未来预测；（1）CUMCM2003-A:SARS的传播问题；的传播问题；（2）CUMCM2005-A:长江水质的评价与预测；长江水质的评价与预测；（3）CUMCM2006-B:艾滋病疗法的评价与预测；艾滋病疗法

25、的评价与预测；（4）CUMCM2008-B:高教学费标准探讨问题。高教学费标准探讨问题。4.4.时间序列方法：大样本的随机因素或周期特征的未来预时间序列方法：大样本的随机因素或周期特征的未来预测；测；（1）CUMCM2003-A:SARS的传播问题；的传播问题；（2）CUMCM2005-A:长江水质的评价与预测；长江水质的评价与预测；（3）CUMCM2006-B:艾滋病疗法的评价与预测。艾滋病疗法的评价与预测。5.5.神经网络方法：大样的未来预测神经网络方法：大样的未来预测2023/2/1438第38页，本讲稿共39页具体详细的方法具体详细的方法与内容请见韩中与内容请见韩中庚编著的庚编著的数学数学建模方法及其应建模方法及其应用用（第二版），（第二版），高等教育出版社，高等教育出版社，2009。2023/2/1439第39页，本讲稿共39页