数据仓库和数据挖掘技术ppt课件.ppt

《数据仓库和数据挖掘技术ppt课件.ppt》由会员分享，可在线阅读，更多相关《数据仓库和数据挖掘技术ppt课件.ppt（89页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值数据仓库和数据挖掘技术n什么是数据挖掘?n几种主要数据挖掘模型和算法n复杂类型数据的挖掘2023/1/141数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值数据挖掘都干了些什么?n英国电信需要发布一种新的产品，需要通过直邮的方式向客户推荐这种产品n通过数据挖掘的方法使直邮的回应率提高了100nGUS日用品零售商店需要准确的预测未来的商品销售量，降低库存成本n通过数据挖掘的方法

2、使库存成本比原来减少了3.8%2023/1/142数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值美国国防财务部需要从每年上百万比的军火交易中发现可能存在的欺诈现象发现可能存在欺诈的交易，进行深入调查，节约了大量的调查成本汇丰银行需要对不断增长的客户群进行分类，对每种产品找出最有价值的客户。营销费用减少了30数据挖掘都干了些什么?2023/1/143数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值什么

3、是数据挖掘？通过采用自动或半自动的手段，在海量数据中发现有意义的行为和规则的探测和分析活动。数据挖掘能够帮助你选择正确，瞄准潜在目标，向现有的客户提供额外的产品，识别那些准备离开的好客户。数据挖掘是从数据中自动地抽取模式、关联、变化、异常和有意义的结构 数据挖掘大部分的价值在于利用数据挖掘技术改善预言模型 2023/1/144数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值数据挖掘应用领域电信：流失银行：聚类（细分）,交叉销售百货公司/超市：购物篮分析（关联规则）保险：细分，交叉销售，流失（原因分

4、析）信用卡：欺诈探测，细分电子商务：网站日志分析税务部门：偷漏税行为探测警察机关：犯罪行为分析医学：医疗保健2023/1/145数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值(Big Bank&Credit Card Company)目的：发现新客户数据挖掘以前数据挖掘以后差别发信的数量1,000,000750,000(250,000)成本$1,000,000$750,000($250,000)响应的数量10,0009,000(1,000)每个响应的毛利$125$125$0总毛利$1,250,0

5、00$1,125,000($125,000)净利润$250,000$375,000$125,000建模的费用040,000$40,000最终的利润$250,000$335,000$85,000数据挖掘效益分析(直邮）2023/1/146数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Data Mining:A KDD ProcessnData mining:the core of knowledge discovery process.Data CleaningData IntegrationDa

6、tabasesData WarehouseTask-relevant DataSelectionData MiningPattern Evaluation2023/1/147数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Data Mining:Confluence of Multiple DisciplinesData MiningDatabase TechnologyStatisticsOtherDisciplinesInformationScienceMachineLearning(AI)V

7、isualization2023/1/148数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值数据仓库和数据挖掘技术n什么是数据仓库（What is a data warehouse）?n多维数据模型（A multi-dimensional data model）n数据仓库体系结构（Data warehouse architecture）n什么是数据挖掘（What is a Data Mining）?n几种主要数据挖掘模型和算法n复杂类型数据的挖掘2023/1/149数据仓库与数据挖掘技术资金是运动

8、的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Data Mining Functionalities(1)nConcept description:Characterization and discriminationnGeneralize,summarize,and contrast data characteristics,e.g.,dry vs.wet regionsnAssociation(correlation and causality)nMulti-dimensional vs.single-dimensiona

9、l association nage(X,“20.29”)income(X,“20.29K”)buys(X,“PC”)support=2%,confidence=60%ncontains(T,“computer”)contains(x,“software”)1%,75%2023/1/1410数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Data Mining Functionalities(2)nClassification and Prediction nFinding models(func

10、tions)that describe and distinguish classes or concepts for future predictionnPresentation:decision-tree,classification rule,neural networknPrediction:Predict some unknown or missing numerical values nCluster analysisnClass label is unknown:Group data to form new classes,e.g.,cluster houses to find

11、distribution patternsnClustering based on the principle:maximizing the intra-class similarity and minimizing the interclass similarity2023/1/1411数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Data Mining Functionalities(3)nOutlier analysisnOutlier:a data object that does no

12、t comply with the general behavior of the datanIt can be considered as noise or exception but is quite useful in fraud detection,rare events analysisnTrend and evolution analysisnTrend and deviation:regression analysisnSequential pattern mining,periodicity analysisnSimilarity-based analysisnOther pa

13、ttern-directed or statistical analyses2023/1/1412数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值概念描述（Concept Description）n产生数据的特征化和比较描述n特征化：提供给定数据汇集的简介汇总n比较（也称区分）：提供两个或多个数据汇集的比较描述2023/1/1413数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值数据概化和基于汇总的特

14、征化n数据概化n是一个过程，它将大的任务相关的数据集从较低的概念层抽象到较高的概念层.n概化方法n数据立方体(OLAP approach)n面向属性的归纳方法12345Conceptuallevels2023/1/1414数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值面向属性的归纳nKDD Workshop(89)中提出n方法介绍：n使用SQL收集相关数据n通过数据移除和数据概化来实现概化n聚集通过合并相等的广义元组，并累计他们对应的计数值进行n和使用者之间交互式的呈现方式.2023/1/141

15、5数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值基本方法n数据聚焦:选择和当前分析相关的数据，包括维。n属性移除:如果某个属性包含大量不同值，但是1)在该属性上没有概化操作，或者2）它的较高层概念用其它属性表示。n属性概化:如果某个属性包含大量不同值，同时在该属性上有概化操作符，则运用该操作符进行概化。n属性阈值控制:typical 2-8,specified/default.n概化关系阈值控制:控制最终关系的大小资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值

16、，其增值的这部分资金就是原有资金的时间价值特征化的一个例子Prime Generalized RelationInitial Relation资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值挖掘类比较n比较:比较两个或者更多类.n方法:n将相关的数据分成目标类和比较类。n将两个类别的数据概化到相同的层次。n用相同层次的描述对元组进行比较。n对于每个元组展现其描述和两个衡量标准n将差异很大的元组特别显示出来n相关性分析:n发现最能体现类别之间差异的属性.资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时

17、间的推移而增值，其增值的这部分资金就是原有资金的时间价值例子：分析性比较Prime generalized relation for the target class:Graduate studentsPrime generalized relation for the contrasting class:Undergraduate students2023/1/1419数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值从大型数据库中挖掘关联规则n关联规则挖掘：n在交易数据、关系数据或其他信息载体中

18、，查找存在于项目集合或对象集合之间的频繁模式、关联、相关性、或因果结构。n举例：n规则形式：“Body Head support,confidence”.nbuys(x,“diapers”)buys(x,“beers”)0.5%,60%nmajor(x,“CS”)takes(x,“DB”)grade(x,“A”)1%,75%2023/1/1420数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值关联规则：基本概念n给定:(1)交易数据库(2)每笔交易是：一个项目列表(消费者一次购买活动中购买的商品)

19、n查找:所有描述一个项目集合与其他项目集合相关性的规则n应用n*护理用品(商店应该怎样提高护理用品的销售？)n家用电器 *(其他商品的库存有什么影响?)n在产品直销中使用附加邮寄2023/1/1421数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Transactions ExampleITEMS:A=milkB=breadC=cerealD=sugarE=eggsInstances=Transactions2023/1/1422数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化

20、的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值DefinitionsnItem:attribute=value pair or simply valuenusually attributes are converted to binary flags for each value,e.g.product=“A”is written as“A”nItemset I:a subset of possible itemsnExample:I=A,B,E (order unimportant)nTransaction:(TID,itemset)nTID is trans

21、action ID2023/1/1423数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Support and Frequent ItemsetsnSupport of an itemset nsup(I)=no.of transactions t that support(i.e.contain)InIn example database:nsup(A,B,E)=2,sup(B,C)=4 nFrequent itemset I is one with at least the minimum s

22、upport count nsup(I)=minsup2023/1/1424数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Association RulesnAssociation rule R:Itemset1=Itemset2nItemset1,2 are disjoint and Itemset2 is non-emptynmeaning:if transaction includes Itemset1 then it also has Itemset2nExamplesnA,B=E,Cn

23、A=B,C 2023/1/1425数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值From Frequent Itemsets to Association Rules nQ:Given frequent set A,B,E,what are possible association rules?nA=B,EnA,B=EnA,E=BnB=A,EnB,E=AnE=A,B n_=A,B,E(empty rule),or true=A,B,E2023/1/1426数据仓库与数据挖掘技术资金是运动的价值，

24、资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值规则度量：支持度与可信度n查找所有的规则 X&Y Z 具有最小支持度和可信度n支持度,s,一次交易中包含X、Y、Z的可能性n可信度,c,包含X、Y的交易中也包含Z的条件概率设最小支持度为50%,最小可信度为 50%,则可得到nA C (50%,66.6%)nC A (50%,100%)买尿布的客买尿布的客户户二者都买二者都买的客户的客户买啤酒的客户买啤酒的客户2023/1/1427数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增

25、值的这部分资金就是原有资金的时间价值Association Rules Example:nQ:Given frequent set A,B,E,what association rules have minsup=2 and minconf=50%?A,B=E :conf=2/4=50%A,E=B :conf=2/2=100%B,E=A :conf=2/2=100%E=A,B :conf=2/2=100%Dont qualify A=B,E:conf=2/6=33%A,E:conf=2/7=28%A,B,E:conf:2/9=22%=minsup and conf(R)=minconfnPro

26、blem:nFind all association rules with given minsup and minconfnFirst,find all frequent itemsets2023/1/1429数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Finding itemsets:next levelnApriori algorithm(Agrawal&Srikant)nIdea:use one-item sets to generate two-item sets,two-item

27、sets to generate three-item sets,nIf(A B)is a frequent item set,then(A)and(B)have to be frequent item sets as well!nIn general:if X is frequent k-item set,then all(k-1)-item subsets of X are also frequentCompute k-item set by merging(k-1)-item sets2023/1/1430数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函

28、数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值An examplenGiven:five three-item sets(A B C),(A B D),(A C D),(A C E),(B C D)nLexicographic order improves efficiencynCandidate four-item sets:(A B C D)Q:OK?A:yes,because all 3-item subsets are frequent(A C D E)Q:OK?A:No,because(C D E)is not frequent2023/1/1431数据仓库与数据挖

29、掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Generating Association RulesnTwo stage process:nDetermine frequent itemsets e.g.with the Apriori algorithm.nFor each frequent item set I nfor each subset J of Indetermine all association rules of the form:I-J=JnMain idea used in both s

30、tages:subset property2023/1/1432数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Apriori算法 例子数据库D扫描DC1L1L2C2C2扫描DC3L3扫描D2023/1/1433数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值如何计算候选集的支持度n计算支持度为什么会成为一个问题？n候选集的个数非常巨大n 一笔交易可能包含多个候选集n方法:n用 hash-tree 存

31、放候选集n树的叶子节点 of存放项集的列表和支持度n内部节点 是一个hash表nSubset 函数:找到包含在一笔交易中的所有候选集2023/1/1434数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值生成候选集的例子nL3=abc,abd,acd,ace,bcdn自连接:L3*L3nabc 和 abd 得到 abcd nacd 和 ace 得到 acden修剪:nade 不在 L3中，删除 acdenC4=abcd2023/1/1435数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变

32、化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值提高Apriori效率的方法n基于Hash的项集计数:如果一个 k-项集在hash-tree的路径上的一个计数值低于阈值，那他本身也不可能是频繁的。n减少交易记录:不包含任何频繁k-项集的交易也不可能包含任何大于k的频繁集n分割:一个项集要想在整个数据库中是频繁的，那么他至少在数据库的一个分割上是频繁的。n采样:在给定数据的子集上挖掘，使用小的支持度+完整性验证方法n动态项集计数:在添加一个新的候选集之前，先估计一下是不是他的所有子集都是频繁的。2023/1/1436数据仓库与数据挖掘技术资金是运动的价值，资

33、金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Apriori 够快了吗?性能瓶颈nApriori算法的核心:n用频繁的(k 1)-项集生成候选的频繁 k-项集n用数据库扫描和模式匹配计算候选集的支持度nApriori 的瓶颈:候选集生成n巨大的候选集:n104 个频繁1-项集要生成 107 个候选 2-项集n要找尺寸为100的频繁模式，如 a1,a2,a100,你必须先产生2100 1030 个候选集n多次扫描数据库：n如果最长的模式是n的话，则需要(n+1)次数据库扫描2023/1/1437数据仓库与数据挖掘技术资金是运动的价值，资金

34、的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值挖掘频繁集 不用生成候选集n用Frequent-Pattern tree(FP-tree)结构压缩数据库,n高度浓缩，同时对频繁集的挖掘又完备的n避免代价较高的数据库扫描n开发一种高效的基于FP-tree的频繁集挖掘算法n采用分而治之的方法学：分解数据挖掘任务为小任务n避免生成关联规则:只使用部分数据库!2023/1/1438数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值用交易数据库建立 FP-

35、treef:4c:1b:1p:1b:1c:3a:3b:1m:2p:2m:1头表头表Item frequency head f4c4a3b3m3p3最小支持度最小支持度=0.5TIDItems bought (ordered)frequent items100f,a,c,d,g,i,m,pf,c,a,m,p200a,b,c,f,l,m,of,c,a,b,m300 b,f,h,j,of,b400 b,c,k,s,pc,b,p500 a,f,c,e,l,p,m,nf,c,a,m,p步骤:1.扫描数据库一次，得到频繁1-项集2.把项按支持度递减排序3.再一次扫描数据库，建立FP-tree2023/1/

36、1439数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值FP-tree 结构的好处n完备:n不会打破交易中的任何模式n包含了序列模式挖掘所需的全部信息n紧密n去除不相关信息不包含非频繁项n支持度降序排列:支持度高的项在FP-tree中共享的机会也高n决不会比原数据库大（如果不计算树节点的额外开销)n例子:对于 Connect-4 数据库,压缩率超过 1002023/1/1440数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资

37、金就是原有资金的时间价值用 FP-tree挖掘频繁集n基本思想(分而治之)n用FP-tree地归增长频繁集n方法 n对每个项，生成它的 条件模式库,然后是它的 条件 FP-treen对每个新生成的条件FP-tree，重复这个步骤n直到结果FP-tree为空,或只含维一的一个路径(此路径的每个子路径对应的相集都是频繁集)2023/1/1441数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值多层关联规则n项通常具有层次n底层的项通常支持度也低n某些特定层的规则可能更有意义n交易数据库可以按照维或层编码

38、n可以进行共享的多维挖掘食品面包牛奶脱脂奶光明统一酸奶白黄2023/1/1442数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值挖掘多层关联规则n自上而下，深度优先的方法：n先找高层的“强”规则：牛奶 面包 20%,60%.n再找他们底层的“弱”规则：酸奶 黄面包 6%,50%.n多层关联规则的变种n层次交叉的关联规则：酸奶 复旦面包房 黄面包n不同种分层方法间的关联规则：酸奶 复旦面包房面包2023/1/1443数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数

39、，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值关联规则结果显示(Table Form)2023/1/1444数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值关联规则可视化关联规则可视化Using Plane Graph2023/1/1445数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值关联规则可视化关联规则可视化Using Rule Graph2023/1/1446数据仓库与数据挖掘

40、技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值分类与预测n数据分类是基于训练数据集和类标号对数据进行分类，建立模型，描述预定的数据类集或概念集n预测是构造和使用模型评估无标号样本类，或评估给定样本可能具有的属性值或值区间2023/1/1447数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Classification Process(1):Model ConstructionTrainingDataClassific

41、ationAlgorithmsIFrank=professorORyears6THENtenured=yesClassifier(Model)2023/1/1448数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Classification Process(2):Use the Model in PredictionClassifierTestingDataUnseenData(Jeff,Professor,4)Tenured?2023/1/1449数据仓库与数据挖掘技术资金是运动的价值，资金的价

42、值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Training DatasetThis follows an example from Quinlans ID32023/1/1450数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Output:A Decision Tree for“buys_computer”age?overcaststudent?creditrating?noyesfairexcellent40nonoyesyesyes30.

43、402023/1/1451数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值决策树算法n基本算法（贪心算法）n自上而下分而治之的方法n开始时，所有的数据都在根节点n属性都是种类字段(如果是连续的，将其离散化)n所有记录用所选属性递归的进行分割n属性的选择是基于一个启发式规则或者一个统计的度量(如,information gain)n停止分割的条件n一个节点上的数据都是属于同一个类别n没有属性可以再用于对数据进行分割2023/1/1452数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而

44、变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值属性选择的统计度量nInformation gain(ID3/C4.5)n所有属性假设都是种类字段n经过修改之后可以适用于数值字段nGini index(IBM IntelligentMiner)n能够适用于种类和数值字段2023/1/1453数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Information Gain(ID3/C4.5)n选择属性的标准：具有最高Information Gainn假设有两个类,P

45、 和 Nn假设集合S中含有p个类别P的记录,n个类别N的记录n决定任意一个记录属于类别P或者N所需要的information.2023/1/1454数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Information Gain 在决策树中的使用n假设使用属性A将把集合S分成 V份 S1,S2,Sv n如果 Si 中包含 pi 个类别为 P的记录,ni 个类别为 N,的记录。那么熵就是(entropy),n从而这个信息增益就是2023/1/1455数据仓库与数据挖掘技术资金是运动的价值，资金的价值

46、是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值使用信息增益进行属性选择gClass P:buys_computer=“yes”gClass N:buys_computer=“no”gI(p,n)=I(9,5)=0.940gCompute the entropy for age:HenceSimilarly2023/1/1456数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Gini Index(IBM IntelligentMiner)n集合T包含

47、N个类别的记录，那么其Gini指标就是pj 类别j出现的频率n如果集合T分成两部分 N1 and N2。那么这个分割的Gini就是n提供最小Ginisplit 就被选择作为分割的标准(对于每个属性都要遍历所有可以的分割方法).2023/1/1457数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值几种经典算法介绍nCARTmin(P(c1),P(c2)2P(c1)P(c2)P(c1)logP(c1)+P(c2)logP(c2)C4.5(ID3)nC4.5(ID3)n对种类字段处理时，缺省是对每个值作

48、为一个分割nGain和Gain RationCHAIDn在Overfitting前停止树的生成n必须都是种类字段n选择分割。X2检验 2023/1/1458数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值Scalable Decision Tree Induction 数据挖掘中提出的方法nSLIQ(EDBT96 Mehta et al.)nSPRINT(VLDB96 J.Shafer et al.)nPUBLIC(VLDB98 Rastogi&Shim)nRainForest (VLDB98 G

49、ehrke,Ramakrishnan&Ganti)nbuilds an AVC-list(attribute,value,class label)2023/1/1459数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值结果显示(一)2023/1/1460数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值应用聚类分析的例子n市场销售:帮助市场人员发现客户中的不同群体，然后用这些知识来开展一个目标明确的市场计

50、划；n土地使用:在一个陆地观察数据库中标识那些土地使用相似的地区；n保险:对购买了汽车保险的客户，标识那些有较高平均赔偿成本的客户；n城市规划:根据类型、价格、地理位置等来划分不同类型的住宅；n地震研究:根据地质断层的特点把已观察到的地震中心分成不同的类；2023/1/1462数据仓库与数据挖掘技术资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值什么是一个好的聚类方法?n一个好的聚类方法要能产生高质量的聚类结果簇，这些簇要具备以下两个特点：n高的簇内相似性n低的簇间相似性 n聚类结果的好坏取决于该聚类方法采用的相似性评