数据挖掘入门.ppt

数据挖掘入门数据挖掘入门现在学习的是第1页，共91页2023/4/32一、引言一、引言n n什么激发了数据挖掘什么激发了数据挖掘 近年来，数据挖掘引起了信息产业界的极大关注，其主近年来，数据挖掘引起了信息产业界的极大关注，其主要原因是存在大量数据可以广泛使用，并且迫切需要将这些要原因是存在大量数据可以广泛使用，并且迫切需要将这些数据转换成有用的信息和知识。获取的信息和知识可以广泛数据转换成有用的信息和知识。获取的信息和知识可以广泛应用于各种领域，如商务管理、生产控制、市场分析、工程应用于各种领域，如商务管理、生产控制、市场分析、工程设计和科学探索等。设计和科学探索等。面对海量数据库和大量繁杂信息，如何才能从中提取有价值的面对海量数据库和大量繁杂信息，如何才能从中提取有价值的知识，进一步提高信息的利用率，由此引发了一个新的研究方向：知识，进一步提高信息的利用率，由此引发了一个新的研究方向：基于数据库的知识发现（基于数据库的知识发现（Knowledge Discovery in DatabaseKnowledge Discovery in Database）及相应的）及相应的数据挖掘（数据挖掘（Data MiningData Mining）理论和技术的研究。）理论和技术的研究。现在学习的是第2页，共91页2023/4/33n n为什么数据挖掘是重要的 数据的丰富带来了对强有力的数据分析工具的需求。快速增长的海量数据收集存放在大型和大量的数据库中，没有强有力的工具，这些数据就变成了“数据坟墓”难得再访问的数据档案。因此数据和信息之间的鸿沟要求系统地开发数据挖掘工具，将数据坟墓转换成知识“金块”。现在学习的是第3页，共91页2023/4/342.1 KDD定义 人们给KDD下过很多定义，内涵也各不相同，目前公认的定义是由Fayyad等人提出的。所谓基于数据库的知识发现(KDD)是指从大量数据中提取有效的、新颖的、潜在有用的、最终可被理解的模式的非平凡过程。二、二、KDD与数据挖掘与数据挖掘现在学习的是第4页，共91页2023/4/352.2 KDD过程 KDD是一个人机交互处理过程。该过程需要经历多个步骤，并且很多决策需要由用户提供。从宏观上看，KDD过程主要经由三个部分组成，即数据整理、数据挖掘和结果的解释评估。现在学习的是第5页，共91页2023/4/36知识发现（知识发现（KDD）的过程）的过程数据清理筛选数据清理筛选数据数据目标数据目标数据Knowledge预处理预处理及变换及变换变换后的数据变换后的数据数据挖掘数据挖掘解释解释/评估评估现在学习的是第6页，共91页2023/4/37知识发现（知识发现（KDD）的步骤）的步骤1.1.数据准备：了解数据准备：了解KDDKDD应用领域的有关情况。包括熟悉应用领域的有关情况。包括熟悉相关的知识背景，搞清用户需求。相关的知识背景，搞清用户需求。2.2.数据选取：数据选取的目的是确定目标数据，根据用户数据选取：数据选取的目的是确定目标数据，根据用户的需要从原始数据库中选取相关数据或样本。在此过程的需要从原始数据库中选取相关数据或样本。在此过程中，将利用一些数据库操作对数据库进行相关处理。中，将利用一些数据库操作对数据库进行相关处理。3.3.数据预处理：对步骤数据预处理：对步骤2 2中选出的数据进行再处理，中选出的数据进行再处理，检查数据的完整性及一致性，消除噪声及与数据挖检查数据的完整性及一致性，消除噪声及与数据挖掘无关的冗余数据，根据时间序列和已知的变化情掘无关的冗余数据，根据时间序列和已知的变化情况，利用统计等方法填充丢失的数据。况，利用统计等方法填充丢失的数据。现在学习的是第7页，共91页2023/4/384.4.数据变换：根据知识发现的任务对经过预处理的数据再处理，主要是通过投影或利用数据库的其它操作减少数据量。5.5.确定KDD目标：根据用户的要求，确定KDD要发现的知识类型。6.6.选择算法：根据步骤5确定的任务，选择合适的知识发现算法，包括选取合适的模型和参数。现在学习的是第8页，共91页2023/4/397.7.数据挖掘：这是整个数据挖掘：这是整个KDDKDD过程中很重要的一个步骤。过程中很重要的一个步骤。运用前面的选择算法，从数据库中提取用户感兴趣的知运用前面的选择算法，从数据库中提取用户感兴趣的知识，并以一定的方式表示出来。识，并以一定的方式表示出来。8.8.模式解释：对在数据挖掘步骤中发现的模式（知识）模式解释：对在数据挖掘步骤中发现的模式（知识）进行解释。通过机器评估剔除冗余或无关模式，若模进行解释。通过机器评估剔除冗余或无关模式，若模式不满足，再返回到前面某些处理步骤中反复提取。式不满足，再返回到前面某些处理步骤中反复提取。9.9.知识评价：将发现的知识以用户能了解的方式呈现给用知识评价：将发现的知识以用户能了解的方式呈现给用户。其中也包括对知识一致性的检查，以确信本次发现户。其中也包括对知识一致性的检查，以确信本次发现的知识不会与以前发现的知识相抵触。的知识不会与以前发现的知识相抵触。现在学习的是第9页，共91页2023/4/310n n什么是数据挖掘1.1.数据挖掘（从数据中发现知识）数据挖掘（从数据中发现知识）从海量的数据中抽取感兴趣的（有价值的、隐含的、以前从海量的数据中抽取感兴趣的（有价值的、隐含的、以前没有用但是潜在有用信息的）模式和知识。没有用但是潜在有用信息的）模式和知识。2.2.其它可选择的名字其它可选择的名字 数据库中知识挖掘、知识提取、数据数据库中知识挖掘、知识提取、数据/模式分析、数据考古、模式分析、数据考古、数据捕捞、信息获取、事务智能等。数据捕捞、信息获取、事务智能等。3.3.广义观点广义观点 数据挖掘是从存放在数据库、数据仓库中或其它信息库中的大数据挖掘是从存放在数据库、数据仓库中或其它信息库中的大量数据中挖掘有趣知识的过程。量数据中挖掘有趣知识的过程。现在学习的是第10页，共91页2023/4/311n n数据挖掘系统的组成n n数据库、数据仓库或其他信息库：是一个或一组数数据库、数据仓库或其他信息库：是一个或一组数据库、数据仓库、电子表格或其他类型的信息库。据库、数据仓库、电子表格或其他类型的信息库。可以在数据上进行数据清理和集成。可以在数据上进行数据清理和集成。n n数据库或数据仓库服务器：根据用户的挖掘请求，数据库或数据仓库服务器：根据用户的挖掘请求，数据库或数据仓库服务器负责提取相关数据。数据库或数据仓库服务器负责提取相关数据。n n知识库：是领域知识，用于指导搜索，或评估结果模式知识库：是领域知识，用于指导搜索，或评估结果模式的兴趣度。的兴趣度。现在学习的是第11页，共91页2023/4/312数据挖掘引擎：数据挖掘系统的基本部分，由一组功数据挖掘引擎：数据挖掘系统的基本部分，由一组功能模块组成，用于特征化、关联、分类、聚类分析以能模块组成，用于特征化、关联、分类、聚类分析以及演变和偏差分析。及演变和偏差分析。模式评估模块：使用兴趣度量，并与数据挖掘模块交模式评估模块：使用兴趣度量，并与数据挖掘模块交互，以便将搜索聚焦在有趣的模式上，可能使用兴趣互，以便将搜索聚焦在有趣的模式上，可能使用兴趣度阈值过滤发现的模式。度阈值过滤发现的模式。图形用户界面：该模块在用户和数据挖掘系统之间图形用户界面：该模块在用户和数据挖掘系统之间通信，允许用户与系统交互，指定数据挖掘查询或通信，允许用户与系统交互，指定数据挖掘查询或任务，提供信息，帮助搜索聚焦，根据数据挖掘的任务，提供信息，帮助搜索聚焦，根据数据挖掘的中间结果进行探索式数据挖掘。中间结果进行探索式数据挖掘。现在学习的是第12页，共91页2023/4/313数据挖掘系统结构数据挖掘系统结构数据仓库数据仓库数据清理数据清理 数据集成数据集成过滤过滤数据库数据库数据库或数据仓库服务器数据挖掘引擎模式评估图形用户界面 知识库现在学习的是第13页，共91页2023/4/3143.1 3.1 可以分别按挖掘可以分别按挖掘任务任务、挖掘、挖掘对象对象和挖掘和挖掘方法方法来分类。来分类。1.1.按挖掘任务分类：包括分类或预测知识模型发现，数据按挖掘任务分类：包括分类或预测知识模型发现，数据总结，数据聚类，关联规则发现，时序模式发现，依赖总结，数据聚类，关联规则发现，时序模式发现，依赖关系或依赖模型发现，异常和趋势发现等。关系或依赖模型发现，异常和趋势发现等。2.2.按挖掘对象分类：包括关系数据库，面向对象数按挖掘对象分类：包括关系数据库，面向对象数据库，空间数据库，时态数据库，文本数据库，据库，空间数据库，时态数据库，文本数据库，多媒体数据库，异构数据库，数据仓库，演绎数多媒体数据库，异构数据库，数据仓库，演绎数据库和据库和WebWeb数据库等。数据库等。三、数据挖掘方法三、数据挖掘方法现在学习的是第14页，共91页2023/4/3153.3.按挖掘方法分类：包括统计方法，机器学习方法，神经网络按挖掘方法分类：包括统计方法，机器学习方法，神经网络方法和数据库方法，其中：方法和数据库方法，其中：n n统计方法可分为：回归分析（多元回归、自回归等），判别统计方法可分为：回归分析（多元回归、自回归等），判别分析（贝叶斯判别、费歇尔判别、非参数判别等），聚类分分析（贝叶斯判别、费歇尔判别、非参数判别等），聚类分析（系统聚类、动态聚类等），探索性分析（主成分分析、析（系统聚类、动态聚类等），探索性分析（主成分分析、相关分析等）等。相关分析等）等。n n 机器学习方法可分为：归纳学习方法（决策树、规则归纳机器学习方法可分为：归纳学习方法（决策树、规则归纳等），基于范例学习，遗传算法等。等），基于范例学习，遗传算法等。n n神经网络方法可以分为：前向神经网络（神经网络方法可以分为：前向神经网络（BPBP算法等），自组算法等），自组织神经网络（自组织特征映射、竞争学习等）。织神经网络（自组织特征映射、竞争学习等）。n n数据库方法分为：多为数据分析和数据库方法分为：多为数据分析和OLAPOLAP技术，此外还有面向技术，此外还有面向属性的归纳方法。属性的归纳方法。现在学习的是第15页，共91页2023/4/316数据挖掘技术分类数据挖掘技术分类数据挖掘数据挖掘数据挖掘数据挖掘验证驱动挖掘验证驱动挖掘验证驱动挖掘验证驱动挖掘发现驱动挖掘发现驱动挖掘发现驱动挖掘发现驱动挖掘SQLSQLSQLSQL生成器生成器生成器生成器查询工具查询工具查询工具查询工具OLAPOLAP描述描述描述描述预测预测预测预测可视化可视化可视化可视化聚类聚类聚类聚类关联规则关联规则关联规则关联规则顺序关联顺序关联顺序关联顺序关联汇总描述汇总描述汇总描述汇总描述分类分类分类分类统计回归统计回归统计回归统计回归时间序列时间序列时间序列时间序列决策树决策树决策树决策树神经网路神经网路神经网路神经网路现在学习的是第16页，共91页2023/4/3173.2 3.2 数据挖掘方法1.1.粗糙集粗糙集 19821982年波兰数学家年波兰数学家Z.PawlakZ.Pawlak针对针对G.FregeG.Frege的边界线的边界线区域思想提出了粗糙集（区域思想提出了粗糙集（Rough SetRough Set），他把那些无法），他把那些无法确认的个体都归属于边界线区域，而这种边界线区域确认的个体都归属于边界线区域，而这种边界线区域被定义为上近似集和下近似集之差集。被定义为上近似集和下近似集之差集。粗糙集理论主要特点在于它恰好反映了人们粗糙集理论主要特点在于它恰好反映了人们用粗糙集方法处理不分明问题的常规性，即以不用粗糙集方法处理不分明问题的常规性，即以不完全信息或知识去处理一些不分明现象的能力，完全信息或知识去处理一些不分明现象的能力，或依据观察、度量到的某些不精确的结果而进行或依据观察、度量到的某些不精确的结果而进行分类数据的能力。分类数据的能力。现在学习的是第17页，共91页2023/4/3182.2.模糊集 经典集合理论对应二值逻辑，一个元素要么属于、要么不属于给定集合。因此经典集合不能很好地描述具有模糊性和不确定性的问题。美国加利福尼亚大学的扎德教授于1965年提出了模糊集合论，用隶属程度来描述差异的中间过渡，是一种用精确的数学语言对模糊性进行描述的方法。现在学习的是第18页，共91页2023/4/319 定义：论域X=x上的模糊集合A由隶属函数A(x)来表征。其中A(x)在实轴的闭区间0，1中取值，A(x)的大小反映x对于模糊集合A的隶属程度。A(x)的值接近1，表示x隶属于A的程度很高。A(x)的值接近0，表示x隶属于A的程度很低。特例，当A的值域取0，1闭区间的两个端点，亦即0，1两个值时，A便退化为一个普通的逻辑子集。隶属函数也就退化为普通逻辑值。现在学习的是第19页，共91页2023/4/3203.3.聚类分析聚类分析 聚类是对物理的或抽象的对象集合分组的过程。聚类生成的聚类是对物理的或抽象的对象集合分组的过程。聚类生成的组为簇，簇是数据对象的集合。簇内部任意两个对象之间具有组为簇，簇是数据对象的集合。簇内部任意两个对象之间具有较高的相似度，而属于不同簇的两个对象间具有较高的相异度。较高的相似度，而属于不同簇的两个对象间具有较高的相异度。相异度可以根据描述对象的属性值计算，对象间的距离是最常相异度可以根据描述对象的属性值计算，对象间的距离是最常采用的度量指标。在实际应用中，经常将一个簇中的数据对象作为采用的度量指标。在实际应用中，经常将一个簇中的数据对象作为一个整体看待。用聚类生成的簇来表达数据集不可避免地会损失一一个整体看待。用聚类生成的簇来表达数据集不可避免地会损失一些信息，但却可以使问题得到必要的简化。些信息，但却可以使问题得到必要的简化。主要的数据挖掘聚类方法有：划分的方法、层次的方法、主要的数据挖掘聚类方法有：划分的方法、层次的方法、基于密度的方法、基于网格的方法、基于模型的方法基于密度的方法、基于网格的方法、基于模型的方法现在学习的是第20页，共91页2023/4/3214.4.关联规则关联规则 关联规则反映一个事物与其它事物之间的相互依存性和关联关联规则反映一个事物与其它事物之间的相互依存性和关联性，如果两个事物或者多个事物之间存在一定的关联关系，那性，如果两个事物或者多个事物之间存在一定的关联关系，那么其中一个事物就能够通过其他事物预测到。么其中一个事物就能够通过其他事物预测到。人们希望在海量的商业交易记录中发现感兴趣的数据关人们希望在海量的商业交易记录中发现感兴趣的数据关联关系，用以帮助商家作出决策。例如：联关系，用以帮助商家作出决策。例如：面包面包 2%2%牛奶牛奶 1.5%1.5%（占超市交易总数）（占超市交易总数）2%2%和和1.5%1.5%表明这两种商品在超市经营中的重要程度，称为支持度。表明这两种商品在超市经营中的重要程度，称为支持度。商家关注高支持度的产品。商家关注高支持度的产品。面包面包=牛奶牛奶 60%60%在购买面包的交易中，有在购买面包的交易中，有60%60%的交易既买了面包又买了牛的交易既买了面包又买了牛奶，成奶，成60%60%为规则为规则“面包面包=牛奶牛奶”的信任度。信任度反映的信任度。信任度反映了商品间的关联程度。了商品间的关联程度。现在学习的是第21页，共91页2023/4/322 项目构成的集合称为项集。项集在事物数据库中出现的次项目构成的集合称为项集。项集在事物数据库中出现的次数占总事物的百分比叫做项集的支持度。如果项集的支持度数占总事物的百分比叫做项集的支持度。如果项集的支持度超过用户给定的最小支持度阈值，就称该项集是频繁项集。超过用户给定的最小支持度阈值，就称该项集是频繁项集。关联规则就是支持度和信任度分别满足用户给定阈值的规则关联规则就是支持度和信任度分别满足用户给定阈值的规则。发现关联规则需要经历如下两个步骤：发现关联规则需要经历如下两个步骤：（1 1）找出所有的频繁项。）找出所有的频繁项。（2 2）由频繁项集生成满足最小信任度阈值的规则。）由频繁项集生成满足最小信任度阈值的规则。现在学习的是第22页，共91页2023/4/3235.5.人工神经网络人工神经网络 人工神经网络是指由简单计算单元组成的广泛并行互联的网络，人工神经网络是指由简单计算单元组成的广泛并行互联的网络，能够模拟生物神经系统的结构和功能。组成神经网络的单个神经元能够模拟生物神经系统的结构和功能。组成神经网络的单个神经元的结构简单，功能有限，但是，由大量神经元构成的网络系统可以的结构简单，功能有限，但是，由大量神经元构成的网络系统可以实现强大的功能。实现强大的功能。由于现实世界的数据关系相当复杂，非线性问题和噪声由于现实世界的数据关系相当复杂，非线性问题和噪声数据普遍存在。将人工神经网络应用于数据挖掘，希望借助数据普遍存在。将人工神经网络应用于数据挖掘，希望借助其非线性处理能力和容噪能力，得到较好的数据挖掘结果。其非线性处理能力和容噪能力，得到较好的数据挖掘结果。将人工神经网络应用于数据挖掘的主要障碍是，通过人工将人工神经网络应用于数据挖掘的主要障碍是，通过人工神经网络学习到的知识难于理解；学习时间太长，不适于大型神经网络学习到的知识难于理解；学习时间太长，不适于大型数据集。数据集。现在学习的是第23页，共91页2023/4/3246 6，分类与预测，分类与预测 分类和预测是两种重要的数据分析方法，在商业上的应分类和预测是两种重要的数据分析方法，在商业上的应用很多。分类和预测可以用于提取描述重要数据类型或预测用很多。分类和预测可以用于提取描述重要数据类型或预测未来的数据趋势。未来的数据趋势。分类的目的是提出一个分类函数或分类模型（即分类器）分类的目的是提出一个分类函数或分类模型（即分类器）通过分类器将数据对象映射到某一个给定的类别中。数据分通过分类器将数据对象映射到某一个给定的类别中。数据分类可以分为两步进行。第一步建立模型，用于描述给定的数类可以分为两步进行。第一步建立模型，用于描述给定的数据集合。通过分析由属性描述的数据集合来建立反映数据集据集合。通过分析由属性描述的数据集合来建立反映数据集合特性的模型。第二步是用模型对数据对象进行分类。合特性的模型。第二步是用模型对数据对象进行分类。预测的目的是从历史数据记录中自动推导出对给定数据预测的目的是从历史数据记录中自动推导出对给定数据的推广描述，从而能够对事先未知的数据进行预测。的推广描述，从而能够对事先未知的数据进行预测。现在学习的是第24页，共91页2023/4/325 分类的方法：分类的方法：n n决策树：决策树内部节点进行属性值测试，并根据属性值判断决策树：决策树内部节点进行属性值测试，并根据属性值判断由该节点引出的分支，在决策树的叶结点得到结论。内部节点由该节点引出的分支，在决策树的叶结点得到结论。内部节点是属性或属性的集合，叶节点代表样本所属的类或类分布。是属性或属性的集合，叶节点代表样本所属的类或类分布。n n贝叶斯分类：是一种统计学分类方法，可以预测类成员关系关系的可贝叶斯分类：是一种统计学分类方法，可以预测类成员关系关系的可能性，如给定样本属于一个特征类的概率。贝叶斯方法已在文本分类、能性，如给定样本属于一个特征类的概率。贝叶斯方法已在文本分类、字母识别、经济预测等领域获得了成功的应用。字母识别、经济预测等领域获得了成功的应用。n n基于遗传算法分类：模拟生物进化过程中的计算模型，是自然基于遗传算法分类：模拟生物进化过程中的计算模型，是自然遗传学与计算机科学互相结合、互相渗透而形成的新的计算方遗传学与计算机科学互相结合、互相渗透而形成的新的计算方法。利用选择、交叉、变异等操作对子代进行操作，优点是问法。利用选择、交叉、变异等操作对子代进行操作，优点是问题求解与初始条件无关，搜索最优解的能力极强，可以对各种题求解与初始条件无关，搜索最优解的能力极强，可以对各种数据挖掘技术进行优化。数据挖掘技术进行优化。现在学习的是第25页，共91页2023/4/326n n预测预测 预测是构造和使用模型评估无标号样本类，或评预测是构造和使用模型评估无标号样本类，或评估给定样本可能具有的属性值或区间值。预测的目估给定样本可能具有的属性值或区间值。预测的目的是从历史数据中自动推导出对给定数据的推广描的是从历史数据中自动推导出对给定数据的推广描述，从而能对未来数据进行预测。例如，金融系统述，从而能对未来数据进行预测。例如，金融系统可以根据顾客信誉卡消费量预测他未来的刷卡消费可以根据顾客信誉卡消费量预测他未来的刷卡消费量或用于信誉证实。推销人员希望在开拓新客户时，量或用于信誉证实。推销人员希望在开拓新客户时，找出顾客一些共同特征，预测出潜在顾客群。找出顾客一些共同特征，预测出潜在顾客群。预测的方法主要是回归统计，包括：线性回归、非线预测的方法主要是回归统计，包括：线性回归、非线性回归、多元回归、泊松回归、对数回归等。分类也可性回归、多元回归、泊松回归、对数回归等。分类也可以用来预测。以用来预测。现在学习的是第26页，共91页2023/4/3277 7，多媒体数据挖掘，多媒体数据挖掘 多媒体数据库系统由多媒体数据库管理系统和多媒体数多媒体数据库系统由多媒体数据库管理系统和多媒体数据库构成。其中多媒体数据库用于存储和管理多媒体数据，据库构成。其中多媒体数据库用于存储和管理多媒体数据，多媒体数据库管理系统负责对多媒体数据库进行管理。多媒多媒体数据库管理系统负责对多媒体数据库进行管理。多媒体数据库包括结构化的数据、半结构化的数据和非结构化的体数据库包括结构化的数据、半结构化的数据和非结构化的数据，如音频数据、视频数据、文本数据和图像数据等。数据，如音频数据、视频数据、文本数据和图像数据等。多媒体数据挖掘就是通过综合分析多媒体数据的内容和语义，从多媒体数据挖掘就是通过综合分析多媒体数据的内容和语义，从大量多媒体数据中发现隐含的、有效的、有价值的、可理解的模式，大量多媒体数据中发现隐含的、有效的、有价值的、可理解的模式，得出事件的发展趋向和关联关系，为用户提供问题求解层次上的决得出事件的发展趋向和关联关系，为用户提供问题求解层次上的决策支持能力。策支持能力。现在学习的是第27页，共91页2023/4/328 多媒体数据是指由多种不同类型多媒体数据组成的，包括多媒体数据是指由多种不同类型多媒体数据组成的，包括文本、图形、图像、声音、视频图像、动画等不同类型的媒体文本、图形、图像、声音、视频图像、动画等不同类型的媒体数据。为了挖掘多媒体数据，必须对两种或多种类型的媒体数数据。为了挖掘多媒体数据，必须对两种或多种类型的媒体数据进行综合挖掘。据进行综合挖掘。多媒体挖掘的方法有两种：多媒体挖掘的方法有两种：一种是先从多媒体数据数据库中提取出结构化数据，然后用一种是先从多媒体数据数据库中提取出结构化数据，然后用传统的数据挖掘工具在这些结构化的数据上进行挖掘。传统的数据挖掘工具在这些结构化的数据上进行挖掘。另一种解决办法是研究开发可以直接对多媒体数据进行挖掘另一种解决办法是研究开发可以直接对多媒体数据进行挖掘的工具。的工具。现在学习的是第28页，共91页2023/4/329四、数据挖掘系统与应用四、数据挖掘系统与应用 数据挖掘系统的开发工作十分复杂，不仅要有大量的数数据挖掘系统的开发工作十分复杂，不仅要有大量的数据挖掘算法，而且其应用领域往往取决于最终用户的知识结据挖掘算法，而且其应用领域往往取决于最终用户的知识结构等因素。下面介绍几个数据挖掘系统：构等因素。下面介绍几个数据挖掘系统：n nSKICATSKICAT是是MITMIT喷气推进实验室与天文科学家合作开发的喷气推进实验室与天文科学家合作开发的用于帮助用于帮助天文学家发现遥远的类星体的工具天文学家发现遥远的类星体的工具。n nHealth-KEFIRHealth-KEFIR是用于健康状况预警的知识发现系统是用于健康状况预警的知识发现系统。n nTASATASA是为预测通信网络故障是为预测通信网络故障而开发的而开发的通信网络预警分析系统通信网络预警分析系统。会产生会产生“如果在某一时间段内发生某些预警信息组合，那么如果在某一时间段内发生某些预警信息组合，那么其他类型的预警信息将在某个时间范围内发生其他类型的预警信息将在某个时间范围内发生”的规则。时的规则。时间段大小由用户定义。间段大小由用户定义。n nR-MINIR-MINI运用分类技术从噪声中提取有价值的信息。由于是在微运用分类技术从噪声中提取有价值的信息。由于是在微弱变化中获取信息，该系统也可以应用于弱变化中获取信息，该系统也可以应用于证券领域中的股市行情证券领域中的股市行情预测预测。现在学习的是第29页，共91页2023/4/330KDWKDW是大型商业数据库中的交互分析系统。包括聚类、分类、是大型商业数据库中的交互分析系统。包括聚类、分类、总结、相关性分析等多种模式。总结、相关性分析等多种模式。DBMinerDBMiner是加拿大是加拿大Simon FraserSimon Fraser大学开发的一个多任务大学开发的一个多任务KDDKDD系统。系统。能够完成多种知识发现，综合了多种数据挖掘技术。能够完成多种知识发现，综合了多种数据挖掘技术。ClementineClementine可以把直观的图形用户界面与多种分析技术结合在一起，可以把直观的图形用户界面与多种分析技术结合在一起，包括神经网络、关联规则和规则归纳技术。包括神经网络、关联规则和规则归纳技术。DarwinDarwin包含神经网络、决策书和包含神经网络、决策书和K-K-邻近三种数据挖掘方法，处邻近三种数据挖掘方法，处理分类、预测和预报问题。理分类、预测和预报问题。DMWDMW是一个用在信用卡欺诈分析方面的数据挖掘工具，支持反向是一个用在信用卡欺诈分析方面的数据挖掘工具，支持反向传播神经网络算法，并能以自动和人工模式操作传播神经网络算法，并能以自动和人工模式操作Intelligent MinerIntelligent Miner是是IBMIBM开发的包括人工智能、机器学习、语言分析和开发的包括人工智能、机器学习、语言分析和知识发现领域成果在内的复杂软件解决方案。知识发现领域成果在内的复杂软件解决方案。现在学习的是第30页，共91页2023/4/331五，数据预处理五，数据预处理n n为什么需要数据预处理为什么需要数据预处理?n n数据清洗数据清洗 n n数据集成与转换数据集成与转换n n数据归约数据归约n n数据离散化与概念层次的构建数据离散化与概念层次的构建n n本章小结本章小结现在学习的是第31页，共91页2023/4/332为什么需要数据预处理为什么需要数据预处理?n n在现实社会中，存在着大量的在现实社会中，存在着大量的“脏脏”数据数据n n不完整性不完整性（数据结构的设计人员、数据采集设备和数据录入人员）（数据结构的设计人员、数据采集设备和数据录入人员）n n缺少感兴趣的属性缺少感兴趣的属性n n感兴趣的属性缺少部分属性值感兴趣的属性缺少部分属性值n n仅仅包含聚合数据，没有详细数据仅仅包含聚合数据，没有详细数据n n噪音数据（采集数据的设备、数据录入人员、数据传输）噪音数据（采集数据的设备、数据录入人员、数据传输）n n数据中包含错误的信息数据中包含错误的信息n n存在着部分偏离期望值的孤立点存在着部分偏离期望值的孤立点n n不一致性（数据结构的设计人员、数据录入人员）不一致性（数据结构的设计人员、数据录入人员）n n数据结构的不一致性数据结构的不一致性n nLabelLabel的不一致性的不一致性n n数据值的不一致性数据值的不一致性现在学习的是第32页，共91页2023/4/333为什么需要数据预处理为什么需要数据预处理?n n数据挖掘的数据源可能是多个互相独立的数据源数据挖掘的数据源可能是多个互相独立的数据源n n关系数据库关系数据库n n多维数据库（多维数据库（Data CubeData Cube）n n文件、文档数据库文件、文档数据库n n数据转换数据转换n n为了数据挖掘的方便为了数据挖掘的方便n n海量数据的处理海量数据的处理n n数据归约（在获得相同或者相似结果的前提下）数据归约（在获得相同或者相似结果的前提下）现在学习的是第33页，共91页2023/4/334为什么需要数据预处理？为什么需要数据预处理？n n没有高质量的数据，就没有高质量的挖掘结果n n高质量的决策必须基于高质量的数据基础上n n数据仓库是在高质量数据上的集成现在学习的是第34页，共91页2023/4/335数据预处理的主要任务数据预处理的主要任务n n数据清理数据清理n n填入缺失数据填入缺失数据n n平滑噪音数据平滑噪音数据n n确认和去除孤立点确认和去除孤立点n n解决不一致性解决不一致性n n数据集成数据集成n n多个数据库、多个数据库、Data CubeData Cube和文件系统的集成和文件系统的集成n n数据转换数据转换n n规范化、聚集等规范化、聚集等n n数据归约数据归约n n在可能获得相同或相似结果的前提下，对数据的容量进行有效的缩减在可能获得相同或相似结果的前提下，对数据的容量进行有效的缩减n n数据离散化数据离散化n n对于一个特定的连续属性，尤其是连续的数字属性，可以把属性值划分成若干区间，对于一个特定的连续属性，尤其是连续的数字属性，可以把属性值划分成若干区间，以区间值来代替实际数据值，以减少属性值的个数以区间值来代替实际数据值，以减少属性值的个数.现在学习的是第35页，共91页2023/4/336数据预处理的形式数据预处理的形式数据清理数据清理数据集成数据集成数据转换数据转换数据归约数据归约现在学习的是第36页，共91页2023/4/337主要内容主要内容n n为什么需要数据预处理?n n数据清洗n n数据集成与转换n n数据归约n n数据离散化与概念层次的构建n n本章小结现在学习的是第37页，共91页2023/4/338数据清洗数据清洗n n主要任务n n补充缺失数据n n识别孤立点，平滑噪音数据n n处理不一致的数据现在学习的是第38页，共91页2023/4/339缺失数据的处理缺失数据的处理n n部分数据通常是不可用的部分数据通常是不可用的n n在许多元组中部分属性值为空。如：在客户表中的客户收入为空。在许多元组中部分属性值为空。如：在客户表中的客户收入为空。n n导致数据缺失的原因导致数据缺失的原因n n数据采集设备的故障数据采集设备的故障n n由于与其它信息的数据存在不一致性，因此数据项被删除由于与其它信息的数据存在不一致性，因此数据项被删除n n由于不理解或者不知道而未能输入由于不理解或者不知道而未能输入n n在当时数据输入的时候，该数据项不重要而忽略在当时数据输入的时候，该数据项不重要而忽略n n数据传输过程中引入的错误数据传输过程中引入的错误n n缺失数据通常需要经过合理的推断予以添加缺失数据通常需要经过合理的推断予以添加现在学习的是第39页，共91页2023/4/340缺失数据的处理方法缺失数据的处理方法n n忽略该记录（元组）忽略该记录（元组）n n通常在进行分类、描述、聚类等挖掘，但是元组缺失类标识通常在进行分类、描述、聚类等挖掘，但是元组缺失类标识时时n n该种方法通常不是最佳的，尤其是缺失数据比例比较大的时候该种方法通常不是最佳的，尤其是缺失数据比例比较大的时候n n手工填入空缺的值手工填入空缺的值n n枯燥、费时，可操作性差，不推荐使用枯燥、费时，可操作性差，不推荐使用n n使用一个全局的常量填充空缺数值使用一个全局的常量填充空缺数值n n给定一个固定的属性值如：未知、不祥、给定一个固定的属性值如：未知、不祥、Unknown Unknown、NullNull等等n n简单，但是没有意义简单，但是没有意义现在学习的是第40页，共91页2023/4/341n n使用属性的平均值填充空缺数值使用属性的平均值填充空缺数值n n简单方便、挖掘结果容易产生不精确的结果简单方便、挖掘结果容易产生不精确的结果n n使用与给定元组同一个类别的所有样本的平均值使用与给定元组同一个类别的所有样本的平均值n n分类非常重要，尤其是分类指标的选择分类非常重要，尤其是分类指标的选择n n使用最有可能的值予以填充使用最有可能的值予以填充n n利用回归、基于推导的使用贝叶斯形式化的方法的工具或者判定利用回归、基于推导的使用贝叶斯形式化的方法的工具或者判定树归纳确定树归纳确定n n利用属性之间的关系进行推断，保持了属性之间的联系利用属性之间的关系进行推断，保持了属性之间的联系缺失数据的处理方法（续）缺失数据的处理方法（续）现在学习的是第41页，共91页2023/4/342噪音数据噪音数据n n噪音数据噪音数据:一个度量（指标）变量中的随机错误或者偏差一个度量（指标）变量中的随机错误或者偏差n n主要原因主要原因n n数据采集设备的错误数据采集设备的错误n n数据录入问题数据录入问题n n数据传输问题数据传输问题n n部分技术的限制部分技术的限制n n数据转换中的不一致数据转换中的不一致 n n数据清理中所需要处理的其它问题数据清理中所需要处理的其它问题n n重复的记录重复的记录n n不完整的数据不完整的数据n n不一致的数据不一致的数据现在学习的是第42页，共91页2023/4/343噪音数据的处理噪音数据的处理n n分箱（Binning）的方法n n聚类方法n n检测并消除异常点n n线性回归n n对不符合回归的数据进行平滑处理n n人机结合共同检测n n由计算机检测可疑的点，然后由用户确认现在学习的是第43页，共91页2023/4/344处理噪音数据：分箱方法处理噪音数据：分箱方法n n分箱（Binning）方法:n n基本思想：通过考察相邻数据的值，来平滑存储数据的值n n基本步骤：n n首先，对数据进行排序，并分配到具有相同宽度首先，对数据进行排序，并分配到具有相同宽度/深深度的不同的度的不同的“箱子箱子”中中n n其次，通过箱子的平均值（其次，通过箱子的平均值（MeansMeans）、中值）、中值（MedianMedian）、或者边界值等来进行平滑处理）、或者边界值等来进行平滑处理现在学习的是第44页，共91页2023/4/345分箱（分箱（BinningBinning）方法举例方法举例n n对数据进行排序对数据进行排序:4,8,9,15,21,21,24,25,26,28,29,34:4,8,9,15,21,21,24,25,26,28,29,34n n对数据进行分割对数据进行分割(相同深度相同深度):):n n-Bin 1:4,8,9,15-Bin 1:4,8,9,15n n-Bin 2:21,21,24,25-Bin 2:21,21,24,25n n-Bin 3:26,28,29,34-Bin 3:26,28,29,34n n根据根据binbin中的平均值进行离散化中的平均值进行离散化:n n-Bin 1:9,9,9,9-Bin 1:9,9,9,9n n-Bin 2:23,23,23,23-Bin 2:23,23,23,23n n-Bin 3:29,29,29,29-Bin 3:29,29,29,29现在学习的是第45页，共91页2023/4/346基于聚类分析的平滑处理基于聚类分析的平滑处理现在学习的是第46页，共91页2023/4/347通过线性回归的平滑处理通过线性回归的平滑处理xyy=x+1X1Y1Y1现在学习的是第47页，共91页2023/4/348主要内容主要内容n n为什么需要数据预处理n n数据清洗n n数据集成与转换n n数据归约n n数据离散化与概念层次的构建n n本章小结现在学习的是第48页，共91页2023/4/349数据集成数据集成n n数据集成的概念数据集成的概念n n将多个数据源中的数据结合起来存放在一个一致的数据存储中将多个数据源中的数据结合起来存放在一个一致的数据存储中n n数据源包括：多个数据库、多维数据库和一般的文件数据源包括：多个数据库、多维数据库和