数据挖掘考试题库(6页).doc

-1.2.3.4. 数据挖掘考试题库-第 6 页5. 数据仓库：是一种新的数据处理体系结构，是面向主题的、集成的、不可更新的(稳定性)、随时间不断变化(不同时间)的数据集合，为企业决策支持系统提供所需的集成信息。6. 孤立点：指数据库中包含的一些与数据的一般行为或模型不一致的异常数据。7. OLAP：OLAP是在OLTP的基础上发展起来的，以数据仓库为基础的数据分析处理，是共享多维信息的快速分析，是被专门设计用于支持复杂的分析操作，侧重对分析人员和高层管理人员的决策支持。8. 粒度：指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度影响存放在数据仓库中的数据量的大小，同时影响数据仓库所能回答查询问题的细节程度。9. 数据规范化：指将数据按比例缩放(如更换大单位)，使之落入一个特定的区域（如01）以提高数据挖掘效率的方法。规范化的常用方法有：最大最小规范化、零均值规范化、小数定标规范化。10. 关联知识：是反映一个事件和其他事件之间依赖或相互关联的知识。如果两项或多项属性之间存在关联，那么其中一项的属性值就可以依据其他属性值进行预测。11. 数据挖掘：从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。12. OLTP：OLTP为联机事务处理的缩写，OLAP是联机分析处理的缩写。前者是以数据库为基础的，面对的是操作人员和低层管理人员，对基本数据进行查询和增、删、改等处理。13. ROLAP：是基于关系数据库存储方式的，在这种结构中，多维数据被映像成二维关系表，通常采用星型或雪花型架构，由一个事实表和多个维度表构成。14. MOLAP：是基于类似于“超立方”块的OLAP存储结构，由许多经压缩的、类似于多维数组的对象构成，并带有高度压缩的索引及指针结构，通过直接偏移计算进行存取。15. 数据归约：缩小数据的取值范围，使其更适合于数据挖掘算法的需要，并且能够得到和原始数据相同的分析结果。16. 广义知识：通过对大量数据的归纳、概括和抽象，提炼出带有普遍性的、概括性的描述统计的知识。17. 预测型知识：是根据时间序列型数据，由历史的和当前的数据去推测未来的数据，也可以认为是以时间为关键属性的关联知识。18. 偏差型知识：是对差异和极端特例的描述，用于揭示事物偏离常规的异常现象，如标准类外的特例，数据聚类外的离群值等。19. 遗传算法：是一种优化搜索算法，它首先产生一个初始可行解群体，然后对这个群体通过模拟生物进化的选择、交叉、变异等遗传操作遗传到下一代群体，并最终达到全局最优。20. 聚类：是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程，使得在同一个簇中的对象之间具有较高的相似度，而不同簇中的对象差别较大。21. 决策树：是用样本的属性作为结点，用属性的取值作为分支的树结构。它是分类规则挖掘的典型方法，可用于对新样本进行分类。22. 相异度矩阵：是聚类分析中用于表示各对象之间相异度的一种矩阵，n个对象的相异度矩阵是一个nn维的单模矩阵，其对角线元素均为0，对角线两侧元素的值相同。23. 频繁项集：指满足最小支持度的项集，是挖掘关联规则的基本条件之一。24. 支持度：规则AB的支持度指的是所有事件中A与B同地发生的的概率，即P(AB)，是AB同时发生的次数与事件总次数之比。支持度是对关联规则重要性的衡量。25. 可信度：规则AB的可信度指的是包含A项集的同时也包含B项集的条件概率P(B|A)，是AB同时发生的次数与A发生的所有次数之比。可信度是对关联规则的准确度的衡量。26. 关联规则：同时满足最小支持度阈值和最小可信度阈值的规则称之为关联规则。1. 何谓数据挖掘？它有哪些方面的功能？从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程称为数据挖掘。相关的名称有知识发现、数据分析、数据融合、决策支持等。数据挖掘的功能包括：概念描述、关联分析、分类与预测、聚类分析、趋势分析、孤立点分析以及偏差分析等。2. 何谓数据仓库？为什么要建立数据仓库？数据仓库是一种新的数据处理体系结构，是面向主题的、集成的、不可更新的(稳定性)、随时间不断变化(不同时间)的数据集合，为企业决策支持系统提供所需的集成信息。建立数据仓库的目的有3个：一是为了解决企业决策分析中的系统响应问题，数据仓库能提供比传统事务数据库更快的大规模决策分析的响应速度。二是解决决策分析对数据的特殊需求问题。决策分析需要全面的、正确的集成数据，这是传统事务数据库不能直接提供的。三是解决决策分析对数据的特殊操作要求。决策分析是面向专业用户而非一般业务员，需要使用专业的分析工具，对分析结果还要以商业智能的方式进行表现，这是事务数据库不能提供的。3. 列举操作型数据与分析型数据的主要区别。操作型数据分析型数据当前的、细节的历史的、综合的面向应用、事务驱动面向分析、分析驱动频繁增、删、改几乎不更新，定期追加操作需求事先知道分析需求事先不知道生命周期符合SDLC完全不同的生命周期对性能要求高对性能要求宽松一次操作数据量小一次操作数据量大支持日常事务操作支持管理决策需求4. 何谓OLTP和OLAP？它们的主要异同有哪些？OLTP即联机事务处理，是以传统数据库为基础、面向操作人员和低层管理人员、对基本数据进行查询和增、删、改等的日常事务处理。OLAP即联机分析处理，是在OLTP基础上发展起来的、以数据仓库基础上的、面向高层管理人员和专业分析人员、为企业决策支持服务。OLTP和OLAP的主要区别如下表：OLTPOLAP数据库数据数据库或数据仓库数据细节性数据综合性数据当前数据历史数据经常更新不更新，但周期性刷新一次性处理的数据量小一次处理的数据量大对响应时间要求高响应时间合理用户数量大用户数据相对较少面向操作人员，支持日常操作面向决策人员，支持管理需要面向应用，事务驱动面向分析，分析驱动5. 何谓粒度？它对数据仓库有什么影响？按粒度组织数据的方式有哪些？粒度是指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度影响存放在数据仓库中的数据量的大小，同时影响数据仓库所能回答查询问题的细节程度。按粒度组织数据的方式主要有： 简单堆积结构 轮转综合结构 简单直接结构 连续结构6. 简述数据仓库设计的三级模型及其基本内容。概念模型设计是在较高的抽象层次上的设计，其主要内容包括：界定系统边界和确定主要的主题域。逻辑模型设计的主要内容包括：分析主题域、确定粒度层次划分、确定数据分割策略、定义关系模式、定义记录系统。物理数据模型设计的主要内容包括：确定数据存储结构、确定数据存放位置、确定存储分配以及确定索引策略等。在物理数据模型设计时主要考虑的因素有: I/O存取时间、空间利用率和维护代价等。提高性能的主要措施有划分粒度、数据分割、合并表、建立数据序列、引入冗余、生成导出数据、建立广义索引等。7. 在数据挖掘之前为什么要对原始数据进行预处理？原始业务数据来自多个数据库或数据仓库，它们的结构和规则可能是不同的，这将导致原始数据非常的杂乱、不可用，即使在同一个数据库中，也可能存在重复的和不完整的数据信息，为了使这些数据能够符合数据挖掘的要求，提高效率和得到清晰的结果，必须进行数据的预处理。 为数据挖掘算法提供完整、干净、准确、有针对性的数据，减少算法的计算量，提高挖掘效率和准确程度。8. 简述数据预处理方法和内容。 数据清洗：包括填充空缺值，识别孤立点，去掉噪声和无关数据。 数据集成：将多个数据源中的数据结合起来存放在一个一致的数据存储中。需要注意不同数据源的数据匹配问题、数值冲突问题和冗余问题等。 数据变换：将原始数据转换成为适合数据挖掘的形式。包括对数据的汇总、聚集、概化、规范化，还可能需要进行属性的重构。 数据归约：缩小数据的取值范围，使其更适合于数据挖掘算法的需要，并且能够得到和原始数据相同的分析结果。9. 简述数据清理的基本内容。 尽可能赋予属性名和属性值明确的含义；统一多数据源的属性值编码； 去除无用的惟一属性或键值(如自动增长的id)；去除重复属性(在某些分析中，年龄和出生日期可能就是重复的属性，但在某些时候它们可能又是同时需要的) 去除可忽略字段(大部分为空值的属性一般是没有什么价值的，如果不去除可能造成错误的数据挖掘结果) 合理选择关联字段(对于多个关联性较强的属性，重复无益，只需选择其中的部分用于数据挖掘即可，如价格、数据、金额) 去掉数据中的噪音、填充空值、丢失值和处理不一致数据。10. 简述处理空缺值的方法。 忽略该记录；去掉属性；手工填写空缺值；使用默认值；使用属性平均值； 使用同类样本平均值；预测最可能的值。11. 常见的分箱方法有哪些？数据平滑处理的方法有哪些？分箱的方法主要有： 统一权重法(又称等深分箱法) 统一区间法(又称等宽分箱法) 最小熵法自定义区间法数据平滑的方法主要有：平均值法、边界值法和中值法。12. 数据归约的方法有哪些？为什么要进行维归约？ 数据立方体聚集维归约数据压缩数值压缩离散化和概念分层 维归约可以去掉不重要的属性，减少数据立方体的维数，从而减少数据挖掘处理的数据量，提高挖掘效率。13. 何谓聚类？它与分类有什么异同？聚类是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程，使得在同一个簇中的对象之间具有较高的相似度，而不同簇中的对象差别较大。 聚类与分类不同，聚类要划分的类是未知的，分类则可按已知规则进行；聚类是一种无指导学习，它不依赖预先定义的类和带类标号的训练实例，属于观察式学习，分类则属于有指导的学习，是示例式学习。14. 举例说明聚类分析的典型应用。商业：帮助市场分析人员从客户基本库中发现不同的客户群，并且用不同的购买模式描述不同客户群的特征。生物学：推导植物或动物的分类，对基于进行分类，获得对种群中固有结构的认识。WEB文档分类其他：如地球观测数据库中相似地区的确定；各类保险投保人的分组；一个城市中不同类型、价值、地理位置房子的分组等。聚类分析还可作为其他数据挖掘算法的预处理：即先进行聚类，然后再进行分类等其他的数据挖掘。聚类分析是一种数据简化技术，它把基于相似数据特征的变量或个案组合在一起。*数据挖掘*1、数据仓库与数据挖掘产生的背景；2.、数据挖掘的定义：数据挖掘是从大量的数据中挖掘出隐含的、未知的、用户可能感兴趣的和对决策有潜在价值的知识和规则。3、数据挖掘可以挖掘的模式类型：关联分析（描述）： 关联规则挖掘：反映一个事件和其他事件之间依赖或关联的知识；聚类分析（描述）最大化类内的相似性和最小化类间的相似性（无监督的学习方法）；分类（预测）反映同类事物共同性质的特征型知识和不同事物之间的差异型特征知识（有监督的学习方法）；孤立点分析（预测）对差异和极端特例的描述4、通过数据挖掘我们可以：(1)发现最有价值的客户(2)使组合销售更有效率(3)留住那些最有价值的客户(4)用更小的成本发现欺诈现象5、聚类与分类的主要区别：聚类是一种无指导的观察式学习，没有预先定义的类；不建立模型或训练，旨在发现空间实体的属性间的函数关系；分类问题是有指导的示例式学习，有预先定义的类，建立模型或训练，具有预测功能。6、异常检测通过构建正常行为模型(称为特征描述)，来检测与特征描述严重偏离的新的模式。*数据仓库*1. 数据仓库是为构建分析型数据处理环境而出现的一种数据存储和组织技术。用来保存从多个数据库或其它信息源选取的数据，并为上层应用提供统一用户接口，完成数据查询和分析。2. William H.Inmon（1993）被尊为“数据仓库之父”3. 数据仓库的作用：(1)存储经过加工处理的决策需要的数据(2)查询和决策分析的依据4. 数据仓库的关键特征:(1)面向主题:主题是一个在较高层次将数据归类的标准，每一个主题基本对应一个宏观的领域(2)集成的:一个数据仓库是通过集成多个异种数据源来构造的(3)随时间而变化的（时变的）(4)不容易丢失5. 数据仓库中的每一个关键结构都隐式或显式地包含时间元素，时间维是数据仓库中一个非常重要的维度；而操作数据库中的关键结构可能就不包括时间元素。6. 数据组织的发展过程:人工管理阶段,文件系统管理阶段, 数据库阶段,高级数据库阶段7. 管理信息的处理类型：（1）事务型处理：业务操作处理，用来协助企业对相应事件或事务的日常商务活动进行处理。是事件驱动、面向应用的，通常是对一个/组记录的增、删、改以及简单查询等，以满足组织特定的日常管理需要（数据库）；2）分析型处理：用于管理人员的决策分析，例如DSS、 EIS和多维数据分析等。帮助决策者分析数据以察看趋向、判断问题。分析型处理经常要访问大量的历史数据，支持复杂的查询分析（数据仓库）。8. 区别：事务型处理：细节的，当前的，可更新的，事务驱动，面向应用，一次操作数据量小，支持日常操作。分析型处理：综合的，提炼的，代表过去的数据，不可更新，只读的，分析驱动，面向分析，一次操作数据量大，支持管理需求。9. 事务型与分析型环境的分离：要摆脱传统数据库面临的困境，必须将用于事务处理的数据环境和用于数据分析的数据环境分离：（1）事务型处理：以传统数据库为中心进行企业的日常业务处理，其使用人员通常是企业的具体操作人员；处理企业业务的细节信息，以实现企业的业务运营；（2）分析型处理：分析数据背后的关联和规律，为企业决策提供可靠依据，其使用人员通常是企业的中高层管理者，或从事数据分析的工程师；处理企业的宏观信息，而非具体细节，以为企业的决策者提供支持信息。10. 数据仓库与数据挖掘的关系：数据仓库：是一种存储技术，它能适应于不同用户对不同决策需要提供所需的数据和信息。 数据挖掘：是一种分析技术，研究各种方法和技术，从大量的数据中挖掘出有用的信息和知识。11. 数据仓库和数据挖掘的联系（1）首先大多数数据挖掘工具要在集成的、一致的和经过清理的数据上进行挖掘（2）其次在数据仓库的构造过程中，已经围绕数据仓库组建了包括数据存取、数据集成、数据合并、异种数据库转换、ODBC/OLE DB的链接、Web访问和服务工具以及报表与OLAP分析工具等全面的数据处理和数据分析基础设施，而这为数据挖掘的开展提供了重要的基础设施（3）此外在数据挖掘过程中，常需要进行探测式的数据分析，选择相关数据，对各种数据选择不同的粒度，以不同的形式提供知识和结果。而数据仓库中的OLAP完全可为数据挖掘提供有关的数据操作支持。 因此，数据仓库促进了数据挖掘的发展，而数据挖掘可看作联机分析处理的高级阶段。12. 在数据仓库中，一个概念分层定义一个映射序列，将低层概念映射到更一般的高层概念。13. 在多维数据模型中，数据以数据立方体的形式存在14. 方体的格：给定一个维的集合，将在不同汇总级别上给出的数据立方体称为方体的格。15. 0维方体存放最高层的汇总，称作顶点方体。而存放最底层汇总的方体则称为基本方体16. 数据仓库的三级模型：（1）概念模型：信息包图（，确定信息包图的维度、类别、指标与事实（2）逻辑模型：星型模型、雪花模型、事实星座模型（3）物理模型：数据存储结构、存储策略、索引策略、存储分配优化17. 有两种常见的存储结构：分布式存储； 2）集中式存储18. 数据仓库设计的原则：(1) 坚持“以数据驱动为中心，数据驱动和需求驱动相结合”的原则(2) 数据驱动是指根据当前数据基础和质量等情况，进行数据源分析(3)需求驱动是指根据业务方向性需求、业务问题等，确定系统范围和需求框架。19. 提高数据仓库性能途径：1）粒度划分2）数据分片3）合并表4）选择冗余5）其他方法20. DW设计与DB设计方法比较:(1)处理类型不同:DB :操作型数据环境，面向业务,DW: 面向主题的分析型数据环境，面向分析，从基本主题开始，不断发展新主题(2)面向需求不同:DB : 一组较确定的应用(业务处理)需求; 较确定的数据流.DW: 需求不确切(定);分析处理需求灵活;没有固定模式；用户对分析处理需求不甚明了；其设计很难以需求为基础(3) 设计目标不同:DB : 事务处理的性能（OLTP），支持多用户并发访问，高效的增、删、改操作,DW: 建立DSS的数据环境， 全局的分析环境，支持用户快速的,分析和查询 (4)数据来源不同:DB : 企业的业务流程中产生的数据,DW: 系统内部，主要从OLTP系统中获取，经过转换、重组、综合; 同时包括部分外部信息(5)设计方法不同:DB : SDLC,应用需求驱动,DW: CLDS,数据驱动（中心）需求驱动*OLAP*1.OLAP的分析方法:切片（Slice）从多维数组选定一个二维子集，切出一个“平面”切块（Dice）从多维数组选定一个三维子集，切出一个“立方体”旋转（Rotate）改变一个报告（或页面）显示的维方向钻取(Drill)根据维层次，改变数据的粒度*数据预处理*