数据仓库与数据挖掘期末综合复习.docx
数据仓库与数据挖掘期末综合复习第一章1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合.2、元数据是描述数据仓库内数据的结构和建立方法的数据,它为访问数据仓库提供了一个 信息目录,根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类. 3、数据处理通常分成两大类:联机事务处理和联机分析处理。4、多维分析是指以“维”形式组织起来的数据(多维数据集)采取切片、切块、钻取和旋 转等各种分析动作,以求剖析数据,使拥护能从不同角度、不同侧面观察数据仓库中的数据, 从而深入理解多维数据集中的信息。5、ROLAP是基于关系数据库的OLAP实现,而MOLAP是基于多维数据结构组织的OLAP实现。 OLAP技术的有关概念:OLAP根据其存储数据的方式可分为三类:ROLAP、MOLAP、HOLAP6、数据仓库按照其开发过程,其关键环节包括数据抽取、数据存储与管理和数据表现等。7、数据仓库系统的体系结构根据应用需求的不同,可以分为以下4种类型:两层架构、独立 型数据集合、以来型数据结合和操作型数据存储和逻辑型数据集中和实时数据仓库。8、操作型数据存储实际上是一个集成的、面向主题的、可更新的、当前值的(但是可“挥 发的)、企业级的、详细的数据库,也叫运营数据存储。9、“实时数据仓库”以为着源数据系统、决策支持服务和仓库仓库之间以一个接近实时的 速度交换数据和业务规那么。10、从应用的角度看,数据仓库的开展演变可以归纳为5个阶段:以报表为主、以分析为 主、以预测模型为主、以运营导向为主和以实时数据仓库和自动决策为主。11、什么是数据仓库?数据仓库的特点主要有哪些?数据仓库通常是指一个数据库环境,而不是支一件产品,它是提供用户用于决策支持的当前 和历史数据,这些数据在传统的数据库中通常不方便得到。数据仓库就是一个面向主题的 (Subject Oriented)、集成的(Integrate)、相对稳定的(Non一Volatile)、反映历史 变化(Time Variant)的数据集合,通常用于辅助决策支持。数据仓库的特点包含以下几个方面:(1)面向主题.操作型数据库的数据组织是面向事务处理任务,各个业务系统之间各自别离; 而数据仓库中的数据是按照一定的主题域进行组织。(2)集成的.面向事务处理的操作型数据库通常与某些特定的应用相关,数据库之间相互独 立,并且往往是异构的。也就是说存放在数据仓库中的数据应使用一致的命名规那么、格式、 编码结构和相关特性来定义。(3)相对稳定的。操作型数据库中的数据通常实时更新,数据根据需要及时发生变化,数据 仓库的数据主要供单位决策分析之用,对所涉及的数据操作主要是数据查询和加载,一旦某 个数据加载到数据仓库以后,一般情况下将作为数据档案长期保存,几乎不再做修改和删除 操作,也就是说针对数据仓库,通常有大量的查询操作及少量定期的加载(或刷新)操作.(4)反映历史变化。操作型数据库(OLTP)主要关心当前某一个时间段内的数据,而数据仓 库中的数据通常包含较久远的历史数据,因此总是包括一个时间维,以便可以研究趋势和变 化。数据仓库系统通常记录了一个单位从过去某一时点(如开始启用数据仓库系统的时点) 到目前的所有时期的信息,通过这些信息,可以对单位的开展历程和未来趋势做出定量分析 和预测。12、数据挖掘的概念数据挖掘,就是从大量数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平 凡过程,简单的说,数据挖掘就是从大量数据中提取或“挖掘知识,又被称为数据库中的 知识发现。数据挖掘的方法:直接数据挖掘、间接数据挖掘.13、数据仓库与数据挖掘的关系假设将数据仓库比作矿井,那么数据挖掘就是深入矿井采矿的工作;数据挖掘是从数据仓库中 找出有用信息的一种过程与技术。14、数据仓库系统的体系结构的分类(1)两层架构(Generic Two-Level Architecture)。那得看你规定的权是多少啊,(xl, o o . , xn)和(yl,,yn)问权p的!ninkowski 距离就是I xlyl | "p+o , o +1 xn-yn1/p意义么,得看你的空间是什么.一般这 个范数是用在函数空间上的,比方L、( 0,1),它与向量(这时是0,1区间上的1/p函 数)的模长是相容的。第1个样品与第1个样品间的明假设夫斯基距离定义为,这里,为某一自然数,这是一个录常用最直观的距离。,当9=1时,4。)=£W-5|,称为绝时距离当q = oo时,4 (coj =龈:辰-称为切比雪夫距离一当各变量的单位不同或重里售相同但各变量的测量值相差很大时,不应直接 采用明考夫斯基臣施,而应先对各变量的数据作标准化处理,然后用标准化后的 数据计算距割。最常用的标准化处理是,令,其中弓二£与为第日变量的样本均值,S厂刃为-炉为第J金变量的 W Ml盟样本方差。联机事务处理 OLTP (on-line transaction processing)传统的关系DBMS的主要任务他们涵盖了一个组织的大局部日常操作:购买、库存、制造、银行、工资、注 册、记账等.联机分析处理 OLAP (on-line analytical processing)数据仓库系统的主要任务数据分析和决策OLTP和OLAP的区别用户和系统的面向性:OLTP面向顾客,而OLAP面向市场数据内容x OLTP系统管理当前数据,而OLAP管理历史的数据.数据库设计:OLTP系统采用实体-联系(ER)模型和面向应用的数据库设计, 而OLAP系统通常采用星形和雪花模型视图:OLTP系统主要关注一个企业或部门内部的当前数据.而OLAP系统 主要关注汇总的统一的数据.访问模式:OLTP访问主要有短的原子事务组成,而OLAP系统的访问大局部 是只读操作,尽管许多可能是更杂的查询数据仓库和OLAP工具基于多维数据模型.这种模型将数据看作数据立方体形 式.数据立方体允许从多维对数据建模和观察它由维和事实定义.3最流行的数据仓库数据模型是多维模型,这种模型可以以星形模式、雪花型 模式或事实星座模式形式存在建立数据仓库模型:维与度量星型模型:最常见的模型范例是星形模式,其中数据仓库包括(D 一个大的 包含大批数据并且不含冗余的中心表(事实表);(2) 一组小的附属表(维表), 每维一个.中间是事实表,连接一组维表雪花模式:雪花模式是星型模式的变种,其中某些维表是规范化的,而数据进 一步分解到附加的维表中,它的图形类似于雪花的形状事实星座表:多个事实表共享维表,这种模式可以看作星型模式及,因此称为 星系模式或事实星座 数据立方体度量是一个数值函数,可以对数据立方体空间的每一个点求值.通 过对给定点的各维-值对聚集数据,计算该点的度量值。度量可以根据所用的聚集函数类型可以分成三类(即分布的,代数的和整体的). 概念分层定义一个映射序列,将低层概念映射到更一般的较高层概念.多维数据模型中的OLAP操作上卷:上卷操作通过沿一个维的概念分层向上攀升或者通过维规约,对数据 立方体进行聚集,(2)下钻,下钻是上卷的逆操作,它由不太详细的数据到更详细的数据.下钻可 以通过沿维的概念分层向下或引入附加的维来实现,(3)切片和切块x切片操作对给定立方体的一个维进行选择,导致一个子立方体. 切块操作通过对两个或多个维执行选择,定义子立方体;(4)转轴(旋转):转轴是一种可视化操作,它转动数据的视角,提供数据的替 代表示;其他OLAP操作:钻过执行涉及多个事实表的查询;钻透操作使用关系SQL 机制,钻透数据立方体的底层,到后段关系表.三层数据仓库的系统结构(1)底层是仓库数据服务器,它几乎总是关系数据库系统(2)中间层是OLAP服务器,其典型的实现或者是关系OLAP (ROLAP)模 型,即扩充的关系DBMS,它将对多维数据的操作映射为标准的关系操作,或 者是(ii)多维OLAP(MOLAP)模型即专门的服务器,它直接实现多维数据 和操作。(3)顶层是前段客户层,它包括查询和报表工具、分析工具和/或数据挖掘工具(例如趋势分析、预测等).从结构的角度看,有三种数据仓库模型:企业仓库、数据集市和虚拟仓库数据集市(Data Mart):数据集市包含企业范围数据的一个子集,对于特定的用户群是有用的.其范围限于选定的主题.根据数据的来源不同,数据集市分为独立的和依赖的两类数据仓库后端工具和实用程序包含以下功能:数据提取;数据清理;数据变换;装入3刷新。数据立方体的物化有三种选择:(1)不物化;(2)完全物化;(3)局部物化.有三种数据仓库应用:信息处理.分析处理和数据挖掘, 分类和预测找出描述并区分数据类和概念的模型(或函数)以便能够使用模型预测类标记 未知的对象类.例如,依据气候划分国家类型或者依据每里的耗油量划分汽车类型.表示形式,判定树,分类规那么,神经网络。预测:预测某些未知的或空缺的数据值.聚类分析类标记未知:把数据聚类或分组成新的类,例如:把房子聚类来找出房子的分 布模式.聚类依据以下原那么,最大化类内的相似性和量小化类间的相似性.FP-树结构的优点完赘性:不会破坏任何交易的长模式 为频繁模式挖掘保存了完整的信息简洁性 减少了不相关的信息一非频繁项集被删掉频繁项集技支持度递减顺序排列:越是频繁的项集越有可能被共享不会比原数据库大(如果不算节点链和计数)基本思想(分治策略):使用FP-树循环的产生频繁模式路径方法对于每一个项.先构造它的条件模式基.然后构造它的条件FP.树在每一个新创立的条件FP.树上重嵬此过程直到结果FP树为空,或它只包含一条路径(单路径将产生所有的它的子路径的 结合,每一条子路径都是一个频繁模式) 挖掘FP树的主要步骤1)为FP-树中的每一个节点构造条件模式基 2)为每一个条件模式基条件FP.树3)循环的挖掘条件FP.树,生成至今为止获得的频繁模式如果条件FP树只包含单条路径,简单的列举所有的模式 一、名词解释.数据仓库:是一种新的数据处理体系结构,是面向主题的、集成的、不可 更新的(稳定性)、随时间不断变化(不同时间)的数据集合,为企业决策支 持系统提供所需的集成信息。1 .孤立点】指数据库中包含的一些与数据的一般行为或模型不一致的异常数据,2 . OLAP: OLAP是在OLTP的基础上开展起来的,以数据仓库为基础的数据分析处理,是共享多维信息的快速分析,是被专门设计用于支持复杂的 分析操作,侧重对分析人员和高层管理人员的决策支持.4.5.6.7.8.粒度,指数据仓库的数据单位中保存数据细化或综合程度的级别.粒度影 响存放在数据仓库中的数据量的大小,同时影响数据仓库所能回答查询问 题的细节程度。数据规范化:指将数据按比例缩放(如更换大单位),使之落入一个特定的区域(如01)以提高数据挖掘效率的方法规范化的常用方法有,量大一最小规范化、零一均值规范化、小数定标规范化.关联知识:是反映一个事件和其他事件之间依赖或相互关联的知识.如果 两项或多项属性之间存在关联,那么其中一项的属性值就可以依据其他属 性值进行预测.数据挖掘:从大量的、不完全的、有噪声的、模糊的、随机的数据中,提 取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程,OLTP: OLTP为联机事务处理的缩写,OLAP是联机分析处理的缩写.前者是以数据库为基础的,面对的是操作人员和低层管理人员,对基本数 据进行查询和增、删、改等处理.9. ROLAP:是基于关系数据库存储方式的,在这种结构中,多维数据被映 像成二维关系表,通常采用星型或雪花型架构,由一个事实表和多个维度 表构成。10. MOLAP:是基于类似于“超立方”块的OLAP存储结构,由许多经压缩的、类似于多维数组的对端构成,并带有高度压缩的索引及指针结构,通过直接偏移计算进行存取.H.数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并 且能够得到和原始数据相同的分析结果.12.广义知识,通过对大量数据的归纳、概括和抽象,提炼出带有普遍性的、 概括性的描述统计的知识.B.预测型知识:是根据时间序列型数据,由历史的和当前的数据去推测未来 的数据,也可以认为是以时间为关键属性的关联知识。14 .偏差型知识:是对差异和极端特例的描述,用于揭示事物偏离常规的异常现象,如标准类外的特例,数据聚类外的离群值等.15 .遗传算法:是一种优化搜索算法,它首先产生一个初始可行解群体,然后 对这个群体通过模拟生物进化的选择、交叉、变异等遗传操作遗传到下一 代群体,并最终到达全局最优。16 .聚类:是将物理或抽象对象的集合分组成为多个类或族(cluster)的过程, 使得在同一个簇中的对盆之间具有较高的相似度,而不同簇中的对彩差异 较大.17 .决策树:是用样本的属性作为结点,用属性的取值作为分支的树结构,它 是分类规那么挖掘的典型方法,可用于对新样本进行分类。18 .相异度矩阵:是聚类分析中用于表示各对篇之间相异度的一种矩阵,n个 对象的相异度矩阵是一个nn维的单模矩阵,其对角线元素均为0,对角 线两侧元素的值相同。19.20.22.频繁项集:指满足最小支持度的项集,是挖掘关联规那么的基本条件之一。 支持度:规那么A-B的支持度指的是所有事件中A与B同地发生的的概率, 即P(AUB),是AB同时发生的次数与事件总次数之比.支持度是对关联 规那么重要性的衡量.可信度,规那么A-B的可信度指的是包含A项集的同时也包含B项集的条 件概率P(B|A),是AB同时发生的次数与A发生的所有次数之比可信度 是对关联规那么的准确度的衡量.关联规那么,同时满足最小支持度阑值和最小可信度蜩值的规那么称之为关联 规那么.二,综合题.何谓数据挖掘?它有哪些方面的功能?从大直的、不完全的、有噪声的,模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程称为数据挖掘.相关的名称有知识发现、数据分析、数据融合、决策支持等.数据挖掘的功能包括:概念描述、关联分析、分类与预测、聚类分析、 趋势分析、孤立点分析以及偏差分析等。1 .何谓数据仓库?为什么要建立数据仓库?数据仓库是一种新的数据处理体系结构,是面向主题的、集成的、不 可更新的(稳定性)、随时间不断变化(不同时间)的数据集合,为企业决策支 持系统提供所需的集成信息.建立数据仓库的目的有3个:一是为了解决企业决策分析中的系统响应问题,数据仓库能提供比传统事务数据库更快的大规模决策分析的响应速度.二是解决决策分析对数据的特殊需求问题.决策分析需要全面的、正 确的集成数据,这是传统事务数据库不能直接提供的.三是解决决策分析对数据的特殊操作要求.决策分析是面向专业用户 而非一般业务员,需要使用专业的分析工具,对分析结果还要以商业智能 的方式进行表现,这是事务数据库不能提供的.2 .列举操作型数据与分析型数据的主要区别操作型数据操作型数据分析型数据当前的、细节的 面向应用,事务丽 频繁增、删,改一当前的、细节的 面向应用,事务丽 频繁增、删,改一历史的、综合的操作需求事先知道 生命周期符合SDLC面向分析、分析驱动 几乎不更新,定期追加 分析帚求事先不如右 完全不同的生命周期对性能要求高一次操作数据量小对性能要求高一次操作数据量小区持日常事务操作对性能要求宽松 一次操作数据量大 支持管理决策需求3 .何谓OLTP和OLAP?它们的主要异同有哪些?OLTP即联机事务处理,是以传统数据库为基础、面向操作人员和低层 管理人员、对基本数据进行查询和增、删、改等的日常事务处理.OLAP 即联机分析处理,是在OLTP基础上开展起来的、以数据仓库基础上的、 面向高层管理人员和专业分析人员、为企业决策支持服务.OLTP和OLAP的主要区别如下表:OLAPOLTP数据库数据数据库数据数据库或数据仓库数据.何谓粒度?它对数据仓库有什么影响?按粒度组织数据的方式有哪些? 粒度是指数据仓库的数据单位中保存数据细化或综合程度的级别.粒 度影响存放在数据仓库中的数据量的大小,同时影响数据仓库所能回答查细节性数据综合性数据当前数据历史数据经常更新不更新,但周期性刷新一次性处理的数据量小一次处理的数据量大对响应时间要求高响应时间合理用户数量大用户数据相对较少面向操作人员9支持日常操作面向决策人员,支持管理需要面向应用,事务驱动面向分析,分析驱动询问题的细节程度.按粒度组织数据的方式主要有:简单堆积结构轮转综合结构 简单直接结构 连续结构4 .简述数据仓库设计的三级模型及其基本内容.概念模型设计是在较高的抽象层次上的设计,其主要内容包括:界定 系统边界和确定主要的主题域.逻辑模型设计的主要内容包括:分析主题域、确定粒度层次划分、确 定数据分割策略、定义关系模式、定义记录系统.物理数据模型设计的主要内容包括:确定数据存储结构、确定数据存 放位置、确定存储分配以及确定索引策略等。在物理数据模型设计时主要考虑的因素有:I/O存取时间、空间利用率和维护代价等.提高性能的主要措施有划分粒度、数据分割、合并表、建立数据序列、 引入冗余、生成导出数据、建立广义索引等.5 .在数据挖掘之前为什么要对原始数据进行预处理?原始业务数据来自多个数据库或数据仓库,它们的结构和规那么可能是 不同的,这将导致原始数据非常的杂乱、不可用,即使在同一个数据库中,也可能存在重复的和不完整的数据信息,为了使这些数据能移符合数据挖掘的要求,提高效率和得到清晰的结果,必须进行数据的预处理.为数据挖掘算法提供完整、干净、准确、有针对性的数据,减少算法 的计算量,提高挖掘效率和准确程度.6 .管述数据预处理方法和内容。数据清洗:包括填充空缺值,识别孤立点,去掉噪声和无关数据. 数据集成:将多个数据源中的数据结合起来存放在一个一致的数据存储 中需要注意不同数据源的数据匹配问题,数值冲突问题和冗余问题等.数据变换:将原始数据转换成为适合数据挖掘的形式包括对数据的汇 总、聚集、概化、规范化,还可能需要进行属性的重构0数据归约:缩小数据的取值范围,使其更增合于数据挖掘算法的需要, 并且能够得到和原始数据相同的分析结果7 .简述数据清理的基本内容.尽可能赋予属性名和属性值明确的含义;统一多数据源的属性值编码;去除无用的惟一属性或键值(如自动增长的id):去除重复属性(在某些分析中,年龄和出生日期可能就是重复的属性,但在某些时候它们可能又是同时靠要的)去除可忽略字段(大局部为空值的属性一般是没有什么价值的,如果不 去除可能造成错误的数据挖掘结果)合理选择关联字段(对于多个关联性较强的属性,重复无益,只需选择 其中的局部用于数据挖掘即可,如价格、数据、金额)去掉数据中的噪音、填充空值、丧失值和处理不一致数据.简述处理空缺值的方法.忽略该记录;去掉属性,手工填写空缺值;使用默认值:使用属性平均值:使用同类样本平均值I预测最可能的值.8 .常见的分箱方法有哪些?数据平滑处理的方法有哪些?分箱的方法主要有,统一权重法(又称等深分箱法)统一区间法(又称等宽分箱法)最小嬉法自定义区间法数据平滑的方法主要有:平均值法、边界值法和中值法.9 .何谓数据规范化?规范化的方法有界些?写出对应的变换公式将数据按比例缩放(如更换大单位L使之落入一个特定的区域(如。.01.0),称为规范化.规范化的常用方法有:(1)最大一是小规范化,max - min ,.、.x = -(xfl -) + mui(,叫一 丹)(2)零一均值规范化,=外(3)小数定标规范化:x=xo/10.数据归约的方法有哪些?为什么要进行维归约?数据立方体聚集维归约数据压缩数值压缩离散化和概念分层维妇约可以去掉不重要的属性,减少数据立方体的维数,从而减少数 据挖掘处理的数据量,提高挖掘效率.13 .何谓聚类?它与分类有什么异同?聚类是将物理或抽对猿的集合分组成为多个类或簇(cluster)的过 程,使得在同一个簇中的对象之间具有较高的相似度,而不同族中的对薮差异较大.聚类与分类不同,聚类要划分的类是未知的,分类那么可按规那么进 行;聚类是一种无指导学习,它不依赖预先定义的类和带类标号的训练实 例,属于观察式学习,分类那么属于有指导的学习,是例如式学习.14 .举例说明聚类分析的典型应用.商业,帮助市场分析人员从客户基本库中发现不同的客户群,并且用不同的购买模式描述不同客户群的特征。生物学:推导植物或动物的分类,对基于进行分类,获得对种群中固有结构的认识。WE8文档分类其他如地球观测数据库中相似地区确实定:各类保险投保人的分组; 一个城市中不同类型、价值、地理位置房子的分组等.聚类分析还可作为其他数据挖掘算法的预处理:即先进行聚类,然后再进行分类等其他的数据挖掘聚类分析是一种数据简化技术,它把基于相似数据特征的变量或个案组合在一起.聚类分析中常见的数据类型有哪些?何谓相异度矩阵?它有什么特点?常见数据类型有区间标度变量,比例标度型变量、二元变量、标称型、序数型以及混合类型等,相异度矩阵是用于存储所有对象两两之间相异度 的矩阵,为一个nn维的单模矩阵,其特点是d(ij尸d(jJ), d(i,i)=O, d(jJ)=O。 如下所示i(2)独立型数据集市(Independent Data Mart).(3)依赖型数据集市和操作型数据存储(Dependent Data Mart and Operational Data Store) o(4)逻辑型数据集市和实时数据仓库(Logical Data Mart and Real-Time Data Warehouse).15、数据仓库的未来(1)在数据抽取方面,未来的技术开展将集中在系统集成化方面。它将互连、转换、复制、 调度、监控纳入标准化的统一管理,以适应数据仓库本身或数据源可能的变化,使系统更便 于管理和维护。(2)在数据管理方面,未来的开展将使数据库厂商明确推出数据仓库引擎,作为数据仓库 服务器产品与数据库服务器并驾齐驱。在这一方面,带有决策支持扩展的并行关系数据库将 最具开展潜力.(3)在数据表现方面,数理统计的算法和功能将普遍集成到联机分析产品中,并与 Internet/Web技术紧密结合。按行业应用特征细化的数据仓库用户前端软件将成为产品作 为数据仓库解决方案的一局部。数据仓库实现过程的方法论将更加普及,将成为数据库设计 的一个明确分支,成为管理信息系统设计的必备16、请列出3种数据仓库产品,并说明其优缺点。(1) IBM公司提供了一套基于可视化数据仓库的商业智能(BI)解决方案,包括:Visual Warehouse (VW) , Essbase/DB2 OLAP Server 5. 0> IBM DB2 UDB,以及来自第三方的前端数 据展现工具(如B0)和数据挖掘工具(如SAS)。其中,VW是一个功能很强的集成环境,既 可用于数据仓库建模和元数据管理,又可用于数据抽取、转换、装载和调度.Essbase/DB2 OLAP Server支持“维的定义和数据装载。Essbase/DB2 OLAP Server不是ROLAP(Relational OLAP)服务器,而是一个(ROLAP 和 MOLAP)混合的 HOLAP 服务器,在 Essbase 完成数据装载后,数据存放在系统指定的DB2UDB数据库中。它的前端数据展现工具可以选 择 Business Objects 的 BO、Lotus 的 Approach、Cognos 的 Impromptu 或 IBM 的 Query Management Facility;多维分析工具支持 Arbor Software 的 Essbase 和 IBM (与 Arbor 联 合开发)的DB2 OLAP服务器;统计分析工具采用SAS系统。(2)Oracle数据仓库解决方案主要包括Oracle Express和Oracle Discoverer两个局部。 Oracle Express 由四个工具组成:Oracle Express Server 是一个 MOLAP(多维 OLAP)服务 器,它利用多维模型,存储和管理多维数据库或多维高速缓存,同时也能够访问多种关系数 据库;Oracle Express Web Agent通过CGI或Web插件支持基于Web的动态多维数据展 现;Oracle Express Objects前端数据分析工具(目前仅支持Windows平台)提供了图形 化建模和假设分析功能,支持可视化开发和事件驱动编程技术,提供了兼容Visual Basic语 法的语言,支持OCX和OLE; Oracle Express Analyzer是通用的、面向最终用户的报告和 分析工具(目前仅支持Windows平台)。Oracle Discoverer即席查询工具是专门为最终 用户设计的,分为最终用户版和管理员版。在Oracle数据仓库解决方案的实施过程中,通 常把汇总数据存储在Express多维数据库中,而将详细数据存储在Oracle关系数据库中, 当需要详细数据时,Express Server通过构造SQL语句访问关系数据库。(3)Microsoft将OLAP功能集成到SQL Server数据库中,其解决方案包括BI平台、BI终 端工具、BI门户和BI应用四个局部,如图1.1.BI平台是BI解决方案的基础,包括ETL平台SQL Server 2005 Integration Service(SSIS)>数据仓库引擎SQL Server 2005 RDBMS以及多维分析和数据挖掘引擎SQL Server 2005 Analysis Service、报表管理引擎 SQL Server 2005 Reporting Service。BI终端用户工具,用户通过终端用户工具和Analysis Service中的OLAP服务和数据 挖掘服务进行交互来使用多维数据集和数据挖掘模型,终端用户通常可使用预定义报表、交 互式多维分析、即席查询、数据可视化、数据挖掘等多种方法。BI门户提供了各种不同用户访问BI信息的统一入口。BI门户是一个数据的汇集地, 集成了来自不同系统的相关信息,用户可以制定个性化的个人门户,选择和自己相关性最强 的数据,提高信息访问和使用的效率。BI应用是建立在BI平台、BI终端用户工具和BI统一门户这些公共技术手段之上的满 足某个特定业务需求的应用,例如零售业务分析、企业工程管理组合分析等第二章0(1(2,1)0d(3,1)(1(3,2)0 d(nj) d(n,2) 0.分类知识的发现方法主要有哪些?分类过程通常包括哪两个步骤?分类规那么的挖掘方法通常有:决策树法、贝叶斯法、人工神经网络法、 粗糙集法和遗传算法。分类的过程包括2步:首先在训练数据集上, 根据属性特征,为每一种类别找到一个合理的描述或模型,即分类规那么; 然后根据规那么对新数据进行分类.17 .什么是决策树?如何用决策箱进行分类?决策树是用样本的属性作为结点,用属性的取值作为分支的树结构. 它是利用信息论原理对大样本的属性进行分析和归纳而产生的。决策树 的根结点是所有样本中信息量最大的属性.树的中间结点是以该结点为根的子树所包含的样本子集中信息量量大的属性.决策树的叶结点是样本的类别值.决策轲用于对新样本的分类,即通过决策树对新样本属性值的测试, 从树的根结点开始,按照样本属性的取值,逐渐沿着决策树向下,直到树 的叶结点,该叶结点表示的类别就是新样本的类别.决策树方法是数据挖 掘中非常有效的分类方法.18 .简述ID3算法的基本思想及其主算法的基本步骤。首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止.最后得到一棵决策树,可以用它来对新的样例进行分类. 主算法包括如下几步:从训练集中随机选择一个既含正例又含反例的子集(称为窗口);用“建树算法”对当前窗口形成一棵决策树; 对训练集(窗口除外)中例子用所得决策树进行类别判定,找出错判的例子I假设存在错判的例子,把它们插入窗口,重复步骤,否那么结束.19 .简述ID3算法的基本思想及其建树算法的基本步骤.首先找出最有判别力的因素,然后把数据分成多个子集,每个子集又 选择最有判别力的因素进一步划分,一直进行到所有子集仅包含同一类型的数据为止©最后得到一棵决策树,可以用它来对新的样例进行分类.建树算法的具体步骤如下:对当前例子集合,计算各特征的互信息:选择互信息最大的特征Au把在,如处取值相同的例子归于同一子集,取几个值就得几个子集;对既含正例又含反例的子集,递归调用建树算法;假设子集仅含正例或反例,对应分枝标上P或N,返回调用处.20 .设某事务项集构成如下表,填空完成其中支持度和置信度的计算.事务ID项集L2T1A, DA, BT2D,EA,CT3A, C.EA,DT4A, B, D, EKDT5A, B, CC,DT6A, B, DD,ET7A, C, D T8C, D.ET9B, C,D支持度规那么置信度33.3A-B50333JA6044.4AD66.733.3BD75333C-D60333DE43 .从信息处理角度看,神经元具有哪些基本特征?写出描述神经元状态的M-P方程并说明其含义。基本特征:多输入、单输出:突触兼有兴奋和抑制两种性能;可 时间加权和空间加权;可产生脉冲;脉冲可进行传递; 非线性,有脚值.M-P方程:S, = /(E%S用),1%是神经元之间的连接强度,4是阑值,人均是阶梯函数.21 .遗传算法与传统寻优算法相比有什么特点?遗传算法为群体搜索,有利于寻找到全局最优解: 遗传算法采用高效有方向的随机搜索,搜索效率高;遗传算法处理的对象是个体而不是参变量,具有广泛的应用领域;遗传算法使用适应值信息评估个体,不需要导数或其他辅助信息,运算速度快,适应性好;遗传算法具有隐含并行性,具有更高的运行效率.写出非对称二元变量相异度计算公式(即jacsrd系数),并计算下表中各对能间的相异度.工程 test- test- test- test- test- test-对象123456OBJ1YNPNNN1BOBJ2YNPNPNOBJ3NYNYNN .简述K-平均算法的输入、输出及聚类过程(流程).输入,簇的数目k和包含n个对象的数据集.输出,k个簇,使平方误差准那么最小.步骤:任意选择k个对象作为初始的簇中心;计算其它对象与这k个中心的距离,然后把每个对象归入离它“最 近”的簇;计算各簇中对象的平均值,然后重新选择熊中心(离平均值“最近” 的对象值);重复第2第3步直到俄中心不再变化为止。22 .倚述K-中心点算法的输入、输出及聚类过程(流程).输入,结果簇的数目k,包含n个对象的数据集输出:k个簇,使得所有对盆与其最近中心点的相异度总和最小.随机选择k个对象作为初始中心点;计算其它对象与这k个中心的距离,然后把每个对象归入离它“量 近”的簇: 随机地选择一个非中心点对象Orandom,并计算用Orandom代 替Oj的总代价S;如果S<0.那么用Onrndom代替Oj,形成新的k个中心点集合; 重品迭代第3、4步,直到中心点不变为止.23 .何谓文本挖掘?它与信息检索有什么关系(异同)。文本挖掘是从大量文本数据中提取以前未知的、有用的、可理解的、 可操作的知识的过程。它与信息检索之间有以下几方面的区别:方法论不同:信息检索是目标驱动的,用户需要明确提出查询要求I而文本挖掘结果独立于用户的信息需求,是用户无法预知的.着眼点不同:信息检索着重于文档中字、词和链接;而文本挖掘 在于理解文本的内容和结构.目的不同:信息检索的目的在于帮助用户发现资源,即从大量的文本中找到满足其查询请求的文本子集:而文本挖掘是为了揭示文本中除含的知识.评价方法不同:信息检索用查准率和查全率来评价其性能,而文本挖掘采用收益、置信度、简洁性等来衡量所发现知识的有效性、 可用性和可理解性.使用场合不同:文本挖掘是比信息检索更高层次的技术,可用于信息检索技术不能解决的许多场合。一方面,这两种技术各有所 长,有各自适用的场合;另一方面,可以利用文本挖掘的研究成 果来提高信息检索的精度和效率,改善检索结果的组织,使信息 检索系统开展到一个新的水平.单项选择题1.某超市研究传售纪录数据后发现,买啤酒的人很大概率也会购买尿布,这种属于数据挖掘的哪类问题? (A)A.关联规那么发现B.聚类C.分类D.自然语言处理.将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务?(C)A.频繁模式挖掘B.分类和预测 C数据覆处理 D.数据流挖掘3 .当不知道数据所带标签时,可以使用哪种技术促使带同类标签的数据与带其他标签的数据相别离? (B)A.分类 B.聚类 C.关联分析D.隐马尔可夫链.使用交互式的和可视化的技术,对数据进行探索属于数据挖掘的哪一类任 务?(A)A.探索性数据分析B.建模描述C.预测建模D.寻找模式和规那么.下面哪种不属于数据预处理的方法?(D)A变量代换B离散化C聚集D估计遗漏值11 .假设12个销售价格记录组已经排序如下:5, 10,11, 13, 15, 35, 50, 55, 72, 92,204, 215使用如下每种方法将它们划分成四个箱.等频(等深)划分时,15在第几个箱子内? (B)A第一个A第一个B第二个 C第三个 D第四个12 .上题中,等宽划分时(宽度为50), 15又在哪个箱子里?(A)A第一个A第一个B第二个 C第三个 D第四个16 .只有非零值才重要的二元属性被称作:(C)A计数属性B离散属性C非对称的二元属性D对称属性(D)17 .以下哪种方法不属于特征选择的标准方法:A嵌入B过滤 C包装 D抽样.下面不属于创立新属性的相关方法的是,(B)A特征提取 B特征修改C