数据仓库基础.pptx

《数据仓库基础.pptx》由会员分享，可在线阅读，更多相关《数据仓库基础.pptx（40页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、主题商业智能技术数据仓库与多维模型设计数据仓库设计多维模型第1页/共40页商业智能的体系商业智能技术体系（BIBusiness Intelligence）在线分析处理技术（OLAP：Online Online Analytical Analytical ProcessingProcessing）数据挖掘技术（Data Mining）数据仓库技术（Data Warehousing）数据整合集成各系统的历史数据，建立面向主题的企业数据中心数据分析灵活、动态、快速的多维分析、随机查询、即席报表知识发现通过数学模型发现隐藏的、潜在的规律，以辅助决策更加全面、深入的分析形成知识库指导决策、再分析第2页/

2、共40页数据仓库定义数据仓库的概念数据仓库就是面向主题的、集成的、不同时间的、稳定的数据集合，用以支持经营管理中的决策制定过程。什么是数据仓库？第3页/共40页数据仓库的特点面向主题集成性企业数据框架历史性、稳定性第4页/共40页数据仓库与业务数据库的比较第5页/共40页什么是联机分析处理（OLAP）？OLAP的定义OLAP是使分析人员、管理人员能够从多种角度对从原始数据中转化出来的、能够真正为用户所理解的、并真实反映数据维特性的信息，进行快速、一致、交互地访问，从而获得对数据的更深入了解的一类软件技术。第6页/共40页OLAP的特征OLAP的核心指标、维OLAP的目标多维分析OLAP的特点灵

3、活、动态多角度、多层次的视角快速第7页/共40页OLAP的基本功能商业语义层的定义上钻和下钻（Roll up or Drill down）切片和切块（Slice and Dice）旋转（Pivoting）强大的复杂计算能力时间智能丰富的数据展现方式第8页/共40页OLAP功能示意按机构钻按机构钻取取济济南南地地区区维维时时间间维维行业维行业维青青岛岛第9页/共40页数据挖掘技术(Data Mining)DM的定义数据挖掘(Data Mining)是从数据集中识别出有效的、新颖的、潜在有用的以及最终可理解模式的高级处理过程。也就是说，从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在

4、其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。DM的特点涉及数据库、统计分析、人工智能多种技术预测和验证功能 特征和规律描述第10页/共40页主题商业智能技术数据仓库与多维模型数据仓库设计多维模型设计第11页/共40页数据仓库与多维模型概述多维模型与数据仓库多维模型通过组织和汇总数据仓库中的数据而为分析查询提供一种多维的表现方式。数据仓库是多维数据集的数据基础，其结构的设计会影响多维数模型的设计和建立的难易程度。第12页/共40页主题商业智能技术数据仓库与多维模型数据仓库设计多维模型设计第13页/共40页数据仓库设计原则（一）模型构架尽量使用星型架构，使用雪花架构的目的是使事实表

5、第一级的维表数量达到最小。设计方法将常识规范化方法应用于维度表设计。例如，不相关的数据不应组合到单一维度表中，而且在多个维度表中数据不应重复。维表设计设计维表应包含需要分析的有关事实的有意义信息，例如产品的颜色和大小。事实表设计不要在事实数据表中进行过度的汇总，以保证在必要时可以进行所需粒度的数据访问。第14页/共40页数据仓库设计原则（二）数据存储方式在必要时可以把要在同一个多维数据集中使用的数据存储在多个事实数据表中，条件是这些事实数据表必须具有相同的结构。索引在关键字段上创建索引，以提高处理多维数据集的性能。特殊要求根据所选的OLAP引擎特殊需要，确保数据诸如完整性等的特殊要求。增量更新

6、必须考虑数据增量和更新的策略，以保证多维数据集中有所需的数据。第15页/共40页数据仓库基本元素（一）关系型数据库关系数据库是建立数据仓库的基础引擎平台，它为数据仓库提供临时存储、清理和转换传入的数据，容纳和管理数据仓库中的大量数据，并支持数据仓库的功能。数据源数据源是数据仓库用于分析的数据来源，是建立数据仓库时必须聚集和合并的不同来源的数据。第16页/共40页数据仓库基本元素（二）事实表事实表是用于存放经过汇总的历史信息，也就是事实数据的表，是星型架构或雪花型架构的中心。每个数据仓库或数据集市都包括一个或多个事实表。事实表一般不包含描述性信息，具有可以聚合的特点。维表维度表是存储描述事实表中

7、事实数据特性的表，每个维表都是独立于其它维表的，并且包含了事实特性的层次结构信息。索引与在任何关系数据库中一样，索引对提高数据仓库性能和处理多维数据集性能的起着重大作用，是数据仓库中不可或缺的部分。第17页/共40页数据仓库组织形式（一）星型模型星型模型是由单个事实数据表和一些维度表组成的构架模型。在这种模型中每个维度表均联接到事实数据表上。事事实实表表税务税务机关机关维表维表行业行业维表维表经济经济性质性质维表维表时间时间维表维表税种税种维表维表第18页/共40页数据仓库组织形式（二）雪花型模型雪花型架构比星型模型增加了次要维表，有一个或多个维表是联接到其它维表上，而非事实数据表上。事事实实

8、表表机构机构维表维表行业行业维表维表地市地市维表维表时间时间维表维表省份省份维表维表地区维第19页/共40页数据仓库设计（一）事实表事实表设计每个事实数据表都应该由两个部分组成，一个由多个部分组成的索引和一些由这些索引所描述的数据。索引部分索引部分包含着与描述事实数据特征的维表相关联的外键信息。数据部分数据部分是事实表中真正要存放的事实数据。第20页/共40页数据仓库设计（一）事实表事实表示例：前五列为索引部分，后三列是事实数据部分列描述time _id时间维表 Dim_time 的外键swbm _id税务机关维表 Dim_swbm 的外键jjxz _id经济性质维表 Dim_jjxz 的外键

9、szsm _id税种维表 Dim_szsm 的外键hy_id行业维表 Dim_hy 的外键Yzsj包含本月应征税款的列Djs包含抵缴数的列Jms包含免数/退库数的列第21页/共40页数据仓库设计（一）事实表设计事实表应注意的问题事实表中一般不应包含描述性信息，也不应包含除事实表与维表中间对应的关联字段之外的任何数据。事实表中的数据应该是经过适当聚合的数据事实表中数据的粒度应该是一致的事实表的设计应该考虑增量数据更新的需要，例如是否需要增加时间戳字段等。第22页/共40页数据仓库设计（二）维表维表设计维表设计中由于维度类型的不同，其维表结构也会相应有不同特点。维度分类普通维普通维是基于一个维表的

10、维度，由维表中的不同列来表示维度中的不同级别。雪花维雪花维是基于多个维表的维度，各个维表间以外键关联，分别存储同一维度中不同级别的成员列值。父子维父子维是基于两个维表列的维度，由维表中的两列来共同定义各个成员的隶属关系。一列称为成员键列，标识每个成员；另一列称为父键列，标识每个成员的父代。第23页/共40页数据仓库设计（二）维表普通维普通维中的层次是根据维表的列而定义的，所以维表中列的定义会直接影响到维度中层次的定义。设计普通维度的维表必须充分考虑维度的扩展性。示例：例如下图中典型的时间维度如左图所示，则每一个层次在维表中均应有对应的列。第1季度2000年第2季度1月份2月份3月份第3季度4季

11、度月份列值季度列值时间维表年季度月份第24页/共40页数据仓库设计（二）维表雪花维由于雪花维是基于不同维表建立的，所以针对雪花维而设计的维表必然有多个，各维表分别存储维度中不同级别的成员值，维表间以外键关联。示例：例如，典型的地区维中地市维表可以存储全国所有的城市名称和编码，以及所属省份的编码，而在省份维表中则只存储省份名称和编码，两维表以省份编码关联。地市维表City_idProvince_idCity_Name省份维表Province_NameProvince_Id第25页/共40页数据仓库设计（二）维表父子维由于父子维中的层次关系是由维表中的两个列来共同定义的，所以其维度层次结构是由维表

12、中的列值决定的，且维度层次分布是不均衡的。示例：例如，典型的机构维中除了最上层的机构外其它机构都具有其本身机构信息和上级机构信息两项属性。由此，维表中也必须包含此两项信息的设计。机构维表机构编码机构编码机构名称机构名称上级机构编码上级机构编码第26页/共40页数据仓库设计（三）索引索引与在其它关系数据库中一样，索引对数据仓库的性能具有重要作用。每个维度表都必须在主键上建立索引。在其它列（如标识层次结构级别的列）上，索引对某些专用查询的性能也很有用。事实数据表必须在由维度表外键构成的组合主键上建立索引。由于星型架构和雪花型架构很简单，大多数数据仓库应用程序所需的索引主要就是这些。对于特殊查询和创

13、建报表，则可能需要其它索引。第27页/共40页数据仓库设计（四）增量机制增量更新机制在数据仓库设计中还必须注意的一个问题就是数据仓库结构对数据更新（增量）的影响。第28页/共40页主题商业智能技术数据仓库与多维模型数据仓库设计多维模型设计第29页/共40页多维模型设计基本元素维度级别成员度量值（指标）计算值（计算成员）存储方式角色权限和安全机制第30页/共40页维度设计维度维度的设计包括根据分析的需求选择维度的类型、设计维度的层次结构和是否共享等权限考虑。选择维度类型根据维度所描述的事物特征选择适合的维度类型。设计维度层次结构根据分析的实际需要设计维度的分层和级别等结构。维度共享确定该维度是否

14、可以为其它模型所应用，如果是常用维度，则一般设计为共享维度。第31页/共40页维度选型维度选型维度选型必须根据维度所描述的事物特征来进行选择。普通维适用于层次分布均衡，等级关系固定，不易发生变化的维度，例如时间、年龄分布等维度雪花维适用于层次分布均衡，等级关系固定，但成员个数较多，或维度层次由一定扩充性的维度。例如地区维度。父子维适用于层次分布不均衡，有明显隶属关系的分析角度。例如机构等维度。第32页/共40页维度的层次结构设计级别级别是维度层次结构的一个元素。级别描述了数据的层次结构，从数据的最高（汇总程度最大）级别直到最低（最详细）级别。划分维度级别时必须充分考虑此后进行分析的具体要求，级

15、别划分必须清晰，有逻辑上的可汇总性。成员组成维度的所有列值就是维度的成员。设计维度成员时必须考虑分析的充分可扩展性，照顾到分析的每一种可能性，也就是必须保证维度的完整性。第33页/共40页度量值与计算成员度量值度量值是多维数据集中的一组值，是所分析的多维数据集关注的中心。这些值通常为数字，具有可聚合的特性。同时，由于度量值是生成计算成员的基础，所以度量值应该是最基础的数据，具有充分的可扩展考虑。计算成员计算成员是基于度量值而定义的运算表达式，其计算结果一般不进行存储，而是在运行时临时计算的所得。不同的OLAP引擎所能够提供的基本函数和计算方法会有所不同，性能上也会有一定的影响，在设计时应充分考

16、虑OLAP引擎的特性。第34页/共40页多维模型的安全性设计多维模型的安全性根据OLAP引擎的不同，其所能够提供的安全机制也有所不同，除了使用方面的权限（可读、可写等）外，根据多维模型的粒度可将权限划分如下：主题级别的权限粒度最大的安全权限，即对整个多维模型的使用权限。维度级别权限：维度级别的安全权限，可限定用户浏览多维数据集时所能查看的维度成员。单元级别权限：单元级别的安全权限，可以限定多维数据集中特定单元访问。其它级别权限：不同OLAP引擎所提供的特属功能的权限。例如，钻取权限等第35页/共40页存储方式的选择（一）多维存储方式（MOLAP）将聚合和分区源数据的一个复本存储到分析服务器计算

17、机中的多维结构中的存储方式。特点查询性能较好占用的存储空间较大第36页/共40页存储方式的选择（二）关系数据库存储方式（ROLAP）将聚合存储在一个关系型结构中，并把分区的源数据保留在它现有的关系型结构中的存储方式。特点查询性能较不如MOLAP方式占用的存储空间较少第37页/共40页存储方式的选择（三）混合存储方式（HOLAP）将聚合存储到分析服务器计算机上的多维结构中，并将分区的源数据保留在它现有的关系型结构中的存储方式。特点查询性能介于以上两种方式之间占用的存储空间介于以上两种方式之间适用于在对基于大量基本数据的汇总进行查询时需要快速响应的多维数据集第38页/共40页第39页/共40页感谢您的观看！第40页/共40页