数据仓库模型与建立过程幻灯片.ppt
《数据仓库模型与建立过程幻灯片.ppt》由会员分享,可在线阅读,更多相关《数据仓库模型与建立过程幻灯片.ppt(132页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、数据仓库模型与建立过程第1页,共132页,编辑于2022年,星期六对比内容数据库系统设计数据仓库系统设计面向的处理类型面向应用面向分析应用需求比较明确不太明确系统设计的目标事务处理的并发性、安全性、高效性保证数据的四个特征和全局一致性数据来源业务操作员的输入业务系统系统设计的方法需求驱动数据驱动1数据仓库和数据库设计的区别数据仓库和数据库设计的区别1.1第2页,共132页,编辑于2022年,星期六1面向的处理类型面向的处理类型1.2数据库系统设计数据库系统设计面向应用来进行设计,根据具体的操作事件和操作面向应用来进行设计,根据具体的操作事件和操作对象(实体)来进行设计;对象(实体)来进行设计;
2、目的是建立一个操作型的数据环境。目的是建立一个操作型的数据环境。数据仓库设计数据仓库设计面向分析的;面向分析的;从最基本的主题开始,不断完善已有主题,发展新主从最基本的主题开始,不断完善已有主题,发展新主题;题;最终建立起一个面向主题的分析型数据环境。最终建立起一个面向主题的分析型数据环境。第3页,共132页,编辑于2022年,星期六1应用需求应用需求1.3数据库系统设计数据库系统设计面向明确的应用需求面向明确的应用需求设计人员能够清晰地了解应用的需求和数据流程设计人员能够清晰地了解应用的需求和数据流程数据仓库设计数据仓库设计很难获得对用户需求的确切了解很难获得对用户需求的确切了解应用人员往往
3、是企业的中高层人员应用人员往往是企业的中高层人员他们自己一开始不知道想看什么,需要人引导他们自己一开始不知道想看什么,需要人引导后期又想什么东西都看,需要给他解释后期又想什么东西都看,需要给他解释第4页,共132页,编辑于2022年,星期六1系统设计的目标系统设计的目标1.4数据库系统设计数据库系统设计为了进行为了进行OLAP处理处理通常是对一个或者一组记录的查询和修改通常是对一个或者一组记录的查询和修改主要为企业的特定应用服务的主要为企业的特定应用服务的事务处理响应时间、数据的安全性和完整性是系统的目标事务处理响应时间、数据的安全性和完整性是系统的目标数据仓库设计数据仓库设计为了分析决策为了
4、分析决策主要目标是保证数据的四个特征(面向主题、集成的、稳定的、时主要目标是保证数据的四个特征(面向主题、集成的、稳定的、时变的),建立起一个全局一致的数据环境,作为企业决策支持的基变的),建立起一个全局一致的数据环境,作为企业决策支持的基础础第5页,共132页,编辑于2022年,星期六1数据来源数据来源1.5数据库系统设计数据库系统设计数据来源主要是业务操作员的输入数据来源主要是业务操作员的输入描述如何通过操作员输入获取数据描述如何通过操作员输入获取数据描述如何将获取的数据按照描述如何将获取的数据按照OLAP的需求合理存放的需求合理存放如何使得如何使得OLTP的性能更加优化的性能更加优化如何
5、保证事务处理的安全性如何保证事务处理的安全性数据仓库设计数据仓库设计数据来源于业务系统数据来源于业务系统主要解决如何从业务系统中得到完整一致的数据主要解决如何从业务系统中得到完整一致的数据如何对数据进行转换、清洗、综合如何对数据进行转换、清洗、综合如何有效提高数据分析的效率与准确性如何有效提高数据分析的效率与准确性第6页,共132页,编辑于2022年,星期六1两者系统设计方法的不同两者系统设计方法的不同1.6 数据库系统设计数据库系统设计“需求驱动需求驱动”,先收集需求、分析需求,再进行设计和开发;,先收集需求、分析需求,再进行设计和开发;系统的需求在收集和分析需求阶段之后就定下来了,一旦进入
6、构建数据库阶段,系系统的需求在收集和分析需求阶段之后就定下来了,一旦进入构建数据库阶段,系统的需求就基本不变了。统的需求就基本不变了。所以系统设计一般采用系统生命周期法所以系统设计一般采用系统生命周期法(Systems Development Life Cycle,SDLC)。数据仓库设计数据仓库设计“数据驱动数据驱动”,从业务系统已经存在的数据出发,获取之后对数据进行集成并,从业务系统已经存在的数据出发,获取之后对数据进行集成并检查数据的准确性检查数据的准确性按照分析领域对数据及数据之间的联系重新考察,组织数据仓库中的主题。按照分析领域对数据及数据之间的联系重新考察,组织数据仓库中的主题。“
7、数据驱动数据驱动”的系统设计方法的优点是可以通过了解原有数据库系统中的数据的系统设计方法的优点是可以通过了解原有数据库系统中的数据和需要建设的数据仓库中主题的数据的共同性,最大限度地利用现有系统,减和需要建设的数据仓库中主题的数据的共同性,最大限度地利用现有系统,减少系统建设的工作量。少系统建设的工作量。对这种需求不确定的开发过程,设计方法有很大的不同,采用与对这种需求不确定的开发过程,设计方法有很大的不同,采用与SDLC相反的相反的CLDS法。法。第7页,共132页,编辑于2022年,星期六收集应用需求分析应用需求构建数据库应用编程系统测试系统实施DB应用A应用B应用C数据仓库建模数据获取与
8、集成构建数据仓库DSS应用编程系统测试理解需求DWDBDB外部数据数据仓库设计方法概述数据仓库设计方法概述1两者系统设计方法的不同两者系统设计方法的不同1.6 SDLC方法方法CLDS方法方法第8页,共132页,编辑于2022年,星期六2流行的的三级模型流行的的三级模型2.1 概念模型(设计定义和主要工作)概念模型(设计定义和主要工作)从客观世界到主观认识的映射从客观世界到主观认识的映射首先将现实世界抽象为概念模型,然后再用适合计算机世首先将现实世界抽象为概念模型,然后再用适合计算机世界的模型和语言来描述界的模型和语言来描述逻辑模型(设计定义和主要工作)逻辑模型(设计定义和主要工作)数据仓库一
9、般是建立在关系数据库基础上,所以采用的逻数据仓库一般是建立在关系数据库基础上,所以采用的逻辑模型是关系模型辑模型是关系模型主题还有主题之间的关系都用关系来表示主题还有主题之间的关系都用关系来表示逻辑模型描述了数据仓库的主题的逻辑实现,每个主题对应逻辑模型描述了数据仓库的主题的逻辑实现,每个主题对应关系表的关系模式的定义关系表的关系模式的定义物理模型(设计定义和主要工作)物理模型(设计定义和主要工作)逻辑模型在数据仓库中的实现,如数据存储结构、数据逻辑模型在数据仓库中的实现,如数据存储结构、数据的索引策略、数据的存储策略以及存储分配优化等的索引策略、数据的存储策略以及存储分配优化等第9页,共13
10、2页,编辑于2022年,星期六2InmonInmon提出的三级模型提出的三级模型2.2 高级模型高级模型即概念模型,用即概念模型,用E-R图表示图表示首先将现实世界抽象为概念模型,然后再用适合计算机世界的模型首先将现实世界抽象为概念模型,然后再用适合计算机世界的模型和语言来描述和语言来描述中级模型中级模型数据项(数据项(Data item set,DIS)模型)模型E-R图的细分图的细分每个主题都与一个每个主题都与一个DIS对应对应DIS中的数据份为中的数据份为4个组别:基本数据组、二级数据组、连接个组别:基本数据组、二级数据组、连接数据组和类型数据组数据组和类型数据组低级模型低级模型物理数据
11、模型物理数据模型第10页,共132页,编辑于2022年,星期六2InmonInmon提出的三级模型提出的三级模型2.2 客户客户ID姓名姓名性别性别身份证号码身份证号码住址住址文化程度文化程度电话电话Email商品商品ID交易交易ID商品金额商品金额购买时间购买时间交易交易ID商品金额商品金额购买时间购买时间交易交易ID商品金额商品金额购买时间购买时间连接数据组连接数据组基本数据组基本数据组类型数据组类型数据组二级数据组二级数据组电器电器服装服装图书图书第11页,共132页,编辑于2022年,星期六3概念模型的定义和主要工作概念模型的定义和主要工作3.1 概念模型概念模型是数据仓库的数据模型的
12、第一层或最高层。是数据仓库的数据模型的第一层或最高层。由于大多数业务数据是多维的,但传统的数据模型表示三维以上的数据有由于大多数业务数据是多维的,但传统的数据模型表示三维以上的数据有一定困难。一定困难。数据仓库中可以采用数据仓库中可以采用信息包图信息包图来表示概念模型来表示概念模型信息包图信息包图允许用户设计多维信息包并与开发者和其他用户建立联系。允许用户设计多维信息包并与开发者和其他用户建立联系。这种模型集中在用户对信息包的需要,信息包提供了分析人员思维模式这种模型集中在用户对信息包的需要,信息包提供了分析人员思维模式的可视化表示。的可视化表示。工作工作确定系统边界:决策类型、需要的信息、原
13、始信息确定系统边界:决策类型、需要的信息、原始信息确定主题域及其内容:主题域的公共键码、主题域之间的联系、属确定主题域及其内容:主题域的公共键码、主题域之间的联系、属性组性组确定维度:如时间维、销售位置维、产品维、组别维等确定维度:如时间维、销售位置维、产品维、组别维等确定级别:相应维的详细层次确定级别:相应维的详细层次确定度量:也称指标和事实,用于进行分析的数值化信息确定度量:也称指标和事实,用于进行分析的数值化信息第12页,共132页,编辑于2022年,星期六维度维度级别级别 度量3信息包图信息包图3.2 数据仓库的概念模型数据仓库的概念模型信息包:信息包:第13页,共132页,编辑于20
14、22年,星期六例画出销售分析的信息包图例画出销售分析的信息包图 概念概念首先根据销售分析的实际需求,确定信息包的维度、首先根据销售分析的实际需求,确定信息包的维度、类别和指标与事实:类别和指标与事实:维度维度:包括日期维、销售地点维、销售产品维、年龄:包括日期维、销售地点维、销售产品维、年龄组别维、性别维等。组别维、性别维等。(维度)级别(维度)级别:确定各维的详细类别:确定各维的详细类别如:日期维包括年(如:日期维包括年(1010)、季度()、季度(4040)、月()、月(120120)等类别,)等类别,括号中的数字分别指出各类别的数量;括号中的数字分别指出各类别的数量;销售地点维包括国家(
15、销售地点维包括国家(1515)、区域()、区域(4545)、城市()、城市(280280)、区)、区(880880)、商店()、商店(20002000)等类别,括号中的数字同样分别指出)等类别,括号中的数字同样分别指出各类别的数量;各类别的数量;类似地,可以确定销售产品、年龄组别维、性别维等的详细类似地,可以确定销售产品、年龄组别维、性别维等的详细类别。类别。度量度量:确定用于进行分析的数值化信息,包括预测销:确定用于进行分析的数值化信息,包括预测销售量、实际销售量和预测偏差等。售量、实际销售量和预测偏差等。3信息包图信息包图3.2 数据仓库的概念模型数据仓库的概念模型第14页,共132页,编
16、辑于2022年,星期六度量度量:预测销售量、实际销售量、预测偏差预测销售量、实际销售量、预测偏差商店(2000)区(880)产品(240)城市(280)月(120)产品组(48)区域(45)季度(40)性别组(2)年龄组(8)产品类(6)国家(15)年(10)性别年龄组别销售产品销售地点日期信息包:销售分析维度级别3信息包图信息包图3.2 数据仓库的概念模型数据仓库的概念模型第15页,共132页,编辑于2022年,星期六维度维度是一个物理特性(如时间、地点、产品等),它是表达数据仓库是一个物理特性(如时间、地点、产品等),它是表达数据仓库中信息的一个基本途径,可作为标识数据的索引。通常的报表只
17、包含中信息的一个基本途径,可作为标识数据的索引。通常的报表只包含有行和列两维,但在数据仓库中所存储的数据大多是用多维(三维或有行和列两维,但在数据仓库中所存储的数据大多是用多维(三维或三维以上)视图表示的。三维以上)视图表示的。维度是多维数据集的结构性特性。它们是事实数据表中用来描述数据的维度是多维数据集的结构性特性。它们是事实数据表中用来描述数据的分类的有组织的层次结构(级别)。这些分类和级别描述了一些相似的成分类的有组织的层次结构(级别)。这些分类和级别描述了一些相似的成员集合。员集合。所有维度均直接或间接地基于表,定义此维度的列,选择列的顺序至所有维度均直接或间接地基于表,定义此维度的列
18、,选择列的顺序至关重要。关重要。数据仓库概念模型数据仓库概念模型3维度的定义维度的定义3.3 第16页,共132页,编辑于2022年,星期六选择下表中的“区域”列,再选择“州”列,即可定义维度。State_id区域州1东部缅因2东部俄亥俄3西部爱达荷4西部德克萨斯第17页,共132页,编辑于2022年,星期六3维度定义维度定义3.3 数据仓库概念模型数据仓库概念模型4 4月份我在北京卖掉了价值十万美元的可乐例子例子1第18页,共132页,编辑于2022年,星期六关系数据库的记录视图:关系数据库的记录视图:产品产品 时间时间 地区地区 销量销量VCD机机 2002.3.10 北京北京 5728传
19、真机传真机 2002.3.10 北京北京 6739 刻录机刻录机 2002.3.10 北京北京 3976复印机复印机 2002.3.10 北京北京 6395 打印机打印机 2002.3.10 上海上海 6365传真机传真机 2002.3.10 上海上海 67443维度定义维度定义3.3 数据仓库概念模型数据仓库概念模型例子例子2第19页,共132页,编辑于2022年,星期六多维数据库视图:多维数据库视图:时间02.3.1002.3.11上海北京VCD地区产品57826365传统型:二维(关系型)记录、字段数据仓库:多维(立方体)维、单一事实第20页,共132页,编辑于2022年,星期六传统型的
20、一个二维表,在数据仓库中可能需要多个立方体来表示;数据仓库的一个立方体可能由多个传统型的表组成;产品产品 时间时间 地区地区 数量数量 金额金额VCD机机 2002.3.10 北京北京 5728 2345556销售数量数量立方体销售金额金额立方体一个二维表的数据可装载到两个立方体第21页,共132页,编辑于2022年,星期六维的层次:关系数据库在字段上做文章,关系数据库在字段上做文章,数据仓库在在维上做文章;上做文章;维不仅是查询数据的一个角度,而且提供查询的深度;年所有产品全国季产品大类地区月产品小类城市日产品超市同一属性数据可有多种归类层次:顾客-性别-所有顾客、顾客-文化程度-所有顾客第
21、22页,共132页,编辑于2022年,星期六2.时间维时间维 每个数据仓库都用到每个数据仓库都用到 无限的;粒度要求高时,细分数据剧增。无限的;粒度要求高时,细分数据剧增。第23页,共132页,编辑于2022年,星期六维度的分解与合成维度的分解与合成是在一个维度内进一步细分数据或将数据按照另一标准组合是在一个维度内进一步细分数据或将数据按照另一标准组合的过程。的过程。例如,当以地理位置维观察数据时,用户可以首先以国家例如,当以地理位置维观察数据时,用户可以首先以国家(如中国)为单位观察数据,然后可以选择观察某一个地(如中国)为单位观察数据,然后可以选择观察某一个地区(如华东地区)的数据,接下来
22、可以选择观察某一个省区(如华东地区)的数据,接下来可以选择观察某一个省或城市(如上海)的数据,这就是数据分解的过程。或城市(如上海)的数据,这就是数据分解的过程。而合成则是分解的逆过程,例如用户开始以省市为观察对象,而合成则是分解的逆过程,例如用户开始以省市为观察对象,接着再以地区、国家等为观察对象,就是一个数据合成的过程。接着再以地区、国家等为观察对象,就是一个数据合成的过程。数据仓库概念模型数据仓库概念模型3维度的定义维度的定义3.3 第24页,共132页,编辑于2022年,星期六我们有大量的会员我们有大量的会员年龄在年龄在20 60 岁岁月薪在月薪在0 8000 元元55%的会员被我们认
23、可为忠实会员(好会员)的会员被我们认可为忠实会员(好会员)55%55%会员都是些什么会员?会员都是些什么会员?数据仓库概念模型数据仓库概念模型3维度的定义维度的定义3.3 维度分解的例子维度分解的例子第25页,共132页,编辑于2022年,星期六维度分解的例子维度分解的例子第26页,共132页,编辑于2022年,星期六维度分解的例子维度分解的例子第27页,共132页,编辑于2022年,星期六维度分解的例子维度分解的例子第28页,共132页,编辑于2022年,星期六NameStatusMajorBirthPlaceGPAAndersonM.A.historyVancouver3.5BachJun
24、iormathCalgary3.7CarltonJuniorliberalartEdmonton2.6FraserM.S.physicsOttawa3.9GuptaPh.D.mathBombay3.3HartSophomorechemistryRichmond2.7JacksonSeniorcomputingVictoria3.5LiuPh.D.biologyShanghai3.4MeyerSophomoremusicBurnaby3.0MonkPh.D.computingVictoria3.8WangM.S.statisticsNanjing3.2WiseFreshmanliterature
25、Toronto3.9加拿大加拿大某大学某大学数据库数据库第29页,共132页,编辑于2022年,星期六ANYCanadaforeignB.COntarioChinaIndiaVancouverVictoriaBeijing.Bombay“出生地”维度之级别第30页,共132页,编辑于2022年,星期六Bumaby,.,Vancouver,VictoriaBritishColumbiaCalgary,.Edmonton,LethbridgeAlbertaHamilton,Toronto,WaterlooOntarioBombay,.,NewDelhiIndiaBeijing,Nanjing,.,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数据仓库 模型 建立 过程 幻灯片
限制150内