大数据分析平台.pdf

《大数据分析平台.pdf》由会员分享，可在线阅读，更多相关《大数据分析平台.pdf（3页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、一、数据分析平台层次解析一、数据分析平台层次解析大数据分析处理架构图数据源：数据源：除该种方法之外，还可以分为离线数据、近似实时数据和实时数据.按照图中的分类其实就是说明了数据存储的结构，而特别要说的是流数据，它的核心就是数据的连续性和快速分析性;计算层计算层:内存计算中的 Spark 是 UC Berkeley 的最新作品，思路是利用集群中的所有内存将要处理的数据加载其中，省掉很多 I/O 开销和硬盘拖累，从而加快计算.而 Impala 思想来源于 Google Dremel,充分利用分布式的集群和高效存储方式来加快大数据集上的查询速度,这也就是我上面说到的近似实时查询；底层的文件系统当然是

2、 HDFS 独大,也就是 Hadoop 的底层存储,现在大数据的技术除了微软系的意外，基本都是 HDFS 作为底层的存储技术。上层的 YARN 就是MapReduce 的第二版,和在一起就是 Hadoop 最新版本。基于之上的应用有Hive，Pig Latin,这两个是利用了 SQL 的思想来查询 Hadoop 上的数据。关键：关键：利用大数据做决策支持.R 可以帮你在大数据上做统计分析，利用 R 语言和框架可以实现很专业的统计分析功能，并且能利用图形的方式展现;而Mahout 就是一个集数据挖掘、决策支持等算法于一身的工具,其中包含的都是基于 Hadoop 来实现的经典算法，拿这个作为数据分

3、析的核心算法集来参考还是很好的。如此一个决策支持系统要怎么展现呢？其实这个和数据挖掘过程中的展现一样，无非就是通过表格和图标图形来进行展示，其实一份分类详细、颜色艳丽、数据权威的数据图标报告就是呈现给客户的最好方式！至于用什么工具来实现,有两个是最好的数据展现工具，Tableau 和 Pentaho,利用他们最为数据展现层绝对是最好的选择.二、规划的数据平台产品二、规划的数据平台产品 AEAE（Accelerate EngineAccelerate Engine）支持下一代企业计算关键技术的大数据处理平台：包括计算引擎、开发工具、管理工具及数据服务.计算引擎是 AE 的核心部分，提供支持从多数

4、据源的异构数据进行实时数据集成、提供分布式环境下的消息总线、通过 ServiceGateway 能够与第三方系统进行服务整合访问;设计了一个分布式计算框架，可以处理结构化和非结构化数据,并提供内存计算、规划计算、数据挖掘、流计算等各种企业计算服务。Data Studio 包括了数据建模、开发、测试等集成开发环境.管理工具包括了实施、客户化及系统管理类工具。AE 平台还可以通过 UAP开发者社区提供丰富的数据服务。AE 架构图新规划将 BAP 平台拆分为两部分,底层技术平台发展内存计算和数据处理，上层BI 展现端重点发展仪表盘、web 和移动设备展现.两大产品通过数据处理接口和嵌入式应用服务于业

5、务系统。生态系统图大数据处理平台担负着为 BI 系统提供语义层/OLAP 引擎等底层技术支撑、BI 及ERP 系统的性能提升、以及数据挖掘、非结构化数据处理等系列数据整合与处理的解决方案。具体模块包括：具体模块包括：语义层：语义层：为统一的查询建模平台和数据访问接口.除提供标准的查询建模能力外，还有语义驱动、语义规则、语义函数、描述器等等扩展方式，满足不同层面的扩展要求.OLAPOLAP 引擎：引擎：OLAP 引擎提供全面的多维建模与分析能力。多维模型包括维度、层次、级别、属性、指标、计算成员等;同时预置系列分析函数，包括同比/环比/期比/基比等时间序列分析、占比/排名/方差等统计分析、指数回

6、归和线性回归分析等；提供标准的 MDX 解析与执行,与数据仓库等模块结合，提供针对海量数据的实时分析和处理能力。数据集成数据集成:能够胜任在大数据量、高并发、多维分析等环境背景下的实时分析。通过实时数据集成(RDI）提供的数据实时复制与 DW 的列式存储引擎,解决了以往在传统架构模式下，普通行式存储引擎无法实现的业务场景。数据挖掘：数据挖掘：支持运行于分布式文件系统和分布式计算平台之上的分布式数据挖掘算法，具体包括：逻辑斯特回归、朴素贝叶斯分类算法及其分布式实现；K均值、谱聚类算法及其分布式实现；潜在狄利克雷分配语义挖掘算法及其分布式实现;频繁模式挖掘分析算法及其分布式实现；协同过滤、概率矩阵

7、分解推荐算法及其分布式实现；提供分布式挖掘算法的统一操作原语和执行引擎。数据仓库数据仓库：数据仓库提供针对海量数据进行高效的查询和分析。包括同时支持关系数据库、NoSQL 数据库、以及分布式文件系统进行数据存储和加载的多存储引擎，基于 MapReduce 框架针对海量数据的高性能查询和分析，以及MapReduce 框架本身具有的高扩展性和容错性.非结构化数据管理非结构化数据管理:非结构化数据不包含内嵌的语义结构描述信息,而信息系统需要结合其“内容”而不仅仅是数据本身进行查询、检索、分析与挖掘，因此非结构化数据管理系统需要实现非结构化数据的数据提取，提取的非结构化数据是进行后续处理的基础,具体包

8、括结构化信息和底层/高层特征的提取两个。非结构化数据提取组件依赖于分布式文件系统和非结构化数据存储提供的原始数据作为数据源数据，依赖于非结构化数据存储来存储提取的元数据或者特征数据，依赖于并行计算框架来分布化执行过程，加快执行速度。消息总线：消息总线：包括主数据管理、集中身份管理、应用集成开发环境、集成监控管理等。满足集成平台的应用需求，支持界面集成、信息集成、服务集成、流程集成等集成方式。分布式计算系统分布式计算系统：包括分布式文件系统和分布式计算框架。分布式文件系统以高可靠的容错机制为核心，系统架构包括多元数据服务器、多数据存储服务器、多监管者、多客户端，支持大文件和大数据块的分布式存储与管理；分布式计算框架基于 MapReduce 与 MPI 计算模型，提供了一套并行计算框架；并利用物理机以及虚拟机的监控信息，实现对计算资源的合理分配，支持对大量工作任务的灵活切分和分布式调度。流计算引擎流计算引擎:流计算引擎是为解决系统的实时性和一致性的高要求的实时数据处理框架，具备高可拓展性，能处理高频数据和大规模数据,实时流计算解决方案被应用于实时搜索、高频交易的大数据系统上。