华为FusionStorage技术建议书材料模板(分布式存储).doc
《华为FusionStorage技术建议书材料模板(分布式存储).doc》由会员分享,可在线阅读,更多相关《华为FusionStorage技术建议书材料模板(分布式存储).doc(57页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、/. 华为FusionStorage分布式存储技术建议书Huawei Technologies Co., Ltd.华为技术有限公司All rights reserved版权所有 侵权必究/.Revision record 修订记录/在提供给客户前需删除本页“修订记录”。 本文档只是供内部参考使用,禁止将本文档原封不动发给客户或代理商。请结合实际项目需要进行必要增删调整。Date日期Revision Version修订版本Change Description修改描述Author作者2014/9/12V1.0初稿完成卢平 002322532014/11/18V1.1评审修改曾祥勇 00159952
2、秦祖福 00172507卢平 00232253Table of Contents 目 录Revision record 修订记录2Table of Contents 目 录31项目概述51.1项目背景51.2项目需求51.3功能需求62项目技术方案62.1FusionStorage总体架构62.2FusionStorage优点概述92.3FusionStorage应用场景102.3.1FusionStorage与FusionSphere融合场景112.3.2FusionStorage与VMware融合场景122.3.3FusionStorage与OpenStack融合场景133FusionSt
3、orage应用中典型硬件平台153.1FusionStorage在机架式服务器上使用153.2FusionStorage在刀片式服务器上使用194FusionStorage应用中网络设计方案204.1总体组网方案204.2在机架式服务器上使用组网方案224.2.1单柜10GE组网224.2.2单柜IB存储组网234.3在刀片服务器上使用组网方案244.3.1虚拟化10GE 刀片服务器组网244.3.2虚拟化IB+SSD组网255服务器数量规划265.1FusionStorage按容量和性能计算服务器数量266FusionStorage产品特性介绍276.1性能卓越276.2高可靠326.3弹性
4、扩展366.4管理简便386.5兼容性407FusionStorage典型应用案例437.1浙江电信选择FusionStorage建设存储资源池437.2华为公司计算云-单资源池5K VM457.3FusionStorage帮助江苏移动CRM系统建设高性能数据库平台467.4华为携手沃达丰打造分布式数据中心487.5华为FusionStorage助力深圳海关加速大数据分析497.6FusionStorage:汇港资讯高效证券交易数据发布云平台建设517.7华为FusionStorage助力BME高效交付股票交易系统528系统软硬件配置清单及说明538.1软件配置538.2硬件配置539缩略语5
5、51 项目概述1.1 项目背景XXX单位准备采用虚拟化与云计算技术来构建IT系统,提升IT系统的资源利用率,但是传统SAN在企业基础设施池化、云化中面临的主要问题:l 存储资源弹性问题:多业务负载、资源的动态需求变化 l 存储扩展的问题:共享、扩展面临了诸多的瓶颈和问题(机头、前后端网络、CPU/Cache与HDD不同步问题) l 形态和实施的成本、复杂性问题:独立的存储网络,建设成本高、实施复杂(初始实施、扩减容等)l 容错和可靠性问题:大规模集群中容忍的故障域问题(跨机柜、跨机房),硬盘重建时间长问题 针对上述问题,建议使用FusionStorage 分布式存储产品解决上述问题,为满足业务
6、平台日益增长的存储需求,为业务平台提供高安全性、高可靠性、高可用性和开放性的存储服务。FusionStorage分布式存储系统基于分布式处理技术、虚拟化技术和集群技术实现,作为云计算资源池存储资源池的一部分,为计算资源池提供高速、可靠、安全的块存储服务。1.2 项目需求XXX单位,对存储需求如下,需要根据具体的项目进行修改:序号项目需求描述备注1存储容量要求30T 有效存储容量,SAS磁盘请根据实际需求刷新2性能要求TPMC不小于600万,并发用户量为1000请根据实际需求刷新1.3 功能需求XXX单位,对功能需求如下,需要根据具体的项目进行修改:1、无性能下降智能精简配置2、基于快照的高性能
7、链接克隆3、高性能增量快照技术4、高可靠-多重数据安全保障机制5、高性能、低时延-支持全SSD 存储6、高性能、低时延-支持Infiniband网络互联7、FusionStorage - 全分布式平滑扩展2 项目技术方案2.1 FusionStorage总体架构分布式存储FusionStorage是华为公司设计,完全自主产权的分布式存储架构.作为一种存储与计算高度融合的存储软件,通过突破性的架构和设计,达到高性能、高可靠、高性价比。它具有一致的、可预测的性能及可扩展性,具有高弹性和自愈能力,具有计算存储高度融合。FusionStorage采用分布式集群控制技术和分布式Hash数据路由技术,提供
8、分布式存储功能特性。FusionStorage功能架构图如下所示:FusionStorage功能模块:存储接口层:通过SCSI驱动接口向操作系统、数据库提供卷设备。存储服务层:提供各种存储高级特性,如快照、链接克隆、精简配置、分布式cache、容灾备份等。存储引擎层:FusionStorage存储基本功能,包括管理状态控制、分布式数据路由、强一致性复制技术、集群故障自愈与并行数据重建子系统等。存储管理层:实现FusionStorage软件的安装部署、自动化配置、在线升级、告警、监控和日志等OM功能,同时对用户提供Portal界面。FusionStorage系统软件架构:FusionStorag
9、e通过分布式架构把分散的、低速的SATA/SAS机械硬盘组织成一个高效的虚拟化SAN存储池设备,提供比SAN设备更高的IO能力,把性能发挥到极致。FusionStorage分布式存储系统包含三个子系统:无状态机头无状态机头对外提供本地SCSI接口或者ISCSI服务接口,可以部署在存储节点,也可以灵活部署在计算节点。系统启动时,无状态机头会从元数据集群获取最新的数据分布视图。在IO过程中,无状态机头会将数据均衡的分发到各个存储节点。无状态机头提供多种接口支持,其中包括本地SCSI,ISCSI。本地SCSI支持主流的linux操作系统,其他操作系统可以通过ISCSI接口提供块存储服务。存储集群在I
10、O读写过程中,存储集群接收到无状态机头分发的IO请求,会根据副本策略,将IO分发到其他服务器或者机柜上的存储节点;同时存储节点会将每台服务器上的缓存设备划分成读写缓冲区,IO直接写到cache中就向主节点返回。当缓冲区达到一定的水位后,存储节点会自动将缓冲区的数据刷到主存设备(机械硬盘/SSD)上。分布式机头FusionStorage采用无状态的分布式软件机头,机头部署在各个服务器上,无集中式机头的性能瓶颈。单个服务器上软件机头只占用较少的CPU资源,提供比集中式机头更高的IOPS。分布式缓存FusionStorage实现了计算和存储的融合,缓存和带宽都均匀分布到各个服务器节点上。Fusion
11、Storage支持将服务器SSD卡用作读、写缓存,对于数据的写操作,系统数据首先写到SSD的写缓存中,所有副本(三个副本)写缓存成功后,IO立即返回。同时IO也会将数据缓存均匀分布到各个节点上,所有服务器的缓存总容量远大于采用外置独立存储的方案。即使采用大容量低成本的SATA硬盘,FusionStorage仍然可以发挥很高的IO性能,整体性能提升13倍,同时提供更大的有效容量。FusionStorage支持PCIe SSD用作数据缓存,除具备通常的写缓存外,增加热点数据统计和缓存功能,加上其大容量的优势,进一步提升了系统性能。由于分布式缓存带来的性能优势,IO时延,IOPS都能很好的满足数据库
12、的应用,FusionStorage系统可以支持业界主流的数据库,支持OLAP,OLTP等主流业务。集群元数据管理FusionStorage分布式存储软件的元数据服务采用集群管理方式,不会出现单点故障,一个节点或者一块硬盘故障自动从集群内隔离出来,不影响整个系统业务的使用。多数据副本FusionStorage存储系统中没有使用传统的RAID模式来保证数据的可靠性,而是采用了多副本备份机制,即同一份数据可以复制保存多个副本。在数据存储前,对数据进行分片,分片后的数据按照一定的规则保存集群节点上。如下图所示,对于服务器Server1的 磁盘Disk1上的数据块P1,它的数据备份为服务器Server2
13、的磁盘Disk2上P1,P1和P1构成了同一个数据块的两个副本。2.2 FusionStorage优点概述l 高IOPS,低时延:应用大容量Cache技术,提升IOPS;卷被切片分割打散到整个资源池所有硬盘中,条带化宽度增加,单卷可获得的性能大幅提升;访问均衡,无热点,资源池中各节点的利用率相同;无需预先设置固定RAID组,大资源池适应应用负载的动态变化;应用程序通过Cache直达存储,时延更低; l 无级扩容、超大容量:分布式系统,无管理机头瓶颈,容量几乎不受限制;无级扩容:分布式机头(每server服务器相当于一个机头),无性能瓶颈,可无级扩容 非烟囱式扩展:存储与计算同步平滑扩展。即插即
14、用式扩容:扩容后系统自动调整负载平衡,真正实现无级平滑扩容。l 管理简单:结构简单带来管理简单;免于低层配置管理:仅需要做应用层面的管理,免去大量低层配置管理事务。零性能管理的成本:自动负载均衡,无热点,故障自愈,无需进行人工性能优化。l 数据重建快:并行重建速快;数据分布可以跨服务器或跨机柜,不会因某个服务器、机柜故障导致数据不可访问。数据分片在资源池内打散,硬盘故障后,可在全资源池范围内自动并行重建,仅重建实际数据,无需热备盘; 重建1TB数据时间 30分钟。2.3 FusionStorage应用场景适合使用FusionStorage的应用场景:l VDI、OA应用。其典型特点是:容量共享
15、精简分配、性能共享分时复用、计算和存储配比相对均衡、成本性价比要求高。l 虚拟化环境混合应用。其典型特点是:容量共享需求明显、多应用混合负载、线性扩展。l OLAP应用。其典型特点是:大并发吞吐量,计算和存储带宽要求高。l OLTP应用。其典型特点是:IOPS并发度高。FusionStorage应用场景图:2.3.1 FusionStorage与FusionSphere融合场景FusionStorage适合计算和存储融合的系统,传统的虚拟化方式是在相互分离的计算、存储和网络设备上叠加了一层虚拟化软件。这种方式虽然可以提升资源利用率,但是由于系统的复杂性,并不能简化各类基础设施的运维成本。Fus
16、ionStorage把计算服务器的本地硬盘组织成一个类似SAN设备的虚拟存储池,对上层应用提供存储功能。 华为云平台FusionSphere主要有虚拟化基础引擎FusionCompute、云管理FusionManager两大组件组成;FusionStorage与FusionSphere融合使用形成华为FusionCube解决方案应用场景,如下图所示:2.3.2 FusionStorage与VMware融合场景FusionStorage与VMware融合使用系统主要由五部分组成:硬件设备、分布式块存储系统,VMware虚拟化平台,统一的云管理平台,备份服务器。VMware与FusionStora
17、ge配套使用的系统架构:1、系统初始部署时,在每台部署VMware的服务器上部署一个控制虚拟机,该虚拟机上部署FusionStorage的无状态机头,每个无状态机头上会提供ISCSI的服务端。2、在VMware的ISCSI配置信息中,优先配置本地ISCSI接口信息。VMware的ESXi会根据配置的ISCSI接口信息,扫描FusionStorage的存储信息。可以根据扫描出来的LUN组成DataStore。建议每个DataStore对应一个LUN。3、 创建DataStore后,VCenter就可以通过和ESXi的私有协议,创建虚拟机模板和应用虚拟机。FusionStorage与VMware融
18、合使用,在网络部署上需要进行存储节点和计算节点分离部署,不能够融合部署。2.3.3 FusionStorage与OpenStack融合场景FusionSphere Platform在OpenStack的基础上扩展电信运营商和企业建设IT基础设施及业务平台所需要的特性,使用同一套架构同时支撑公有云和私有云的管理,提供了基于OpenStack、ICT统一的开放云平台。FusionSphere Platform保持了OpenStack的开放与兼容性,支持第3方厂商的计算、存储、网络和安全物理硬件,也支持第3方的计算虚拟化、存储虚拟化、网络虚拟化和安全虚拟化产品。在云服务层面,在OpenStack的基
19、础上提供备份、热迁移、亲和性资源调度、电信云定制化扩展、物理资源池等扩展服务;在运维层面,基于OpenStack提供了安装部署、升级/补丁、管理数据备份/恢复、信息收集、健康检查等运维服务。基于OpenStack的FusionSphere解决方案系统架构:组件功能简介OpenStack华为OpenStack是基于开源的OpenStack软件进一步开发的IaaS层软件,提供PaaS层资源和功能,包括虚拟计算服务、对象存储服务、虚拟网络服务、镜像管理、权限管理服务等功能。FusionManager分为本地数据中心管理和多数据中心管理模块,是华为公司提供的面向PaaS层资源管理的软件,主要提供物理资
20、源、虚拟资源管理和服务,并实现软件服务自动部署等上层应用功能。FusionStorageFusionStorage是一种存储与计算高度融合的分布式存储软件,在通用X86服务器上部署该软件后,可以把所有服务器的本地硬盘组织成一个虚拟存储资源池,提供块存储功能。SAN通用SAN设备,向OpenStack提供存储资源。服务器X86服务器,向OpenStack提供物理的计算资源。与FusionStorage软件结合可提供存储资源。3 FusionStorage应用中典型硬件平台FusionStorage在通用x86服务器上部署分布式存储软件,把所有服务器的本地硬盘组织成一个虚拟存储资源池,提供块存储接
21、口 3.1 FusionStorage在机架式服务器上使用FusionStorage+机架式服务器,实际项目中每台服务器的CPU型号、内存数量,硬盘个数可根据项目需求配置。机架式服务器硬件图如下:以华为RH2288为例,硬件外观如下图:硬盘位置示意图FusionStorage+机架式服务器有四种刀片类型,MCNA、LCNA、SCNA、CNA。其中MCNA用于部署管理节点;LCNA、SCNA、CNA用于部署用户虚拟机。几个刀片类型说明如下:1、MCNA:管理节点,必配。至少两台服务器,需要配置2P *6核以上CPU,内存至少64G,默认128G。同时作为FusionStorage存储节点。虚拟机
22、部署VRM(4Core/8G内存/50G存储)、FusionManager(4Core/16G内存/280G存储)、这些管理软件采用虚拟机部署,管理虚拟机需要独占本地的两块硬盘提供存储。部署FusionStorage管理和控制软件,这些软件运行在Domain0,需要1Core CPU,至少25G内存,FusionStorage管理需要独占一块专门的硬盘。另外配置611个硬盘用于FusionStorage业务存储。2、LCNA:计算和存储节点,必配。同时提供计算和FusionStorage存储能力,可部署用户虚拟机。和SCNA的业务功能相同,区别在于LCNA部署了FusionStorage的MD
23、C软件。根据部署的用户虚拟机规格和内存确定CPU型号(默认2P*2640)和内存配置(至少配置64G,默认128G)LCNA节点部署FusionStorage管理和控制软件,这些软件运行在Domain0,需要1Core CPU,至少25G内存。FusionStorage管理需要独占一块专门的硬盘。另外配置611个硬盘用于FusionStorage业务存储。剩余计算资源可用于部署业务虚拟机。3、SCNA:计算和存储节点,必配。同时提供计算和FusionStorage存储能力,可部署用户虚拟机。根据部署的用户虚拟机规格和内存确定CPU型号(默认2P*2640)和内存配置(至少配置64G,默认128
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 华为 fusionstorage 技术 建议书 材料 模板 分布式 存储
限制150内