物联网示范工程建设项目云平台设计实施方案.pdf

《物联网示范工程建设项目云平台设计实施方案.pdf》由会员分享，可在线阅读，更多相关《物联网示范工程建设项目云平台设计实施方案.pdf（50页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、物联网示范工程建设项目云平台设计方案1/50物联网示范工程建设项目云平台方案物联网示范工程建设项目云平台设计方案2/50目目录录目录.21.系统作用与定位.42.系统组成结构.43.系统功能要求.64.系统性能指标.75.数据处理流程.106.系统接口设计.106.1.cStor 云存储系统提供的接口.106.2.cProc 系统提供的接口.106.3.OpenStack 资源虚拟化接口.127.应用支撑系统.157.1.资源虚拟化.157.1.1.OpenStack 云平台服务简介.167.1.2.VMWare.187.2.负载均衡 LVS.197.2.1.可伸缩网络服务的设计与实现.197

2、.2.2.可伸缩 Web 和媒体服务.197.2.3.LVS 负载均衡.207.3.云处理系统 cProc.247.3.1.cProc 框架介绍.247.3.2.cProc 产品介绍.257.4.cStor 云存储系统.277.4.1.cStor 框架介绍.277.4.2.cStor 产品介绍.327.4.3.cStor 系统设计策略.33物联网示范工程建设项目云平台设计方案3/507.4.4.cStor 关键技术.407.5.灾备系统.438.云平台关键技术.438.1.海量数据存储支撑关键技术.438.2.大规模数据并行处理技术.448.3.云资源虚拟化及负载平衡技术.458.4.海量数据

3、挖掘与人工智能应用支撑技术.469.设备选型及配置要求.4610.联系方式.50物联网示范工程建设项目云平台设计方案4/501.系统作用与定位基于云平台海量数据存储技术，为物联网海量的数据提供高效、可靠不间断的存储与访问服务，提供数据支撑平台；采用云计算并行数据实时处理技术框架，实现对物联网数据的实时检索、统计、分析、挖掘、可视化、人工智能等处理，为上层提供有价值的数据服务；基于云计算先进的资源虚拟化技术，针对不同应用提供相应的虚拟计算机资源池，以满足各行业单位不同应用对物联网数据应用服务的不同需求，实现应用计算资源和数据服务的统一、高效、安全的管理。2.系统组成结构如下面的架构图所示，系统由

4、云计算虚拟化平台、云处理平台、云存储平台和灾备中心四大部分组成。OpenStack 用来做虚拟化资源管理，而采用 LVS 可伸缩性的管理分配给用户的资源，虚拟机采用 VMware，而 cProc 并行云处理框架，为云平台提供强大可伸缩的数据实时处理能力。采用 cStor 云存储系统来保障整个云平台数据的完整、可靠，灾备中心实现异地容灾备份。物联网示范工程建设项目云平台设计方案5/50资源虚拟化：虚拟化技术虚拟化技术的按需分配，快照功能，隔离功能，动态扩展能力等为云平台不同应用的资源统一管理分配提供极大的便利。物联网示范工程建设项目云平台设计方案6/50云资源管理：物联网智慧云服务平台，通过云资

5、源统一管理，针对不同部门或应用的资源统一管理分配，对虚拟资源灵活调度。系统管理员为不同的部门（或应用）定制不同的虚拟机，根据各部门（或者应用）对计算资源的需求对分配给某些虚拟机的计算资源进行调整。负载均衡：LVS 集群采用 IP 负载均衡技术和基于内容请求分发技术。调度器具有很好的吞吐率，将请求均衡地转移到不同的服务器上执行，且调度器自动屏蔽掉服务器的故障，从而将一组服务器构成一个高性能的、高可用的虚拟服务器。并行计算/数据处理：cProc 云处理平台是一种处理海量数据的并行编程模型和计算框架，用于对大规模数据集的并行计算。cProc 通过把对数据集的大规模操作分发给网络上的每个节点实现数据并

6、行处理。cStor 云存储系统：cStor 云存储系统是整个物联网云平台的数据中心，它将物联网前端各种检测上报数据信息，集中存储到云存储系统提供的数据，并为数据计算和处理层提供访问服务。灾备中心：由 cStor 云存储系统和灾备软件实现物联网平台数据中心的远程容灾备份。3.系统功能要求（1）优化总体拥有成本用户可以选择、设计、配置和运行最适合业务需要的基础设施和应用程序。以前，当 IT 项目移交给生产服务部门后，这两者的关系常常脱离，而在云计算环境下，它们又联系在一起了。（2）资源快速配置当业务活动增加或改变方向后，资源可以随之增减，以与业务活动的需要相符合。同时，资源配置时间从几星期压缩到了

7、几小时。（3）弹性资源配置当用户和服务的范围发生变化，寻求新的解决方案时，有弹性的配置和服务管理关物联网示范工程建设项目云平台设计方案7/50注最终用户和业务对功能的实际需求。（5）风险和环境的改善可以通过共享服务来充分利用云计算的绿色环保功能。（6）资源利用率的提高IT 部门可避免 IT 服务的配置过度或不足，从而获得更智能的业务服务。（7）高度可靠高可靠的冗余备份机制，支持多重数据保护，根据数据可靠性需求可灵活设置备份，自动屏蔽故障，提供 7x24 小时不间断存储服务；（8）超高性能支持高并发、带宽饱和利用，数据在多个节点上并行读写，服务器自动均衡负载，系统性能随节点数增加而线性增长，性能

8、与节点规模成正比，没有性能瓶颈，千光网络单节点访问性能写不少于 100MB/s,读不少于；（9）在线伸缩不必停止服务，即可根据存储容量的需求，灵活增减存储、计算节点；4.系统性能指标项目技术指标数量1 套，支撑 1P 裸容量，可以提供 200 个虚拟机器服务*体系架构采用多节点冗余架构设计，性能随节点数量的增加而线性增加，支持多节点自动负载均衡及故障转移。服务模式每个存储节点既存储数据，也对外提供存储访问服务。横向扩展支持在不停机情况下，通过向存储系统中增加存储节点的方式实现业务不中断情况下扩充容量和性能。*在线修复任意节点发生故障、可在不间断业务的情况下进行修复。存储系统对外服务接口存储系统

9、服务采用 IP 网络，同时支持 NFS、CIFS、FTP 等,支持POSIX 接口规范，存储系统可映射为本地磁盘或文件系统目录，方物联网示范工程建设项目云平台设计方案8/50便与应用系统对接使用。支持主机系统客户端支持 Linux（CentOS、RedHat、Ubuntu）、FreeBSD、Windows、苹果 MacOS X 等主流操作系统。高可用性要求系统全冗余，节点必须是高可用配置。当元数据节点出现故障时，要能自动切换到备用元数据节点。*存储控制节点（元数据节点）本次配置存储控制节点数不小于 2 个节点，系统支持的总节点数不小于 100 个。*当 前 CPU配置要求每个存储控制节点的 C

10、PU 配置不少于 2 颗,每颗至少四核(2GHz)。*性能本次配置产品的实际整体性能不小于 1200MB/s*单客户端性能单客户端大文件传输写性能不小于 100MB/s，读性能不少于80MB/s*当前容量配置要求支持 SSD、SAS、SATA 磁盘。要求配置容量不低于(外网900TB,内网 400TB），可用存储容量不低于（外网 450TB，内网 200TB）文件系统要求能够提供支持扩展到 100PB 容量的分布式文件系统。FTP 服务整个云存储系统所有存储节点均同时对外界提供 FTP 服务，且所有节点虚拟成一个对外 IP 地址。要求具有容错能力，任何节点出现故障，FTP 服务不中断。可用性当

11、任意 1 个节点（包括元数据节点）发生故障，存储系统仍然保持数据 100%完整，并且不会停机中断服务。硬件冗余性可尽量减少硬件冗余，同时却能确保系统高可靠运行，数据完整可靠。物联网示范工程建设项目云平台设计方案9/50图形化存储管理软件支持 SSH 管理，提供基于 Web 浏览器的管理界面，管理界面简单易用。具体功能如下：支持对系统总体运行状态和空间利用情况的监控；支持数据块级别坏块监控统计功能；支持对磁盘损坏、空间利用情况的监控；支持针对设备状态、CPU、内存等性能监控；提供异常告警功能；支持 FTP 帐号批量配置功能。块级监控与数据修复支持数据块级别坏块监控统计与文件修复功能。设备磁盘状态

12、监控支持对磁盘损坏、空间利用情况的监控。云资源管理软件接口提供开放的服务访问和管理接口，支持 POSIX 接口访问，用户可当成海量磁盘使用，编程接口与操作本地文件系统完全相同，另外需根据需要提供相应 API。综合控制管理接口软件自身所提供的全部资源管理类、性能监控类、故障监控类等信息可通过接口输出给业务运营支撑系统，具体数据包括不限于：设备配置参数、资源使用计量、性能监控数据、故障监控数据、资源控制指令等。统计分析管理接口软件自身所提供的管理报表、统计分析、图形展现等数据可通过接口输出给业务运营支撑系统。连接均衡要求系统支持与渲染服务器等客户端的连接均衡功能，提供轮循、按连接数等策略的自动连接

13、均衡。快照功能要求支持数据快照功能。配额管理要求支持虚拟资源配置功能。远程支持具有远程管理和事件通知功能。支持网管远程监控。物联网示范工程建设项目云平台设计方案10/50*服务原厂商质保服务，三年 7244，4 小时用户现场响应服务5.数据处理流程总体上解决方案需要三大应用支撑系统支撑。cStor 云存储系统用来提供海量数据的存储服务，cProc 云处理系统用来对数据进行索引、分析统计、数据挖掘、可视化等处理并为上层提供高效实时访问服务，OpenStack 系统用来对计算机资源进行虚拟化统一配置，进行有效的资源整合。数据首先通过 cStor 云存储系统提供的访问接口，将前端数据存入 cStor

14、 云存储系统。由 cProc 云处理平台进行数据索引、分析统计、数据挖掘、人工智能等处理，为上层用户提供数据检索、可视化、辅助决策等智能应用服务，用户通过 OpenStack 系统虚拟出来的虚拟机访问云处理平台。6.系统接口设计6.1.cStor 云存储系统提供的接口POSIX 接口接口：使用 cStor 云存储系统的客户端挂接程序，将 cStor 云存储空间映射为本地的目录或磁盘，访问云存储空间和访问本地文件系统相同；NFS 接口接口：映身为 Linux 本地目录或 Windows 虚拟磁盘；CIFS 接口接口：映射为 Linux 本地目录或 Windows 网络共享目录；API 接口接口：

15、提供 C、JAVA 语言专用的文件操作接口；6.2.cProc 系统提供的接口cProc 云计算框架以 Native Java API 的形式，提供最为常规和高效的访问方式，适合物联网示范工程建设项目云平台设计方案11/50并行批处理存储在表格里的海量数据。云计算提供的接口用于对表数据的各类操作，包括：添加、删除、查询、修改和统计数量等。添加数据添加数据：添加包括单条数据添加和批量添加：单条数据添加接口，用户先把数据封装在 Java 对象中，再通过调用单条数据添加接口，将数据添加进指定的数据表中。public void add(Object object);批量添加接口，提供了批量添加大量数据

16、的功能，这对于提升添加速度有很大的帮助。public void add(List objects);删除数据删除数据：根据每条数据的唯一标识 key，通过 delete 方法来删除数据。public void delete(String key);修改数据：修改数据：根据需要被修改数据的 key，通过 update 方法来修改数据。public void update(Object object);查询数据：查询数据：查询分为单条随机查询和批量查询。单条查询是通过 key 在表中查询某一行的数据。提供了 get 方法来完成单条查询。public Result get(String key);批

17、量查询是通过制定一段 key 的范围或者对表栏位制定过滤条件来查询。提供了 query 方法来完成批量查询。public ResultScanner query(Condition condition);统计数量：统计数量：通过制定一段 key 的范围或者对表栏位制定过滤条件，来快速统计符合条件的数据数量。提供了 count 方法来完成数量统计。public long count(Condition condition);物联网示范工程建设项目云平台设计方案12/506.3.OpenStack 资源虚拟化接口管理员接口：管理员接口：镜像管理：配置镜像基本信息、删除镜像（以 web 界面方式提供

18、）虚拟机实例管理：终止、重启虚拟机，查看虚拟机日志（以 web 界面方式提供）系统服务：禁用、启用系统服务（以 web 界面方式提供）虚拟机物理资源配额管理：管理虚拟机实例分配的物理资源大小配额（以 web 界面方式提供）用户管理：管理系统使用的用户（以 web 界面方式提供）用户接口：用户接口：虚拟机实例管理：管理该用户启动的实例（以 web 界面方式提供）镜像管理：管理用户可用的镜像，启动镜像实例（以 web 界面方式提供）快照管理：管理用户拥有的快照（以 web 界面方式提供）密钥管理：生成密钥文件（以 web 界面方式提供）外网 ip 管理：为虚拟机申请、绑定、释放外网 ip 地址（以

19、 web 界面方式提供）程序接口：程序接口：nova 使用接口：nova-manageuser create username描述：创建用户例：nova-manage user create test参数说明：username：用户名nova-manage role add username rolename描述：给用户添加角色例：nova-manage role add test cloudadmin物联网示范工程建设项目云平台设计方案13/50参数说明：username：用户名rolename：用户角色nova-manage project create projectname usern

20、ame描述：创建项目例：nova-manage project create book test参数说明：projectname：项目名称username：用户名uec-publish-tarball imagefile描述：上传镜像例：uec-publish-tarball ubuntu-11.04-server-uec-amd64.tar.gz参数说明：Imagefile：镜像文件路径euca-describe-images描述：列出已有镜像简要信息例：euca-describe-images参数说明：无euca-add-keypair key keyfile描述：添加密钥例：euca-a

21、dd-keypair ken ken.pem参数说明：key：密钥keyfile：密钥文件euca-run-instances-k key-t instancetype imagename描述：运行实例例：euca-run-instances-k ken-t m1.tiny ami-6683ba18参数说明：物联网示范工程建设项目云平台设计方案14/50key：密钥imagename：镜像euca-describe-instances描述：列出已运行实例例：euca-describe-instances参数说明：无euca-terminate-instances instanceid描述：终止

22、虚拟机实例例：euca-terminate-instances i-00000004参数说明：instaceid：虚拟机实例的 ideuca-authorize default-P protocol-p port-s 0.0.0.0/0描述：配置网络连接例：euca-authorize default-P tcp-p 22-s 0.0.0.0/0参数说明：protocol：协议类型port：端口euca-allocate-address描述：申请公共 ip例：euca-allocate-address参数说明：无euca-associate-address-i instanceid ip描述：

23、实例绑定公共 ip例：euca-associate-address-i i-00000001 192.168.1.128参数说明：instanceid：实例 idip：已申请的公共 ip虚拟机使用：物联网示范工程建设项目云平台设计方案15/50ssh-i keyfile userip描述：ssh 远程连接虚拟机实例例：ssh-i ken.pem ubuntu192.168.1.128参数：keyfile：密钥文件user：系统用户名ip：虚拟机实例的公共 ip 地址可视化远程连接可视化远程连接（可使用 windows 自带的远程连接）描述：图形化界面使用虚拟机实例;7.应用支撑系统7.1.资源

24、虚拟化OpenStack 是一种开源的软件基础结构，用来通过计算集群或工作站群实现弹性的、实用的云计算。OpenStack 很容易安装在现今大多数 Linux发布版上。OpenStack 包括虚拟化和云资源管理。OpenStack 提供如下高级特性：与 EC2 和 S3 的接口兼容性（SOAP 接口和 REST 接口）。使用这些接口的几乎所有现有工具都将可以与基于 OpenStack 的云协作。支持运行在 Xen hypervisor 或 KVM 之上的 VM 的运行。商业版本还支持其他类型的 VM，比如 VMware。用来进行系统管理和用户结算的云管理工具。能够将多个分别具有各自私有的内部网

25、络地址的集群配置到一个云内。下图为云计算的框架图，由云计算资源池、基础架构管理服务器及应用软件组成。物联网示范工程建设项目云平台设计方案16/50云计算资源池：由一组可以实现自动供应和回收的预先定制的 CPU 和存储资源形成，具体包括服务器节点设备和存储设备。云平台的很多特性，需要在一个大的资源池中才能够体现，比如动态迁移、负载均衡和高可用性，所以用户建议，最少采用 2 台资源服务器(NC)，1 台磁盘阵列搭建 OpenStack 云平台的资源池。在市政务外网私有云项目上，用户建议采用多台计算资源服务器，具有多台存储节点的云存储构建私有云。云计算基础架构管理服务器（CLC&NC）：为一台 X8

26、6 服务器，安装 OpenStack 云管理系统。第一期采用 OpenStack 商业版，因为目前市面上只有该产品比较成熟稳定，后期根据市场上其他云资源管理平台产品的优势，可以采用 OpenStack 社区版或者其他成熟的产品，因为对于企业来说，大型云平台都是多个小型云平台组合而成的，根据不同需求搭建不同功能的云平台，在减少资源浪费的同时，让小型云平台发挥出最大的功能才是最好的选择。7.1.1.OpenStack 云平台服务简介利用云计算服务平台提供了面向管理员和使用者的服务门户。这些基础服务包括以下部分：用户管理用户管理系统中有两大类用户，分别为：云计算平台管理员，云计算平台使用者。云计算平

27、台管理员能够对数据中心云平台上所有资源分配请求进行审批，增加或减物联网示范工程建设项目云平台设计方案17/50少资源数目，变更项目时间，终止或删除项目。云计算平台使用者能够对资源分配提出申请，对资源的增加或减少提出申请，提出变更项目时间的申请，提出终止项目的申请。同时他们可以进行一些自服务操作，比如重启属于他们项目的服务器、重置系统口令等。软件管理软件管理维护可部署的操作系统镜像及软件包。这通常由云计算平台管理员来负责实现，某些应用软件或者商业软件的部署需要定制或者客户化实现。存储管理存储管理用于维护外接存储服务器及存储资源池。使用计量使用计量用于对每个客户使用的物理资源数量、时间和利用率进行

28、统计。这通常由云计算平台管理员来负责实现。而云计算平台使用者则是获得报告，了解自己申请的资源的使用情况。部署管理部署管理部署管理提供对用户请求的自动化部署。部署按照特定时间，根据政务外网私有云使用者获得的申请来实际部署。部署的实际工作由云计算服务管理平台的供应引擎来自动实现。管理员需要做的是监督部署任务的执行情况。运行监控运行监控主要提供对当前申请使用的虚拟服务器的当前状态进行实时监控，了解基本的性能状况，并在自服务界面上呈现给相应用户。安全管理安全管理云计算平台提供了完善的手段保证每个项目的安全性和隔离性。用户对系统的访问有两个渠道：访问 Web 管理界面和访问项目虚拟机。对于 Web 界面

29、的访问需要使用用户名和密码。对于虚拟机的访问通过以下手段进行控制：系统对外的接口上由一个 VPN 设备对用户进行认证。每个部门对应一个 vLan。每个部门的虚拟机位于该 vLan 内部。vLan 的隔离性由交换机及各主机上的虚拟化软件保证。虚拟机的隔离性由虚拟化引擎本身保证。物联网示范工程建设项目云平台设计方案18/50此外，操作系统的用户认证也可以对用户信息进行保护。7.1.2.VMWareVMWare(Virtual Machine ware)是一个“虚拟 PC”软件公司。它的产品可以使你在一台机器上同时运行二个或更多 Windows、DOS、Linux 系统。与“多启动”系统相比，VMW

30、are 采用了完全不同的概念。多启动系统在一个时刻只能运行一个系统，在系统切换时需要重新启动机器。VMWare 是真正“同时”运行，多个操作系统在主系统的平台上，就像标准 Windows 应用程序那样切换。而且每个操作系统你都可以进行虚拟的分区、配置而不影响真实硬盘的数据，甚至可以通过网卡将几台虚拟机用网卡连接为一个局域网，极其方便。VMware 是提供一套虚拟机解决方案的软件公司，主要产品分为如下三个。VMware-ESX-Server这个版本并不需要操作系统的支持。它本身就是一个操作系统，用来管理硬件资源。所有的系统都安装在它的上面。带有远程 web 管理和客户端管理功能。VMware-G

31、SX-Server这个版本就要安装在一个操作系统下了，这个操作系统叫做 HOST OS。这个 HOST OS 可以是 Windows 2000 Server 以上的 Windows 系统或者是Linux(官方支持列表中只有 RH，SUSE，Mandrake 很少的几种)，和 VMware-ESX-Server一样带有远程 web 管理和客户端管理功能。VMware-WorkStation这个版本和 VMware-GSX-Server 版本的机构是一样的。也是要安装在一个操作 系 统 下，对 操 作 系 统 的 要 求 也 是 Windows 2000 以 上 或 者 Linux。和Vmware

32、-GSX-Server 的区别就是没有 web 远程管理和客户端管理。VMware 产品主要的功能有：1、不需要分区或重开机就能在同一台 PC 上使用两种以上的操作系统。物联网示范工程建设项目云平台设计方案19/502、完全隔离并且保护不同 OS 的操作环境以及所有安装在 OS 上面的应用软件和资料。3、不同的 OS 之间还能互动操作，包括网络、周边、文件分享以及复制粘贴功能。4、有复原（Undo）功能。5、能够设定并且随时修改操作系统的操作环境，如：内存、磁碟空间、周边设备等等。6、热迁移，高可用性。7.2.负载均衡 LVS7.2.1.可伸缩网络服务的设计与实现人类社会正在进入以网络为中心的

33、信息时代，人们需要更快捷、更可靠、功能更丰富的网络服务。万维网的流行促进互联网使用的指数级增长，现在很多站点收到前所未有的访问负载，经常担心系统如何被扩展来满足不断增长的性能需求，同时系统如何保持 24x7 的可用性。未来的应用将需要更高的吞吐率、更好的交互性、更高的安全性，这要求服务平台具有更强的处理能力和更高的可用性。所以，如何给出合理的框架和有效的设计方法，来建立高性能、高可伸缩、高可用的网络服务，这是摆在研究者和系统设计者面前极富挑战性的任务。本文研究和设计的可伸缩网络服务便是围绕这一任务展开的。7.2.2.可伸缩 Web 和媒体服务基于 LVS 可伸缩 Web 和媒体服务的体系结构，

34、分布式文件系统提供统一的存储空间，这使得系统的维护工作比较方便，且系统运行比较高效。当所有服务器结点超载时，管理员可以很快地加入新的结点来处理请求，而无需将 Web 文档等复制到结点的本地物联网示范工程建设项目云平台设计方案20/50硬盘上。Webmaster 可以看到统一的文档存储空间，维护和更新页面比较方便，对分布式文件系统中页面的修改对所有的服务器都有效。大的媒体文件（如视频文件）分段存储在分布式文件系统的多个结点上，可以提高文件系统的性能和文件服务器间的负载均衡。IP 负载调度器（即 VS/DR 方法，将在下一章详细叙述）可以分别将 Web 服务和媒体服务负载均衡地分发到各个服务器上，

35、服务器将响应数据直接返回给客户，这样可以极大地提高系统的吞吐率。7.2.3.LVS 负载均衡利用 LVS 作负载均衡，实现自动连接均衡，对用户提供统一的服务访问接口，实现系统整体负载平衡，系统规模对外透明且可灵活在线伸缩。利用 LVS 作负载均衡，在 OpenStack 提供的虚拟服务上构建 LVS 虚拟机 web server集群，同时在 LVS 的 Director 节点上进行 web 链接统计，并以此作为依据新增或减少OpenStack 提供的虚拟机数量，从而实现动态伸缩 web server 的规模。应用层利用 LVS 集群 IP 负载均衡技术和基于内容请求分发技术，构建高性能的、高可

36、用的虚拟服务器。在设计时需要考虑系统的透明性、可伸缩性、高可用性和易管理性。LVS 集群的体系结构如图所示，它有三个主要组成部分：物联网示范工程建设项目云平台设计方案21/50负载调度器（load balancer），它是整个集群对外面的前端机，负责将客户的请求发送到一组服务器上执行，而客户认为服务是来自一个 IP 地址上的。它可以是用 IP 负载均衡技术的负载调度器，也可以是基于内容请求分发的负载调度器，还可以是两者的结合。服务器池（server pool），是一组真正执行客户请求的服务器，执行的服务有 WEB、MAIL、FTP 和 DNS 等。后端存储（backend storage），它

37、为服务器池提供一个共享的存储区，这样很容易使得服务器池拥有相同的内容，提供相同的服务。调度器采用 IP 负载均衡技术、基于内容请求分发技术或者两者相结合。在 IP 负载均衡技术中，需要服务器池拥有相同的内容提供相同的服务。当客户请求到达时，调度器只根据负载情况从服务器池中选出一个服务器，将该请求转发到选出的服务器，并记物联网示范工程建设项目云平台设计方案22/50录这个调度；当这个请求的其他报文到达，也会被转发到前面选出的服务器。在基于内容请求分发技术中，服务器可以提供不同的服务，当客户请求到达时，调度器可根据请求的内容和服务器的情况选择服务器执行请求。因为所有的操作都是在操作系统核心空间中将

38、完成的，它的调度开销很小，所以它具有很高的吞吐率。服务器池的结点数目是可变的。当整个系统收到的负载超过目前所有结点的处理能力时，可以在服务器池中增加服务器来满足不断增长的请求负载。对大多数网络服务来说，结点与结点间不存在很强的相关性，所以整个系统的性能可以随着服务器池的结点数目增加而线性增长。后端存储用容错的分布式文件系统，如 AFS、GFS、Coda 和 Intermezzo 等。分布式文件系统为各服务器提供共享的存储区，它们访问分布式文件系统就像访问本地文件系统一样。同时，分布式文件系统提供良好的伸缩性和可用性。然而，当不同服务器上的应用程序同时访问分布式文件系统上同一资源时，应用程序的访

39、问冲突需要消解才能使得资源处于一致状态。这需要一个分布式锁管理器（Distributed Lock Manager），它可能是分布式文件系统内部提供的，也可能是外部的。开发者在写应用程序时，可以使用分布式锁管理器来保证应用程序在不同结点上并发访问的一致性。Web 站点会因为在一周或一个月的某些高峰时段被访问次数急剧增长而不能及时处理用户的请求，导致用户进行长时间的等待，大大降低了服务质量；若依据最大需求建立 web 服务器，当在访问量空闲时段又会造成资源的大量浪费。这样就要求 web 服务能够动态伸缩。构建一个通用的、可动态扩展的云平台可以充分满足这一需求的同时，实现资源的充分利用。物联网示范

40、工程建设项目云平台设计方案23/50以下系统基于云的方式构建，在 OpenStack 提供的虚拟服务上构建 LVS 虚拟机 webserver 集群，同时使用云存储系统实现大容量、高可靠的数据存储和共享。系统框架如下：其中：LVS 的 Director、Load Balancer Backup 部署在 OpenStack 提供的虚拟机上；Web&Media Server 作为 LVS 的 RealServer，也部署在 OpenStack 提供的虚拟机上，并动态伸缩；在 LVS 的 Director、Load Balancer Backup 之前使用 HeartBeat 进行热备切换；在 LV

41、S 的 Director、RealServer 之前实现负载均衡调度的同时，使用Ldirectord 管理调度策略和对 RealServer 的健康检测，从而实现故障处理；在 RealServer 之间使用云存储实现大容量、高可靠的数据存储和共享。物联网示范工程建设项目云平台设计方案24/50Web&Media Server 可使用 apache、nginx、lighthttpd 常用架构构建，同时在 LVS 的 Director 节点上进行 web 链接统计，并以此作为依据新增或减少 OpenStack 提供的虚拟机数量，从而实现动态伸缩 web server 的规模，在满足用户需求的同时最

42、大程度的利用资源。7.3.云处理系统 cProc7.3.1.cProc 框架介绍cProc 是一种处理海量数据的并行编程模型和计算框架，用于对大规模数据集的并行计算。cProc 通过把对数据集的大规模操作分发给网络上的每个节点实现数据处理，每个节点会周期性的把完成的工作和状态的更新报告回来。随着节点的增多，cProc 的处理能力将成倍数增长。实时性实时性：平台在高效率并行分布式软件的支撑下，可以实时完成数据计算和分析工作，如数据计算、数据查询、和统计分析等。数据计算不会出现数据堆积现象，各类分析和查询工作基本都在秒级完成，具有前所未有的高效性；高可靠性高可靠性：基于对云计算可靠性深厚的研究积累

43、，彻底解决了当前分布式计算平台易出现的单点故障问题。任何一个节点出现故障，系统将自动屏蔽，而且不会出现丢失数据的现象；可伸缩性：可伸缩性：在不停机的情况下，增加节点，平台的处理能力自动增加；减少节点，平台的处理能力自动缩减。这样，可以做到与资源池的无缝对接，根据计算和存储任务动态地申请或释放资源，最大限度地提高资源利用率；高性价比高性价比：采用 X86 架构廉价计算机构建云计算平台，用软件容错替代硬件容错，大大节省成本。在目标性能和可靠性条件下，可比传统的小型机加商用数据库方案节省 10 倍左右的成本；全业务支持全业务支持：采用 NoSQL关系数据库混合模式，绝大部分海量数据存放于分布式平台并

44、进行分布式处理，少量实时性要求很高的数据存放于关系数据库，可支撑各种类型的业务。不仅支撑查询、统计、分析业务，还可支撑深物联网示范工程建设项目云平台设计方案25/50度数据挖掘和商业智能分析业务。7.3.2.cProc 产品介绍云处理系统 cProc 基于创新的数据立方（DataCube）结构，是一种处理海量数据的并行编程模型和计算框架，利用云资源管理平台提供的虚拟机资源对大规模数据集进行分布式并行计算和数据统计，从而满足平台数据查询和检索以及应用数据统计需求。云处理系统 cProc 由 5 个主要部分组成：虚拟资源层，数据存储层，数据处理层，监控协调层和应用层。图中，自底向上分为 4 个层面

45、。最下层是虚拟资源层，该共享平台利用 OpenStack 所提供的计算资源、存储资源和网络资源，作为创新平台数据处理系统的基础设施和支撑平台。在这一层又分为物理层物联网示范工程建设项目云平台设计方案26/50和虚拟层，即在物理集群之上搭建了一层 Vmware 虚拟集群。这样做有利于充分利用物理资源，因为在物理层物理机的性能可能参差不齐，直接将系统搭建在物理集群之上很可能造成负载的不均衡，如果根据物理机的性能来部署虚拟机，就可以通过调整配置使得各个虚拟机之间性能达到平衡，从而使部署在虚拟集群上的系统出现负载不平衡的几率达到最低。第二层是数据存储层，在这一层将根据数据的所占空间以及速度要求将数据分

46、配到不同层次的存储空间中。最上层是一个作为缓存的 MySQL 集群，另外三层包括部署在机械磁盘上的 Hadoop 的 HDFS 分布式文件系统、部署在固态磁盘上的 HDFS 以及分布式内存存储系统 MemCache。第三层是数据处理层，其中包括计算架构层和业务层。计算架构层中的云处理系统是一种处理海量数据的并行编程模型和计算框架，用于对大规模数据集的并行计算。云处理系统通过把对数据集的大规模操作分发给网络上的每个节点实现数据处理，每个节点会周期性的把完成的工作和状态的更新报告回来。随着节点的增多，云处理系统的处理能力将成倍数增长。而 Hadoop 的 MapReduce 并行计算架构则适用于对

47、大规模数据进行全局读写扫描分析和批处理计算。业务层由四个部分组成：数据合成、PSMM、DT 数据入库处理模块和数据管理模块。数据入库处理模块负责数据的下载与入库，其中的 FTP 下载加速引擎用于使用多线程和断点续传技术加速数据文件的下载，数据压缩引擎用来对入库前的数据进行压缩减少数据容量从而加速入库速度。数据管理模块包括了单用户数据查询模块、数据查询统计模块。最上层是应用层，主要供用户查询、监视相关的 API 接口以及 JDBC/ODBC、REST等 API 接口。图中右侧是监控协调层，其中由 ZooKeeper 集群负责监控整个集群同时做负载平衡以及保证存储系统和计算架构的可靠性。此外，Wo

48、rldEyes 是云处理系统项目的一个子项目，主要解决对系统中所有系统消耗与系统性能的动态监控。物联网示范工程建设项目云平台设计方案27/507.4.cStor 云存储系统7.4.1.cStor 框架介绍cStor 云存储系统是国内最早实现并保持领先的云存储系统，整套系统包括软件与硬件，是一个海量的云存储平台。与传统的大规模存储系统相比，它具有构建成本低、性能高效可靠、使用简单方便的特点。在需要存储大量数据（如视频数据、业务数据等）的应用场合，可以大幅提高存储系统性价比。与目前国际上知名的 Google、Amazon 等云存储相比，具有更高的性价比、更低的能耗、更加通用和更方便的使用模式。物联

49、网示范工程建设项目云平台设计方案28/50cStor C1000 存储机柜产品优势产品优势物联网示范工程建设项目云平台设计方案29/501、高度可靠、高度可靠高可靠的冗余备份机制，支持多重数据保护，根据数据可靠性需求可灵活设置备份，自动屏蔽故障，提供7x24小时不间断存储服务；cStor C1100 元数据服务器2、超高性能、超高性能支持高并发、带宽饱和利用，数据在多个节点上并行读写，服务器自动均衡负载，系统性能随节点数增加而线性增长，性能与节点规模成正比，没有性能瓶颈；物联网示范工程建设项目云平台设计方案30/50cStor C1101 存储服务器3、超大规模、超大规模可支撑的容量接近无限，

50、理论容量为1024x1024x1024PB（1G 个 PB 容量）；4、绿色节能、绿色节能自主研发的超低功耗云存储硬件节点，主板尺寸为20cm*20cm，功耗仅为10W左右（不含硬盘），比业界的200W 低20倍；5、超高集成、超高集成由于解决了能耗的问题，散热不成为集成度的瓶颈，因而可以在1个标准的42U机架上集成多达80个存储节点，总容量高达1024TB；6、动态伸缩、动态伸缩不必停止服务，即可根据存储容量的需求，灵活增减存储节点；7、智能管理、智能管理一键式安装，智能化自适应管理，简单方便的监控界面，无需学习即可使用；物联网示范工程建设项目云平台设计方案31/508、简单通用、简单通用支