华为FusionStorage技术建议书(分布式存储).docx
《华为FusionStorage技术建议书(分布式存储).docx》由会员分享,可在线阅读,更多相关《华为FusionStorage技术建议书(分布式存储).docx(65页珍藏版)》请在课桌文档上搜索。
1、华为FUSionStOrage分布式存储技术建议书HuaweiTechnologiesCo.,Ltd.华为技术有限公司Allrightsreserved版权全部侵权必究Revisionrecord修订记录/在供应应客户前需删除本页“修订记录”。本文档只是供内部参考运用,禁止将本文档原封不动发给客户或代理商。请结合实际项目须要进行必要增删调整。Date日期RevisionVersion修订版本ChangeDescription修改描述Author作者2014/9/12VLO初稿完成卢平002322532014/11/18VI.1评审修改曾祥勇00159952秦祖福00172507卢平002322
2、53TableofContents目录Revisionrecord彳修订i己录2TableofContents目录41项目概述61. 1项目背景61.2项目需求61.3功能需求72项目技术方案72. 1FUSiOnStOrage总体架构12. 2FUSionStorage优点概述112. 3FUSiOnStorage应用场景13FUSionStorage及FUSionSPhere融合场景14FUSionStOrage及VMWare融合场景14FUSionStorage及OPenStaCk融合场景163FUSiOnStorage应用中典型硬件平台183 .1FUSionStorage在机架式服务
3、器上运用194 .2FUSionStOrage在刀片式服务器上运用235 FUSiOnStorage应用中网络设计方案255.1 总体组网方案255.2 在机架式服务器上运用组网方案27单柜IOGE组网27单柜IB存储组网285.3 在刀片服务器上运用组网方案29虚拟化IOGE刀片服务器组网29虚拟化IB+SSD组网306 服务器数量规划315 .1FUSionStOrage按容量和性能计算服务器数量316 FUSionStorage产品特性介绍336. 1性能卓越336.2 高牢靠396.3 弹性扩展446.4 管理简便476.5 兼容性497FUSiOnStOrage典型应用案例527.
4、1浙江电信选择FUSiOnStorage建设存储资源池527.2华为公司计算云-单资源池5KVM547. 3FUSiOnStorage帮助江苏移动CRM系统建设高性能数据库平台558. 4华为携手沃达丰打造分布式数据中心579. 5华为FUSiOnStorage助力深圳海关加速大数据分析5810. 6FusionStorage:汇港资讯高效证券交易数据发布云平台建设.6011. 华为FUSionStorage助力BME高效交付股票交易系统628 系统软硬件配置清单及说明638.1 软件配置638.2 硬件配置639 缩略语651项目概述1.1 项目背景欣障校淮备接受虚拟化及云计算技术来构建IT
5、系统,提升IT系统的资源利用率,但是传统SAN在企业基础设施池化、云化中面临的主要问题: 存储资源弹性问题:多业务负载、资源的动态需求变更 存储扩展的问题:共享、扩展面临了诸多的瓶颈和问题(机头、前后端网络、CPU/Cache及HDD不同步问题) 形态和实施的成本、困难性问题:独立的存储网络,建设成本高、实施困难(初始实施、扩减容等) 容错和牢靠性问题:大规模集群中容忍的故障域问题(跨机柜、跨机房),硬盘重建时间长问题针对上述问题,建议运用FUSiOnStorage分布式存储产品解决上述问题,为满意业务平台日益增长的存储需求,为业务平台供应高平安性、高牢靠性、高可用性和开放性的存储服务。FUS
6、iOnStOrage分布式存储系统基于分布式处理技术、虚拟化技术和集群技术实现,作为云计算资源池存储资源池的一部分,为计算资源池供应高速、牢靠、平安的块存储服务。 .2项目需求XXX单位,对存储需求如下,须要依据具体的项目进行修改:序号项目需求描述备注1存储容量要求30T有效存储容量,SAS磁盘请依据实际需求刷新2性能要求TPMC不小于600万,并发用户量为1000请依据实际需求刷rr劫 .3功能需求XXX单位,对功能需求如下,须要依据具体的项目进行修改:1、无性能下降智能精简配置2、基于快照的高性能链接克隆3、高性能增量快照技术4、高牢靠-多重数据平安保障机制5、高性能、低时延-一支持全SS
7、D存储6、高性能、低时延-支持Infiniband网络互联7、FusionStorage全分布式平滑扩展2项目技术方案分布式存储FUSionStorage是华为公司设计,完全自主产权的分布式存储架构.作为一种存储及计算高度融合的存储软件,通过突破性的架构和设计,达到高性能、高牢靠、高性价比。它具有一样的、可预料的性能及可扩展性,具有高弹性和自愈实力,具有计算存储高度融合。FUSionStOrage接受分布式集群限制技术和分布式HaSh数据路由技术,供应分布式存储功能特性。FUSiOnStOrage功能架构图如下所示:FUSionStorage功能模块:存储接口层:通过SCSI驱动接口向操作系统
8、、数据库供应卷设备。存储服务层:供应各种存储高级特性,如快照、链接克隆、精简配置、分布式CaChe、容灾备份等。存储引擎层:FUSiOnStorage存储基本功能,包括管理状态限制、分布式数据路由、强一样性复制技术、集群故障自愈及并行数据重建子系统等。存储管理层:实现FUSionStOrage软件的安装部署、自动化配置、在线升级、告警、监控和日志等OM功能,同时对用户供应Portal界面。FUSionStOrage系统软件架构:FUSionStorage通过分布式架构把分散的、低速的SATA/SAS机械硬盘组织成一个高效的虚拟化SAN存储池设备,供应比SAN设备更高的IO实力,把性能发挥到极致
9、。FUSionStorage分布式存储系统包含三个子系统:无状态机头无状态机头对外供应本地SCSl接口或者ISCSI服务接口,可以部署在存储节点,也可以灵敏部署在计算节点。系统启动时,无状态机头会从元数据集群获得最新的数据分布视图。在IO过程中,无状态机头会将数据均衡的分发到各个存储节点。无状态机头供应多种接口支持,其中包括本地SCSI,ISCSIo本地SCSl支持主流的IinUX操作系统,其他操作系统可以通过ISCSl接口供应块存储服务。存储集群在IO读写过程中,存储集群接收到无状态机头分发的IO请求,会依据副本策略,将IO分发到其他服务器或者机柜上的存储节点;同时存储节点会将每台服务器上的
10、缓存设备划分成读写缓冲区,IO干脆写到CaChe中就向主节点返回。当缓冲区达到确定的水位后,存储节点会自动将缓冲区的数据刷到主存设备(机械硬盘/SSD)上。分布式机头FUSiOnStOrage接受无状态的分布式软件机头,机头部署在各个服务器上,无集中式机头的性能瓶颈。单个服务器上软件机头只占用较少的CPU资源,供应比集中式机头更高的I0PS。分布式缓存FUSionStorage实现了计算和存储的融合,缓存和带宽都匀整分布到各个服务器节点上。FusionStorage支持将服务器SSD卡用作读、写缓存,对于数据的写操作,系统数据首先写到SSD的写缓存中,全部副本(三个副本)写缓存成功后,IO立刻
11、返回。同时IO也会将数据缓存匀整分布到各个节点上,全部服务器的缓存总容量远大于接受外置独立存储的方案。即使接受大容量低成本的SATA硬盘,FUSionStorage照旧可以发挥很高的IO性能,整体性能提升3倍,同时供应更大的有效容量。FUSiOnStorage支持PCIeSSD用作数据缓存,除具备通常的写缓存外,增加热点数据统计和缓存功能,加上其大容量的优势,进一步提升了系统性能。由于分布式缓存带来的性能优势,IO时延,10PS都能很好的满意数据库的应用,FUSiOnStorage系统可以支持业界主流的数据库,支持OLAP,OLTP等主流业务。集群元数据管理FUSionStOrage分布式存储
12、软件的元数据服务接受集群管理方式,不会出现单点故障,一个节点或者一块硬盘故障自动从集群内隔离出来,不影响整个系统业务的运用。多数据副本FUSionStOrage存储系统中没有运用传统的RAID模式来保证数据的牢靠性,而是接受了多副本备份机制,即同一份数据可以复制保存多个副本。在数据存储前,对数据进行分片,分片后的数据依据确定的规则保存集群节点上。如下图所示,对于服务器SerVerl的磁盘DiSkl上的数据块Pl,它的数据备份为服务器SerVer2的磁盘Disk2上Pl,PI和Pl构成了同一个数据块的两个副本。2.2FusionStorage优点概述高IOPS,低时延:应用大容量CaChe技术,
13、提升IOPS;卷被切片分割打散到整个资源池全部硬盘中,条带化宽度增加,单卷可获得的性能大幅提升;访问均衡,无热点,资源池中各节点的利用率相同;无需预先设置固定RAID组,大资源池适应应用负载的动态变更;应用程序通过CaChe直达存储,时延更低; 无级扩容、超大容量:分布式系统,无管理机头瓶颈,容量几乎不受限制;无级扩容:分布式机头(每SerVer服务器相当于一个机头),无性能瓶颈,可无级扩容非烟囱式扩展:存储及计算同步平滑扩展。即插即用式扩容:扩容后系统自动调整负载平衡,真正实现无级平滑扩容。 管理简洁:结构简洁带来管理简洁;免于低层配置管理:仅须要做应用层面的管理,免去大量低层配置管理事务。
14、零性能管理的成本:自动负载均衡,无热点,故障自愈,无需进行人工性能优化。 数据重建快:并行重建速快;数据分布可以跨服务器或跨机柜,不会因某个服务器、机柜故障导致数据不行访问。数据分片在资源池内打散,硬盘故障后,可在全资源池范围内自动并行重建,仅重建实际数据,无需热备盘;重建ITB数据时间30分钟。2.3FusionStorage应用场景适合运用FUSionStOrage的应用场景: VDI、OA应用。其典型特点是:容量共享精简支配、性能共享分时复用、计算和存储配比相对均衡、成本性价比要求高。 虚拟化环境混合应用C其典型特点是:容量共享需求明显、多应用混合负载、线性扩展。 OLAP应用。其典型特
15、点是:大并发吞吐量,计算和存储带宽要求高。 OLTP应用。其典型特点是:IOPS并发度高。FusiOnStOrage应用场景图:应用层 虚拟化HFusionStorage分布式存储资源池2.3.1 FusionStorage及FusionSphere融合场景FUSiOnStOrage适合计算和存储融合的系统,传统的虚拟化方式是在相互分别的计算、存储和网络设备上叠加了一层虚拟化软件。这种方式虽然可以提升资源利用率,但是由于系统的困难性,并不能简化各类基础设施的运维成本。FUSionStOrage把计算服务器的本地硬盘组织成一个类似SAN设备的虚拟存储池,对上层应用供应存储功能。华为云平台FUSi
16、OnSPhere主要有虚拟化基础引擎FUSionConIPUte、云管理FUSiOnManager两大组件组成;FUSiOnStorage及FUSiOnSPhere融合运用形成华为FUSiOnCUbe解决方案应用场景,如下图所示:FUSionComPUUS台HAIBdfVDRSOPM计H焦化同电咫化中fiMTKl化ftt(E9000HH2mH务WZJR交GPtHrSSX2.3.2 FusionStorage及VMware融合场景FUSionStorage及VMWare融合运用系统主要由五部分组成:硬件设备、分布式块存储系统,VMWare虚拟化平台,统一的云管理平台,备份服务器。VMWare及F
17、USiOnStorage配套运用的系统架构:FusionStorage1、系统初始部署时,在每台部署VMWare的服务器上部署一个限制虚拟机,该虚拟机上部署FUSiOnStorage的无状态机头,每个无状态机头上会供应ISCSl的服务端。2、在VMWare的ISCSl配置信息中,优先配置本地ISCSl接口信息。VMware的ESXi会依据配置的ISCSl接口信息,扫描FUSionStOrage的存储信息。可以依据扫描出来的LUN组成DataStOre。建议每个DataStOre对应一个LUNo3、创建DataStore后,VCenter就可以通过和ESXi的私有协议,创建虚拟机模板和应用虚拟机
18、。FUSionStOrage及VMWare融合运用,在网络部署上须要进行存储节点和计算节点分别部署,不能够融合部署。2.3.3 FusionStorage及OpenStack融合场景FusionSpherePIatform在OpenStack的基础上扩展电信运营商和企业建设IT基础设施及业务平台所须要的特性,运用同一套架构同时支撑公有云和私有云的管理,供应了基于OPenStack、ICT统一的开放云平台。FusionSpherePlatfornI保持了OPenStaCk的开放及兼容性,支持第3方厂商的计算、存储、网络和平安物理硬件,也支持第3方的计算虚拟化、存储虚拟化、网络虚拟化和平安虚拟化产
19、品。在云服务层面,在OPenStaCk的基础上供应备份、热迁移、亲和性资源调度、电信云定制化扩展、物理资源池等扩展服务;在运维层面,基于OPenStaCk供应了安装部署、升级/补丁、管理数据备份/复原、信息收集、健康检查等运维服务。基于OpenStack的FUSiOnSPhere解决方案系统架构:组件功能简介OpenStack华为OpenStack是基于开源的OPenStaCk软件进一步开发的IaaS层软件,供应PaaS层资源和功能,包括虚拟基础设施存储网络服务器组件功能简介计算服务、对象存储服务、虚拟网络服务、镜像管理、权限管理服务等功能。FusionManager分为本地数据中心管理和多数
20、据中心管理模块,是华为公司供应的面对PaaS层资源管理的软件,主要供应物理资源、虚拟资源管理和服务,并实现软件服务自动部署等上层应用功能。FusionStorageFusionStorage是一种存储及计算高度融合的分布式存储软件,在通用X86服务器上部署该软件后,可以把全部服务器的本地硬盘组织成一个虚拟存储资源池,供应块存储功能。SAN通用SAN设备,向OPenStaCk供应存储资源。服务器X86服务器,向OPenStaCk供应物理的计算资源。及FusionStorage软件结合可供应存储资源。3FusionStorage应用中典型硬件平台ServerlSener2ServerNmmvmvm
21、vm)FUSiOnStorage在通用x86服务器上部署分布式存储软件,把全部服务器的本地硬盘组织成一个虚拟存储资源池,供应块存储接口3.1FUSionStorage在机架式服务器上运用FUSiOnStOrage+机架式服务器,实际项目中每台服务器的CPU型号、内存数量,硬盘个数可依据项目需求配置。机架式服务器硬件图如下:以华为RH2288为例,硬件外观如下图:硬盘位置示意图FUSionStorage+机架式服务器有四种刀片类型,MCNA、LCNA、SCNA、CNAo其中MCNA用于部署管理节点;LCNA.SCNA、CNA用于部署用户虚拟机。几个刀片类型说明如下:1、MCNA:管理节点,必配。
22、至少两台服务器,须要配置2P*6核以上CPU,内存至少64G,默认128G。同时作为FUSionStorage存储节点。虚拟机部署VRM(4COre8G内存/50G存储)、FusiOnManager(4Core/16G内存/28OG存储)、这些管理软件接受虚拟机部署,管理虚拟机须要独占本地的两块硬盘供应存储。部署FUSiOnStOrage管理和限制软件,这些软件运行在DOmain0,须要ICoreCPU,至少25G内存,FUSiOnStOrage管理须要独占一块特地的硬盘。另外配置611个硬盘用于FUSiOnStorage业务存储。2、LCNA:计算和存储节点,必配。同时供应计算和FUSion
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 华为 FusionStorage 技术 建议书 分布式 存储

链接地址:https://www.desk33.com/p-537349.html