智慧药品安全项目部署运维手册.docx
智慧药品安全项目部署运维手册XX科技股份有限公司编制目录一、文章编写目的5二、前置准备52.1 配置网络ip52.2 编写相关操作脚本81. 批量执行命令脚本82. 批量重命名脚本93. 批量拷贝脚本104. cm_migrate,sh125. format2.sh126. mountDisk.sh127. network,sh138. node,1.ist149. node,txt142. 3hostname及hosts配置141 .配置每台节点的hostname142 .配置节点ip、hostname映射152.4 禁用SE1.inux152.5 关闭防火墙162.6 设置SWaPPineSS172.7 关闭透明大页面182.8 配置操作系统本地yum源192.9 安装http服务20一、文章编写目的本文档主要描述C1.OUdera智慧药品安全平台的安装主要分为4个步藤:1 .集群服务器配置，包括安装操作系统、关闭防火墙、同步服务器时钟等，又称为集群安装的前置准备，关于更多前置条件准备也可以参考之前的的文档KDH安装前置准备；2 .安装C1.oUderaManage门3 .通过C1.ouderaManager的WebUI向导式安装CD1.I集祥：4 .集群完整性检查,包括HDFS文件系统、MaPRedUce、HiVe等是否可以正常运行。本文操作说明基于以下假设：1 .操作系统版本：Redhat7.42 .CDH和CM版本均为5.16.13 .采用roo1.对集群进行部署4 .您巳经下载CDH和CM的安装包二、前置准备2. 1配置网络ip开启虚拟机，修改配置文件输入如下命令11etcsysconfignetwork-scriptsifcfg*会出现如下内容（ifcfg-ens后面的名字可能不同）# rw.1rootroot6168月1319:25e1.csySConfigne1.work-scripts/ifcfg-ens16777736# rw-rr一.1rootroot2541月32018etcsysconfig/network-scripts/ifcfg-1.o输入如下命令vi/etc/sysconfignctwork-scripts/ifcfg-cns16777736出现下图界面root0cm1.nctwork-scriptsttviifcfg-cno1.6777736# 网络类型（通常是Ethernet）TYPE="E1.herne1."# IP的配置方法noneStatic1.bootpdhcp（引导时不使用协议静杰分配IP1.BooTP协议IDHCP协议）Bootproto=',dhcpDEFROUTE="yes”IPV4_FAI1.URE_FATA1.="no"IPV6INIT="yes"IPV6-UT0C0NF=yes"IPV6Defroite=yes"IPV6_FAI1.URE_FATA1.="no"NAME=eno1.6777736"# 随机idUUID=*6d21.f413-619d-4283-9ba2-e1.a724c1.c593"DEV1.CE=%no1.6777736"# 系统启动的时候网络接口是否有效（yesno）ONBOOT="yes"PEERDNs="yes"PEERRoUTES="yes'IPV6PEERDns="yes"PV6_PEERRoUTES="yes"IPV6_PRIVACY=*no"需要修改的地方有：BOOTPROTO=Staticffdhcp改为static（修改）0NB00T=yes#开机启用本配置，一般在最后一行（修改）IPADDR=192.168.139.101#静态IP（增加）GATEWAY=I92.168.139.2#默认网关，虚拟机安装的话，通常是2,也就是VMneI8的网关设置（增加）NETMASK=255.255.255.0#子网掩码（增加）DNSI=I92.168.139.2#DNS配置，虚拟机安装的话，DNS就网关就行,多个DNS网址的话再增加（增加）这里注意，因为静态ip她址设置为192.168.139.101,因此默认网关和DNS地址前面部分，即192.168.139必须相同，不然会出现无法Ping通的情况0EVICE=ethOKWADDr=OO:0C：29：14：8B：FATYPE=EthernetUID=63af865f-878d-4d93-8284-85d60af589bbIDNBoOT=yes1.NM_CONTRO1.1.ED=yesOOTPROTO=StaticI1.PAdD=192.168.1,100GATEWAY=192,168.1.2)NS1=114.114.114.114)NS2=8.8,8.8重启网络服务使ip生效servicenetworkrestart如果报错.reboot重启虚拟机三台节点配置的ip分别为：192.168.1.131,192.168.1.132.192.168.1.133注意：每台节点克隆后需要删除每台节点etcudevru1.es.d70-PerSiSIen1.ne1.rUIeS文件，清除mac地址。重启每台节点即可。节点克隆后还可以使用以下方式修改nac地址rooIQhad(X)P1.O1.8vinetcudevru1.es.d70-persis1.ent-net.ruIes进入如下页面，删除e1.h该行：将e1.h1.修改为e1.h,同时复制物理ip地址，如图所示修改ip地址rooIQhadoop1.O1.Svim/etc/sysconfig/network-scripIs/ifcfg-eth(1)把复制的物理ip地址更新HWADDr=OO：0C：2x：6x：Ox：xx#MAC地址(2)修改成你想要的ipIPADDR=192.168.1.132#1P地址2.2编写相关操作脚本脚本依赖expeci程序，需要在执行这些脚本的服务器上安装expect.安装方式：yuminsta1.1.expect1.批量执行命令脚本batchcmd.sh#!/bin/sh1.istfi1.c-$1.cmd=S2username=rootpassword=123456catS1.is1._fiIewhiIeread1.inedohost-ip='echoS1.ineIawk,print31'、ttusernarae=echo$1.ineawk'print$2)''ttpassword='echo$1.ineawk,print$3,'./expect_Cmd$host_ipSusername$PaSSWord"$Cmd"doneexpect_cmd群集安装正群集安装正将安装电建的711rw<iiarKMMamMKfitnt.14.点击“继续”，进入下一步主机检查，确保所有检查项均通过群集安装0Q王机1.nIMn甑©0ftJB个王但MONttgEW3M<UUr.OMWe0W*BWXSZ.OOW1.XVK收©*H1.£3IUU1.Z1.ESr丁"n31.otnn.n<uw.O三O*<1218-B.Oa三fc三.O23811.NMSK*©:。句BWtte*MJSG.。.MT<UmAcbm>EE0prMKbW.O,QmU1.<灯G三Momm8MSi"tsJ(三*A.ooMi<urwtx4.3三±<uaj8110>MKO.:33>UR1.'5t公杼BuiEW.e*wmrn三nw-wjw*.O*W1MG*4*Uana9WCC*mY0M-!F.ot三m*et三.MHJ-况点击完成进入服务安装向导。群集设0HDT5三JBMKo*->*EIa>HtvfarwrI<1.»«.11MMvW>*，1.*MMr<4<r'S4v>4cMCMony*3MMe*>vIQta*<ta*MIinB'*marv4A4*-<三nOQDDQQ3 .点击''继续"，进入下一步，测试数据库连接KBBzIIWmK.»MHk华.u6MtoMX。MW±na*Bma9MWftn»*s*u*WHIMa<wmNw*Mt*XNUMMSMAaBWMWMSKWWP«ZJCCM>MEcm1.19O1.2aW*rHAepcr1.tMngvSHt>W<m1t»0.MM±KS*其父.RMP<m1.*E*wOoMS<MtmCm1.»»6.MVtftRWINDtMMWSWA«Imon1.w*，oc<nOO0ODDOOO4 .测试成功，点击“继续”，进入目录设置，此处使用默认默认目录,根据实际情况进行目录修改胖集设.«««：MWSIttvhffie®DMtG*<).GffitMODODOO5 .点击“继续''，进入各个服务启动群集设置UO05Me1111UtUWT«»O妙CiMMrtHrtFM213½mMwr10aMMe1.1.y:½c4*.，.MN.XrcUM).H1%.1.w«U,C/s.*.C1.wv1.<EmtetR,力，oo6 .安装成功后进入CM管理界面主页C1.OUderdMANAGERCOO不cm1:7180/cmf/home主页次窸所再运行坎况同至QKKm，OC1.uster1*3王机4S16ZP*fC1.)图表GcpuOQHDFS02100%号EI小HuoXVImpa1.aQOozie-C1.UIUf1.三K、主机中的主机CPU快网J1.«!VARN(MR2S。1JZooKeepec.主矶落暮三½阴表仔仿W?C1.ouderaManagementServiceQCkXjdecaMar、五、HBASE安装5.1 准备工作：不同机器之间的时间同步要求每个节点子在30秒root(g)hadpNode5yum-yinsta1.1.ntp#安装ntp软件roothadoopNode5指定与啊里云时间同步服务5.2 安装：1 .下囊hbase1.3.22 .解压ambowhadoopNode1-$tar-xvzf-ZsofVhbase-1.3.2-bin.tar.gz-C-app'3 .配置环境变量/.base_PrOfi1.eHBASE_HOMEPATH4 .hbase-env.sh配置java_h(Mie和ZKambow(g)hadpNode1COnfJ$vi$HBASE_HOME/conf/hbase-env.shexportJAVA_HOME=/home/w1./app/jdk1.8.0_121exportHAD6bP_HOME=/home/w1./app.'hadoop-2.7.3exportHBASE_MANAGES_ZK=fa1.se#禁用Hbase使用内7/.zookeperexportHBASEBACKUPMASTERS=SfHBASEHOME)confbackup-masters#配置HA的笫二个节HMaster节点新建一个$HBASEJOMEJconf,IbaCkUP-masters文件Vi$HBASEHOMEconf.backp-masters把备用的HMaSter节点添加:hadoopNode25 .hbase-site.xm1.配置参数<configuration>< !-#指定hbase在HDFS中目录自动创建-><property><name>hbase.rootdir<name><vaiue>hdfsduster1.dghbase<va1.ue><property>< !-#true时，为集群模式u><property><name>hbase.c1.uster.distributed<name><va1.ue>true<va1.ue><property>< !-#设首用己的ZOOkeePer用的那个几个节点><property><name>hbase.zookeeper.quorum<name><va1.ue>hadoopNode1.,hadoopNode2rhadoopNode3,hadoopNode4,hadoopNode5<va1.ue<property><!-#使用内置Z。OkeePer时要指定-><property><nane>hbase.zookeeper.property.dataDir<name><va1.ue>homeambowzkdatahdata<va1.ue><property><conguration>6 .配置regionserver（配置每一个机器名子节点名不要配主节名）在hbaseConf/下新建regionserver文件,添力口如入内容hadoopNode3hadoopNode4HadoopNodeS7 .scp-rhbase到其他节点ambowhadoopNode1.contSscp-r/app/hbase-1.3.2ambowhadoopNode5:-/app/ambowhadoopNode1.confSscp-r-apphbase-1.3.2ambow1.IadOOPNOde4:/app/ambowhadoopNode1.confJSscp-r-apphbase-1.3.2ambowhadoopNode3:/app/ambowhadoopNode1.confSscpr-*apphbase1.3.2ambowhadoopNode2:-*/app/ambow1.Iad(X)PNOde5:ambowhadoopNode4:ambow1.Iad(WPNQde3:ambowhadoopN。加2:ambowhadoopNode1.con11Sscp-/.bashprofi1.eambowhadoopNode1.con11Sscp-/.bashprofi1.eambowhadpNode1.con11Sscp/.bashprofi1.e(ambowhadoopNodeIcon11Sscp/.bash_profi1.e各节点重新加线：source.bash_profi1.e启动hdfsstart-dfs.sh六、F1.ume安装6.1安装1.解压tarzxvfapache-f1.ume-1.6.0-bin.tar.gz(ambowhadoopNode311ume-1.6.0Star-zxvfapache-ume-1.6.0-bin.tar.gzCapp2 .然后进入f1.ume的目录，修改COnf下的f1.ume-env.sh.配置JAVA-HoMEexportjV.H0ME=homeambowappjdk1.8.0,1213 .配置.bash_ProfUe文件exportF1.UME_H0ME=/home/ambow/app/f1.ume-1.6.0exprotPATH=$PATH:$F1.UME_HOME/bin七、Kafka安装：7.1安装1 .下载Apachekafka官方：http:/kafka.apache.org/down1.oads.htm1.Sca1.a2.11-kafka_2.11-0.10.2.0.tgz(asc,md5)注：当Sca1.a用的是2.11那Kafka选择kafka_2.11-0.10.2.0.10.2才是Kafka的版本Kafka集群安装：1 .安装JDK&&闺JAVAJHOME2 .安装ZOOkeePer参照Zookeeper官网搭建一个ZK集群，并启动ZK集群。3 .解压Kafka安装包ambow1.IadOOPNode1.ambowStar-zxvfkafka_2.11-0.10.2.1.tgz-Capp4.配置环境变址exportKAFKA_HOME=/home/ainbow/app/kafka_2.11-0.10.2.1exportP/TH=$PATH:$K/FK?_HOME/b1.n5.修改配设文件COnfigserver.propertiesviServerproperties# 为依次增长的：0.1、2、3、4,集群中节点唯一idbroker.id=0# 删除上返的配置,默认是fa1.se生产环境设为fakede1.etc.topic.enab1.e=truc"监听的主机及端口号各节点改为本机相应的hostName1.isteners=P1.AINTEXT:/hadoopNode1.:9092# Kafka的消息数树存储路径1.og.dirs=homeambowkafkaData1.ogs# 创建主题的时候，戕认有1个分区num.partitiOnS=3# 指定ZooKeeper集群列表，各节点以逗号分zookeeper.connect=hadoopNode1.i2181,hadoopNode2i2181,hadoopNode3t2181,hadoopNode4:2181,hadoopNode5:21816 .分发至各个节点ka!1.<a2.11-0.10.2.1ka1.ka2.11-0.10.2.1kaa2.11-0.10.2.1kat1.<a.2.11-0.10.2.1ambowhadoopNode5:/appambowhadoopNode4:-/appambowhadoopNode3:appambowhadoopNode2:/appambowhadoopNode1.app$scp-r(ambowhadoopNode1appSscp-rambowhadoopNode1.appSSCP-r(ambowhadoopNode1appSscp-r-/.bash.prof1.e/.bash_profi1.e*-.bash.prof1.e一.baSh-PrOfneambow1.IadooPNOde5:ambowhadoopNode4:ambowhadoopNode3:ambowhadoopNode2:ambowhadoopNode1.app)Jscp-rjambow1.IadOOPNode1.appSscp-rambow0>hadoopNode1.app$scp-rambowhadoopNode1.appj$scprsource/.bash,profi1.e7 .修改各个节点的配置文件:"为依次增长的:0、1,2、3,4.集群中节点唯idbroker.id=0#监听的主机及端口号各节点次为本机相应的h。StNameIiStenerS=P1.工INTEXT:had。PNode1.:90928.各台节点上后动Kafka服务ambow1.IadOOPNode1.appSkafka-server-start.sh$KAFKA.HOMEconfigSerVCr.properties&注：要先肩动各节点ZookeeperzkServ1.et.shstartambowhad。PNodeIapp$ka1.-ka-server-stop.sh
