《汽车营销大数据分析项目部署运维手册.docx》由会员分享，可在线阅读，更多相关《汽车营销大数据分析项目部署运维手册.docx（33页珍藏版）》请在三一办公上搜索。
1、汽车营销大数据分析项目部署运维手册XX科技股份有限公司编制目录一、文章编写目的5二、前置准备52.1 配置网络ip52.2 编写相关操作脚本91. 批量执行命令脚本92. 批量重命名脚本113. 批量拷贝脚本134. cm_migrate,sh155. format2.sh166. mountDisk.sh167. network,sh178. node,1.ist189. node,txt182.3hostname及hosts配置181.配置每台节点的hostname182.配置节点ip、hostname映射192.4 禁用SE1.inux192.5 关闭防火墙212.6 设置Swappin
2、ess212.7 关闭透明大页面222.8 配置操作系统本地yum源232.9 安装http服务252. 10集群时钟同步281.所有机器卸载ChrOny282 .所有机器安装nip283 .node1.机器配置时钟与自己同步284 .集群其它节点，配置找node1.机器去同步295 .重启所有机器的ntp服务296 .验证始终同步，在所有节点执行nipq-P命令，如下使用脚本批量执行292. 11安装NariaDB30三、C1.ouc1.eraManager安装372.1 配置本地CM源373. 2安装CIOUderaManagerServer40四、CDH安装424. 1CDH集群安装向导
3、425. 2集群设置安装向导45五、HBASE安装465.1 准备工作：465.2 安装：461. 下载hbase1.3.2462. 解压463. 配置环境变量/.base_profi1.e464. hbase-env.sh配置javahomeWZK475. hbase-site.xm1.配置参数476 .酉已置regionserver497 .scp-rhbase到其他节点49六、F1.ume安装506. 1安装50七、Kafka安装：517. 1安装51一、文章编写目的本文档主要描述C1.。Udera汽车营销大数据分析系统的安装主要分为4个步骤：1 .集群服务器配置，包括安装操作系统、关闭
4、防火墙、同步服务器时钟等，又称为集群安装的前置准备，关于更多前置条件准备也可以参考之前的的文档CDH安装前置准备；2 .安装CIoUderavanager；3 .通过C1.ouderaManager的Web1.I向导式安装CD1.I集群;4 .集群完整性检查，包括HDFS文件系统、MaPRedUce、HiVe等是否可以正常运行。本文操作说明基于以下假设：1 .操作系统版本：Redhat7.42 .CDH和CM版本均为5.16.13 .采用root对集群进行部署4 .您已经下载CDH和CM的安装包二、前置准备2.1配置网络ip开启虚拟机，修改配置文件输入如下命令11etcsysconfignet
5、work-scriptsifcfg-*会出现如下内容（ifcfg-ens后面的名字可能不同）-rw.1rootroot6168月1319:25etcsysconfig/network-scripts/ifcfg-ens1.6777736-rw-r-r.1rootroot2541月32018etcsysconfignetwork-scriptsifcfg-1.o输入如下命令Vietcsysconfignetwork-scriptsifcfgens16777736出现下图界面rootwork-scripts#viifcfg-eno1.6777736#网络类型（通常是Ethernet）TYPE=rE
6、thernetw#IP的配置方法noneStatic1.bootpdhcpj（引导时不使用协议I静态分配IpIbootp协议IDHCP协议）bootproto=,dhcpDEFROUTE=yes”IPV4_FAI1.URE_FATA1.=noIPV6INIT=yesIPV6-A1.T0C0NF=yesIPV6_DEFRoUTE=yesIPV6FAI1.UREFT1.=noNAME=eno1.6777736#随机idUUID=6d21f413-619d-4283-9ba2-e1.a724c1.c593DEVICE=eno1.6777736。系统启动的时候网络接口是否有效（ycsno）ONBOOT
7、=yesPEERDNS=yes”PEERROUTES=yes*IPV6_PEERDNS=yesIPV6一PEERRo1.TES=yesIPV6_PRIVACY=*no需要修改的地方有：BOOTPROTO=StaticWhcp改为static（修改）0NB00T=yes#开机启用本配置，一般在最后一行（修改）IPADDR=192.168.139.101#静态IP（增加）GATEWAY=I92.168.139.2#默认网关，虚拟机安装的话，通常是2,也就是VMnet8的网关设置（增加）NETMSK=255.255.255.0#子网掩码（增加）DNS1=192.168.139.2ffDNS配置，虚拟
8、机安装的话,DNS就网关就行，多个DNS网址的话再增加（增加）这里注意，因为律态ip地址设置为192.168.139.101,因此默认网关和DNS地址前面部分，即192.168.139必须相同,不然会出现无法Ping通的情况SVICE=ethOHWADDr=OO:0C：29：14：8B：FATYPE=EthernetUID=63af865f-878d-4d93-8284-85d60af589bbIDNBOOT=yes1NM_CONTRO1.1.ED=yesbPRQTQ=staticI1.PAK=1.Z.1.b.1.IUU5ATEWAY=192,168.1.2)NS1=114.114.114.1
9、14)NS2=8.8.8.8重启网络服务使ip生效servicenetworkrestart如果报错，reboot重启虚拟机三台节点配置的ip分别为：192.168.1.131,192.168.1.132.192.168.1.133注意:每台节点克隆后需要删除每台节点e1.cudevru1.es.d70-PCrSiStCnt-net.ru1.es文件，清除mac地址。重启每台节点即可。节点克隆后还可以使用以下方式修改mac地址roothadoop1.01ftvimetcudevru1.es,d70-persistent-net.ru1.es进入如下页面，删除eth该行；将eth1.修改为eth
10、,同时复.制物理ip地址，如图所示p,*11,*.，,71.11wMtt*M:0C：34C4：.ATTWet.MMC*f修改ip地址roo1.Qhad（K）p1.01/#Vim/etc/sysconfig/neIwork-scripts/ifcfg-CthO（1）把复制的物理ip地址更新HWADDR=OO:0C：2x：6x：Ox：xx#MAC地址（2）修改成你想要的ipIPDDR=192.168.1.132#IP地址2.2编写相关操作脚本脚本依赖expect程序，雷要在执行这些脚本的服务器上安装expect.安装方式：yumins1.a1.1expect1 .批量执行命令脚本batch_c11
11、d.sh#!/bin/sh1ist_fi1.e=$1.Cmd=$2userna11e=rootpassword=123456catS1.ist-fi1.ewhi1.eread1.inedohost_ip=echo$1ineIawk,printS1.),#usernane=echo$1ineawk,print$2Upassword=echo$1ineawkprint$3)./expect_cmd$host_ipSusername$PaSSWOrd$Cmddoneexpect_cmd#!/usr/bin/expecIsettimeout10sethost1index$argv0setusernam
12、e!index$argv1setpassword!index$argv2setcmd!indexSargv3spawnssh-P22$USCrnamCgShoSt$cmdexpect*(yesno),?sendyesn,expect*assword:sendSpasswordn”)w*assword:(send$passwordn)expect100%Wexpecteofexit02 .批量篁命名脚本batchrenamesnd.sh#!/bin/shUSCrnan1.C二rootpassword=123456catS1.ist_fiIewhiIeread1.inedohost_ip=echo
13、$1ineawk,print31、hos1.name=echo$1ineawkprint$2)host_a1iaSJ1.ame=echoS1.ine)awk(print$3,WUSername=echo$1ineawkprint$2password=echo$1.ineawk,print$3、./expect_rename_cmd$host_ip$USername$PaSSWOrd$host_namedonecxpectrOnamecmd#!usrbinexpectsettimeout10sethost!indexSargv0setusername!index$argv1setpassword
14、!index$argv2sethostname!index$argv3spawnsshP22$USernameShOS1.sed-isHOST.*HOSTNAME=Shostname/etc/sysconfig/network:hostnameJhostname；hostnamect1.set-hostnameShostnameexpect,(yesno)?(sendycsn*expect*assword:sendSpasswordXnassword：sendSpasswordXn,)expect100%#cxpectcofexitO3.批量措贝脚本batch_scp.sh#!/bin/shI
15、istfi1.e=$1.src_fi1.e=$2dest_fi1.e=$3USername=rootpassword=123456catS1.istfiIcwhiIcread1.inedohos1._ip=echo$1ineIawkprint$1,ttusernamc=echo$1incawkprint$2)Itpassword=echo$1.ineawkprint$3.expect-scp$host_ipSusernaineSpassword$src_fiIe$dest_fi1.edoneexpect_scp#!usrbin/cxpcctsettimeout10sethost!indexSa
16、rgv0setusername!index$argv1setpassword!index$argv2setsrc_fi1.e!index$argv3setdcstfi1.e!index$argv4spawnscp-rSsrjfi1.e$username$host：$dest_fiIeexpect(yesno)?(sendycsn*expect*assword:nsend$passwordnassword：(send$PaSSWOrdn”expect100%expecteof4. cB_oigrate,sh#!/bin/bashupdateCMIPif$#!=1;thenechoUSAGE：SO
17、echoe.g.：SO192.168.1.2exit1；fiShba1.ch_cmd.shnode.1.ist,sed-isserver_host=.*/server_hoSt=S1/ctccIoudera-scm-agcnt/config.iniWUPdaIemysq1.echoupdateCMHOSTIDhost_id=mysq1.-uroot-p1.23456execute=usecm；se1.ectHOSTIDfromHOSTSwhereIPADDRESS=$1;host_id2=$(echoS,host-idawk-FprintS2),)#echo$host-id)#CChO$hos
18、tid2)mysq1.uroot-p1.23456-execu1.e=usecm；updateRO1.ESsetIIOST_ID=$host_id2)whereNAME1.ikemgmt-%,；5. format2.sh*!binShforiinb.m)doparted-s/dcv/sd$imk1.abe1.gptparted-s/dev/sd$imkpartprimary2048s100%usrsbinmkfs.xfs-fdevsdSi1done6. mountDisk.sh#!/bin/shebackupetcfstabcpe1.cfstabetcfstab.bakPARTITION-1.
19、IST=wSdb1.sdc1.sdd1.sde1.sdf1.sdg1.sdh1.sdi1.sdj1.sdk1.sd1.1Sdm1i=1.forPARTITIONin$PARTnIONJJSTdoUUID=I1.kid7dev/$PARTITI0NM)awk,print$2),ISCdsVg,echo$UUIDechoaddPARTITIONtoetcfstab,MOUNTDIR=Vdata$ii=$(i+D)echomkdir-p$MOUNTDIRmkdir-p$MoUNTDIRechoappending$UUIDSMOUNTDIRxfsdefau1.ts00ntoetc/fstabecho$
20、1.JUIDSMOUNTDIRxfsdefau1.ts00ctcfstabechonndoneAmounta1.1.partitionsmount-a加howmountedpartitionsdf-h7. network,shVirShnet-destroydefau1.tvirshnct-undcfincdefau1.tsystemct1.restartIibvirtd.serviceyumremove1ibvirt8. node,1.ist192.168.1.131192.168.1.132192.168.1.1339.node.txt192.168.1.131node1.192.168.
21、1.132node2192.168.1.133nodc32.3hostname及hosts配置集群中各个节点之间能互相通信使用静态IP地址。IP地址和主机名通过ctchosts配置,主机名通过etchostnamc进行配置。1 .配Jt每台节点的hostnameetchostname文件如下：nodc1.或者可以通过命令修改立即生效root0ip172-31-13-38JShosInamect1.sethostnamenode1.可以使用脚本执行rootQ1.oca1.hostbin#shbatch_rename_cmd.shnode,txtspawnssh-P22roote192.168.1
22、.131sod-isH0ST.*HOSTNAME=hostnamect1.set-root0192.168.1.13spassword：spawnssh-p22root1.92.168.1.132sed-isHOST.*HOSTNME=hostna11ect1.set-rootQ192.168.1.132spassword:spawnssh-P22root1.92.168.1.133sed-isHOST.*HOSTNME=hostnamect1.set-root0192.168.1.133,spassword：2 .配Jt节点ip,hostname映射在每台节点etchosts文件后追加如下内
23、容，配置ip与hostname之间的映射192.168.1.131nodc1.192.168.1.132node2192.168.1.133node3可以将node,txt文件内容追加到etchostscatnode,txtetchosts脚本执行shbatch_scp.shnode.1.istetchosts/etc/2.4禁用SE1.inuxSE1.inux就是Sccurity-Enhanccd1.inux的简称,安全加强的IinUXo传统的IinUX权限是对文件和目录的owner,group和Other的rwx进行控制，而SE1.inUX采用的是委任式访问控制，也就是控制一个进程对具体文
24、件系统上面的文件和目录的访问，SE1.inux规定了很多的规则,来决定哪个进程可以访问哪些文件和目录。虽然SE1.inUX很好用，但是在多数情况我们还是将其关闭，因为在不了解其机制的情况下使用SE1.inux会导致软件安装或者应用部署失败。在所有节点执行SetenforCe0命令Shbatch_cmd.shnode,1.ist*SetenforceO臬群所有节点修改ctcsc1.inux/config文件如下（重启才能生效，所有需要配置上面的临时关闭）：SE1.INUX=disab1.edSE1.INUXTYPE=targetedshbatch_cmd.shnode.1.istsed-isSE
25、1.INUX=.*SE1.INUX=disab1.ed/etcse1.inux/configroot1.o1.host-vietcse1.inux/configI9Thisfi1.econtro1.sthestateofSE1.inuxonthesysten.tSE1.INUX*CMtakeoneofthesethreevo1.ues:9enforcingSE1.inuxsecuritypo1.icyisenforced.* perissive-SE1.inuxprint%warningsinsteadofenforcing.* disab1.ed-HoSE1.inuxpo1.icyis1.o
26、aded.SE1.INX=disb1.ed* SE1.INUXTYPE-cantakexcofthreetwova1.ues:9targeted-Targetedprocessesareprotected,nininu11-Modificationoftargetedpo1.icy.On1.yse1.ectedprocessesareprotected.*misMu1.ti1.eve1.Securityprotection.SE1.INXTYPE=targeted批量拷贝到其他节点shbatch_scp.shnode.1.istetcse1.inux/configetcse1.inux检查所有
27、机器是否已修改成功：Shbatchcmd.shnode.1istcatctcsc1.inux/config*）grepSE1.INUX2.5关闭防火墙集群所有节点执行Systemct1.stopfirewa1.1.d命令shbatchcmd.shnode.1ist*systcmct1stopfirewa11d,shbatch_cmd.shnode.1.ist,systemct1.disab1.efirewa1.Idshbatch_cmd.shnode.1.istrsystemct1.statusfirewa1.IdigrepActiveRemovedsy1.inketcsystemdsyste
28、dbus-org.fedoraproject.Firewa1.1.D1.service.Removedsya1.inketcsystemdsystebasic.target.wantsfirewa1.1.d.service.root1.oc1.hot-xc1.1.sSystewct1.statu%-node1.- firewa1.id.service-firewa1.1.d-dynaaicfirewa1.1.daeon1.OAded:1.oaded(usr1.ibsytedyteafircvM1.1.d.service;disab1.ed;vendorpreset:enab1.ed)Activ
29、e:inactive(ded)8月2216:09:581.oc1.hnt.IocA1.doeainytcd(1.):StartingIircwA1.1.ddyrumicfirewa1.1.dMwon.8月2216:9:591.ocd1.host.Ioca1.doMinsyt*d(1.):Started-dynaicfirewa1.1.daeoon.8月2216:55:071OCd1.hostsysted(1.:StoppingireMa1.1.d-dynakfirea1.】(Ueon.8月2216:55:8Iocd1.hostsyst1.1.:Stoppedirewo1.1.d-dy114if
30、irewa1.1.d*on.node2 firew1.id.service-firew1.1.d-dynHicfirvM1.1.deon1.oaded:1.oaded(uir1ib/syitedsystefirewa1.id.service;dibb1.ed;vendorpreset:enab1.ed)Active:inactive(dead)8月2216:16:371.oca1.hot.Ioca1.doeainytef1.d1.):Startingfircwa1.1.d-dyvMicfirewa1.1.d3c0n.8月2216:16:38Ioca1.hott.Iocj1.doeainytcd
31、(1.):StartedfircM1.1.d-dynoaicfircM*11daeon.8月2216:55:0)1.oc1.htsytrd1.:StoppingfiroMa1.1.d-dynamicfirewa1.1.deno.8月2216:53:MIocd1.hostWni1):StoppedirtvM11d-dynMicfira】d*eo.node)- 1.id.service-fireM11d-dy11kdeewon1.oaded:1.oedd(/usr/1.ib/systewd/syste/*irwd1.1.d.servie;disab1.ed;vendorpreset：enab1.e
32、d)Activ*:in/procsysvraswappinessShbatch_cmd.shnode.1.istcatprocsysvmswappinessroot1.oca1.hostnode1.ssh#xca1.1.shsysct1.vm.Swappiness=ICvm.swappiness=10node2vm.swappiness=10node3vm.swappiness=102.7关闭透明大页面在管理节点使用脚本执行：Shbatch_cmd.shnode.1.istechoneversyskerne1.mmtransparenthugcpagc/dcfragshbatch_cmd.sh
33、node.1.ist*catsyskerne1.mmtransparent-hugepage/defragshbatch_cmd.shnode.1.istechoneversyskerne1.11mtransparent_hUgePage/enab1edshbatchcmd.shnode.1.ist,catsyskcrnc1.11mtransparenthugepage/enab1.ed设置开机自关闭将如下脚本添加到ctcrc.drc.1.oca1.文件中iftest-f/sys/kerne1/mmtransparent_hugepage/enab1.ed；thenechonever/sys/
34、kerne1.ra11transparent_hugepage/enab1et1.fiiftest-f/sys/kerne1/mm/transparent_hugepage/defrag；thenechonever/sys/kerne1mmtransparenthugcpagc/defragfi也可直接使用脚本shbatch_cmd.shnode,txtechoiftest-fsyskerne1.nmtransparent_hugepage/enab1ed；thenetcrc.drc.Ioca1.zecho”echonever/sys/kerne1.mmtransparent_hugepage
35、/enab1edctcrc.drc.1.oca1.；echofictcrc.drc.1.oca1.shbatch_cmd.shnode.txtechoiftest-f/sys/kerne1./mm/transparcnthugcpagcdefrag：thenctcrc.drc.Ioca1.icchoecchonever/sys/kerne1/mm/transparent_hugepage/defragn/etcrc.drc.1.oca1.；echofi,etcrc.drc.1.oca1.同步到所有节点#赋予rc.1.oca1.脚本可执行权限catetcrc.drc.1.oca1.shbatch
36、_scp.shnode,1.istetcrc.drc.1.oca1.etcrc.d/shbatch_cmd.shnode.1.istchmod+xetcrc.drc.1.oca1.shbatchcmd.shnode,1.istIs-1ctcrc.d!greprc.1.oca1.2.8配置操作系统本地yum源挂载操作系统iso文件mkdir-PmediaDVI)1.mount-o1.oopCentOS-7-x86-64-DVD-1511.isomediaDVD1.df-h(root1.oca1.hostsoftware#三ou11t-o1.oopCentOS-7-x86-64-DVD-1511.
37、isomcdiaDVD1.mount:dcv100pO写保护,将以只漆方式挂root1.oca1.hostsoftware)#df-h文件系统容，己用可用己用挂栽点devappercentos-root101268.661O3GIX/devtpfs12G12GMdevtinpfS12G12GMdevshmtmpfs12GITM12G1%/runtmpf$126e12GMsysfsgroupdevsd1.497M125M373M25%/boottpfs2.46e2.4Gxrunuserdcv1.oope4.IG4.IGe10XmcdiDW1.配置操作系统repoErootQnode1.$SUdo
38、vietcyum.repos.d/1.oca1._os.repo1.oca1._isoname=CcntOS-$reIcascvcr-Mediabaseur1.=fi1.emediaDVD1.gpgcheck=Ocnab1.cd=1.rootnode1.sudoyumrepo1.ist以上内容中，baseur1.是指YUm源的地址,该路径下有个repoda1.a目录，就是yum安装源目录。fi1.e：表示yum源为文件。如果只想让1.oca1.,repo生效，可以在每台节点的/etc/yum.repos,d目录下创建一个repobak目录，将其他的以“.repo”结尾的文件都移动到repoba
39、k目录中。Shbatch_cmd.shnode.1.ist,mkdir-p/etc/yum.repos.d/repo_bakshbatch_cmd.shnode,1.istmvetcyum.repos.dCentOS-*/etc/yum.repos,d/rep。一bak”在每台节点上执行以下命令，更新yum源Shbatch_cmd.shnode.1.istyumc1.eana1.1.*shbatch_cmd.shnode.1.istyumrepo1.ist1.*jy*J*/*-*/J*-1.*3，root1.oca1.hostyum.repos.d#11总用量8-n-r-r-.1rootroo
40、t968月2219:00IOCa1.OS.repodrwxr-xr-x.2rootroot40968月2219:01repo_bak2.9 安装http服务安装apache的h1.tpd服务主要用于搭建OS、C1.ouderaManagersCDH的yum源。在集群服务器中选择一台服务器来安装httpd服务，命令如下：安装ht1.pd服务yum-yinsta1.1httpd启动httpd服务Systcmct1.starthttpdsystemct1.statushttpdsystemct1.enab1.ehttpd安装完httpd后，重新制作操作系统repo,换成http的方式方便其它服务器也可以访问nkdirvarwwhtm1./isoscp-rmcdiaDVI)1.*varwww/htm1/iso/rootQnode1.Ssudovietcyun.repos,dos.repoosreponame=os_repobaseur1.=http192.168.139.101isoenab1.ed=truegpgcheck=fa1.serootQnodc1.“1Ssudoyumrcpo1.ist在浏览器输入http：/192.168.139.101/iso看到如下截图则说明启动成功。eO不安全192.1.68.B9.101/iso/Ind
