CDH5离线安装手册

2019-03-29 09:49

Cloudera manage(离线)安装手册

1. 准备工作 1.1. 系统环境

硬件设备:16G内存,1.8T 网络组成: 172.16.41.41 j1 172.16.41.42 j2 172.16.41.43 j3 操作系统:Centos6.4 64位

1.2. 安装JDK

从官方网站上下载rpm包,本次使用版本1.7.0_79(CDH5可能支持1.7之前的版本,具体情况未经测试),执行命令: rpm -ivhjdk-7u60-linux-x64.rpm

由于是rpm包并不需要我们来配置环境变量,我们只需要配置一个全局的JAVA_HOME变量即可,执行命令:

echo \执行命令,查看Jdk是否安装正确 java -version javac -version

1.3. 修改主机名

修改/etc/sysconfig/network文件: NETWORKING=yes HOSTNAME=j1

其中HOSTNAME与主机名一致。

主机名如果跟系统安装时不一致请执行hostname命令让其立即生效,否则会影响各节点互相访问,命令如下: hostname master

修改/etc/hosts文件,添加:

172.16.41.41 j1

172.16.41.42 j2 172.16.41.43 j3

重新启动网络服务,执行命令: service network restart

1.4. 关闭防火墙

防火墙会引起hadoop相关组件通讯的各种异常。防火墙: service iptables stop (临时关闭) chkconfigiptables off (重启后生效) 设置SELINUX:

setenforce 0 (临时生效)

修改/etc/selinux/config下的 SELINUX=disabled (重启后生效)

1.5. SSH无密钥验证

所有节点均执行如下命令,遇到提示一路回车即可: ssh-keygen -t rsa

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys_$hostname scp各数据节点文件authorized_keys到主节点: scp ~/.ssh/authorized_keysroot@j1:~/.ssh/

合并各节点文件authorized_keys_$hostname到文件authorized_keys: cat~/.ssh/authorized_keys_$hostname>>authorized_keys 主机分发合并后的authorized_keys所有节点主机: scp ~/.ssh/authorized_keysroot@j2:~/.ssh/ scp ~/.ssh/authorized_keysroot@j3:~/.ssh/

然后输入密码即可,以后再到其他机器就不需要密码额。

1.6. 安装NTP服务

所有节点安装相关组件:ntp与ntpdate。按顺序安装即可,完成后,配置开机启动: yum install ntp chkconfigntpd on 检查是否设置成功: chkconfig --list ntpd

1.7. 安装Mysql数据库 检查安装环境

查找以前是否装有mysql,命令:

rpm -qa|grep -i mysql

可以看到mysql的两个包: mysql-4.1.12-3.RHEL4.1

mysqlclient10-3.23.58-4.RHEL4.1 删除mysql

删除命令:rpm -e --nodeps 包名 ( rpm -ev mysql-4.1.12-3.RHEL4.1 ) 删除老版本mysql的开发头文件和库 rm -fr /usr/lib/mysql rm -fr /usr/include/mysql

注意:卸载后/var/lib/mysql中的数据及/etc/my.cnf不会删除,如果确定没用后就手工删除 rm -f /etc/my.cnf rm -fr /var/lib/mysql

安装mysql

使用yum源安装,执行安装命令: yum install mysql-server yum install mysql-delvel

1.8. 配置mysql数据库

启动mysql数据库 servicemysqld start 修改初始密码:

修改MySQL数据库root用户的初始密码,先查下初始密码 cat /root/.mysql_secret

使用初始密码登陆mysql数据库,登陆命令为: mysql–uroot–p

执行如下命令修改数据库root用户密码: set password=password('root'); 刷新权限表: flush privileges;

将mysql设置成开机启动,测试使用新密码进行登陆。 chkconfigmysqld on

本次安装需要创建如下数据库 --hive数据库

create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci --集群监控数据库

create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci --hue数据库

create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci

2. 安装CM 2.1. 下载安装包

下载地址http://archive-primary.cloudera.com/cm5/cm/5/,根据自己的系统选择相应的版本,本次安装选用的是cloudera-manager-el6-cm5.4.3_x86_64.tar.gz。下载完成后只上传到j1节点即可。然后解压到/opt目录下,不能解压到其他地方,因为cdh5的源会默认在/opt/cloudera/parcel-repo寻找,怎么制作cdh5的本地源文件会在之后介绍。

2.2. 安装CM

给所有节点添加cloudera-scm用户:

useradd --system --home=/opt/cm-5.4.3/run/cloudera-scm-server/ --shell=/bin/false --comment \

--no-create-home

修改/opt/cm-5.4.3/etc/cloudera-scm-agent/config.ini 下面的server_host # Hostname of the CM server. server_host=j1

上传mysql驱动包mysql-connector-java-5.1.26-bin.jar到/opt/cm-5.4.3/share/cmf/lib/目录: cp /root/data/mysql-connector-java-5.1.22-bin.jar /opt/cm-5.4.3/share/cmf/lib/

为Cloudera Manager 5建立数据库:

/opt/cm-5.4.3/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -proot --scm-host localhostscmscmscm

格式是:scm_prepare_database.sh 数据库类型 数据库服务器用户名密码 –scm-host Cloudera_Manager_Server所在的机器,后面那三个不知道代表什么,直接照抄官网的了。

开启Cloudera Manager 5 Server端:

/opt/cm-5.4.3/etc/init.d/cloudera-scm-server start

注意server首次启动不要立即关闭或重启,因为首次启动会自动创建相关表以及数据,如果因为特殊原因中途退出,请先删除所有表以及数据之后再次启动,否则将会出现启动不成功的情况。

开启Cloudera Manager 5 Agents端:

先scp /opt/cm-5.4.1到所有datanode节点上,然后在每台机器上开启Agents端: scp -r /opt/cm-5.4.3 root@j2:/opt scp -r /opt/cm-5.4.3 root@j3:/opt

等待拷贝成功,在所有datanode节点上启动:(注意必须以管理员权限启动) /opt/cm-5.4.3/etc/init.d/cloudera-scm-agent start

浏览器启动Cloudera Manager 5 控制台(172.16.41.41:7180),启动成功就会看到登陆页面。

3. 安装CDH 3.1. 下载CDH版本

下载CDH版本到本地http://archive-primary.cloudera.com/cdh5/parcels/5.0.0/,需要下载三样东西:

1、 与操作系统版本相对应的parcel包 2、 manifest.json文件。

3、 CDH-5.4.4-1.cdh5.4.3.p0.4-el6.parcel.sha1文件。

3.2. 安装CDH 本地源制作

下载完成后将这三个文件放到master节点的/opt/cloudera/parcel-repo下(目录在安装Cloudera Manager 5时已经生成),并将CDH-5.4.4-1.cdh5.4.4.p0.4-el6.parcel.sha1重命名为CDH-5.4.4-1.cdh5.4.4.p0.4-el6.parcel.sha。

CDH安装

打开http://172.16.41.41:7180,登陆控制台,默认账户和密码都是admin,安装时选择免费版,之后由于cm5对中文的支持很强大,按照提示安装即可,如果系统配置有什么问题在安装过程中会有提示,根据提示选择impala组件安装就可以了。 安装完成后,在控制台可以看到所装的组件和各组件的运作状态:


CDH5离线安装手册.doc 将本文的Word文档下载到电脑 下载失败或者文档不完整,请联系客服人员解决!

下一篇:金蝶K3产品环境及行业篇常见问题

相关阅读
本类排行
× 注册会员免费下载(下载后可以自由复制和排版)

马上注册会员

注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: