CDH平台搭建

1.cdh简介

**
Cloudera版本（Cloudera’s Distribution Including Apache Hadoop，简称“CDH”），基于Web的用户界面,支持大多数Hadoop组件，包括HDFS、MapReduce、Hive、Pig、 Hbase、Zookeeper、Sqoop,简化了大数据平台的安装、使用难度，是Hadoop众多分支中的一种，由Cloudera维护，基于稳定版本的Apache Hadoop构建，提供了Hadoop的核心（可扩展存储，分布式计算）。
CDH平台搭建
版本划分清晰，版本更新速度快，支持Kerberos安全认证，文档清晰，支持多种安装方式（Cloudera Manager方式）。

2.cdh的部署

建库脚本
##amon
create database amon DEFAULT CHARACTER SET utf8;
grant all on amon.* TO ‘amon’@’%’ IDENTIFIED BY ‘amon’;

##hive
create database hive DEFAULT CHARACTER SET utf8;
grant all on hive.* TO ‘hive’@’%’ IDENTIFIED BY ‘hive’;

##oozie
create database oozie DEFAULT CHARACTER SET utf8;
grant all on oozie.* TO ‘oozie’@’%’ IDENTIFIED BY ‘oozie’;

3.ClouderaManager

Cloudera Manager是一个管理CDH的端到端的应用。
Cloudera Manager架构图
CDH平台搭建
Server
管理控制台服务器和应用程序逻辑
负责软件安装、配置
启动和停止服务
管理服务运行的群集
Agent
安装在每台主机上
负责启动和停止进程，配置，监控主机
Management Service
由一组角色组成的服务，执行各种监视、报警和报告功能
Database
Cloudera Repository
Clients
Admin Console
API

3.ClouderaManager的部署

①、网络配置
vi /etc/sysconfig/network
vi /etc/hosts

②、SSH免**登录
ssh-****** -t rsa -P ‘’ -f ~/.ssh/id_rsa
ssh-copy-id

③、防火墙关闭
service iptables stop
chkconfig iptables off

④、SELINUX关闭
setenforce 0
vi /etc/selinux/config (SELINUX=disabled)

⑤、安装JDK配置环境变量
export JAVA_HOME=/usr/java/jdk1.7.0_67
export PATH= $JAVA_HOME/bin:$ PATH
export CLASSPATH=.: $JAVA_HOME/lib/dt.jar:$ JAVA_HOME/lib/tools.jar

⑥、安装NTP
设置开机启动 chkconfig ntpd on
设置时间同步
ntpdate 202.120.2.101

⑦、安装配置mysql
yum install mysql-server
GRANT ALL PRIVILEGES ON . TO ‘root’@’%’ IDENTIFIED BY ‘123’ WITH GRANT OPTION;
flush privileges

⑧、下载第三方依赖包
chkconfig、python、bind-utils、psmisc、libxslt、zlib、sqlite、cyrus-sasl-plain、
cyrus-sasl-gssapi、fuse、fuse-libs、redhat-lsb

3.ClouderaManager安装

①、安装Cloudera Manager Server、Agent
mkdir /opt/cloudera-manager
tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager

②、创建用户cloudera-scm
useradd --system --no-create-home --shell=/bin/false --comment “Cloudera SCM User” cloudera-scm

③、配置CM Agent
修改文件/opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini中server_host

④、配置CM Server数据库
拷贝mysql jar文件到目录 /usr/share/java/
注意jar包名称要修改为mysql-connector-java.jar

grant all on . to ‘temp’@’%’ identified by ‘temp’ with grant option;
cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/
./scm_prepare_database.sh mysql temp -h node01 -utemp -ptemp --scm-host node01 scm scm scm
格式：数据库类型、数据库、数据库服务器、用户名、密码、cm server服务器

⑤、创建Parcel目录
Server节点
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
Agent节点
mkdir -p /opt/cloudera/parcels
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
⑥、制作CDH本地源
下载好文件CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel以及manifest.json，将这两个文件放到server节点的/opt/cloudera/parcel-repo下。
打开manifest.json文件，里面是json格式的配置，找到与下载版本相对应的hash码，新建文件，文件名与你的parel包名一致，并加上.sha后缀，将hash码复制到文件中保存。

⑦、启动CM Server、Agent
cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/
./cloudera-scm-server start
Sever首次启动会自动创建表以及数据，不要立即关闭或重启，否则需要删除所有表及数据重新安装
./cloudera-scm-agent start

访问：http://ManagerHost:7180，
用户名、密码：admin
若可以访问，则CM安装成功。
CDH平台搭建

1.cdh简介

2.cdh的部署

3.ClouderaManager

3.ClouderaManager的部署

3.ClouderaManager安装

相关推荐