Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

一:master配置

1. 新建tmp目录

Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

2. master,slave配置

Master:Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

Slave:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

3. core-site.xml配置

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

4.mapred-site.xml配置

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

5. hdfs-site.xml配置

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

6. hadoop-env.sh配置

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 

7. 本地网络配置:

Vim /etc/hosts

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

配置临时生效:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

永久生效:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

检查:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

二:slave配置:

1. 将master解压后配置的hadoop copy到两个slave中

2. 本地网络配置:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

临时生效:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

永久生效

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 

三:注意事项:

1. 网络传输。关闭防火墙:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

检查:

(空,是关闭)

2. 避免网络传输出现问题难排查:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

检查:

(关闭状态)

四:各个机器节点之间通过ssh访问无需密码的配置:

1. 在master节点执行:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建2.拷贝公钥到私钥

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

3. 到slave机器中,将公钥拷贝到master的authorized_keys中:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 

4. 将这个文件拷贝到slave1和slave2中:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

(互信关系建立)Ssh免登陆检查:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 

五,启动集群:

1. 格式化:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

2. 启动命令:

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

3. 检查:

Master节点:Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

Slave:Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

4. hadoop命令测试:

查看,上传文件,读取文件

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

 Hadoop从入门到精通1:Hadoop2.6.1全分布式集群搭建

Chkconfig查看所有服务自启的配置

Chkconfig iptables off设置服务的自启