hadoop学习之hadoop环境搭建

在学习中使用的hadoop的版本

使用的hadoop相关版本:CDH
CDH相关软件包下载地址:http://archive.cloudera.com/cdh5/cdh/5/
链接
hadoop使用版本:hadoop-2.6.0-cdh5.15.1
Hive使用版本:hive-1.1.0-cdh5.15.1
hadoop下载:wget http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.15.1.tar.gz
hadoop学习之hadoop环境搭建
此外的补充说明:
Hadoop/Hive/Spark相关框架的学习:使用单机版足够
一定不要使用Windows搭建hadoop环境

hadoop安装前置要求

Java 1.8+

ssh

hadoop学习之hadoop环境搭建

安装jdk1.8到centos中的方法

拷贝本地安装包到服务器的安装包目录

hadoop学习之hadoop环境搭建
下载到本地后,用git bash切到放tar文件的地方执行
scp的使用scp jdk-8u231-linux-x64.tar.gz [email protected]:~/software/
hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建

解压jdk到软件目录~/app/

hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
tar
-c: 建立压缩档案
-x:解压
-t:查看内容
-r:向压缩归档文件末尾追加文件
-u:更新原压缩包中的文件

这五个是独立的命令,压缩解压都要用到其中一个,可以和别的命令连用但只能用其中一个。下面的参数是根据需要在压缩或解压档案时可选的。

-z:有gzip属性的
-j:有bz2属性的
-Z:有compress属性的
-v:显示所有过程
-O:将文件解开到标准输出

下面的参数-f是必须的

-f: 使用档案名字,切记,这个参数是最后一个参数,后面只能接档案名。

-C:切换到指定的目录,指定解压文件到…这个目录下

把jdk配置到系统环境变量中

hadoop学习之hadoop环境搭建
根目录下
hadoop学习之hadoop环境搭建
添加java配置
hadoop学习之hadoop环境搭建
使得配置生效:
hadoop学习之hadoop环境搭建
测试:可以看到
hadoop学习之hadoop环境搭建

安装ssh无密码登录部署

如何查看隐藏文件?ls -a
前面带点的
hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
我的已经有ssh了
如何有ssh(没有.ssh),给个案例:
这个是有的
hadoop学习之hadoop环境搭建
这个是没有的
hadoop学习之hadoop环境搭建
每次需要设密码
执行:
hadoop学习之hadoop环境搭建

可以看到出现文件:hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
通过cd命令可以回到根目录
hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
此时还需密码登录
根目录下执行
ssh-****** -t rsa 一路回车hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
id_rsa私钥 id_rsa.pub公钥
.ssh下执行
cat id_rsa.pub >> authorized_keys
hadoop学习之hadoop环境搭建
hadoop学习之hadoop环境搭建
我遇到了主机名不一致的问题,问题不大,修改文件hadoop学习之hadoop环境搭建
最后重新来了一遍,问题解决
hadoop学习之hadoop环境搭建
建议修改权限
chmod 600 authorized_keys
hadoop学习之hadoop环境搭建
此时hadoop学习之hadoop环境搭建