hadoop学习之hadoop环境搭建
在学习中使用的hadoop的版本
使用的hadoop相关版本:CDH
CDH相关软件包下载地址:http://archive.cloudera.com/cdh5/cdh/5/
链接
hadoop使用版本:hadoop-2.6.0-cdh5.15.1
Hive使用版本:hive-1.1.0-cdh5.15.1
hadoop下载:wget http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.15.1.tar.gz
此外的补充说明:
Hadoop/Hive/Spark相关框架的学习:使用单机版足够
一定不要使用Windows搭建hadoop环境
hadoop安装前置要求
Java 1.8+
ssh
安装jdk1.8到centos中的方法
拷贝本地安装包到服务器的安装包目录
下载到本地后,用git bash切到放tar文件的地方执行
scp的使用scp jdk-8u231-linux-x64.tar.gz [email protected]:~/software/
解压jdk到软件目录~/app/
tar
-c: 建立压缩档案
-x:解压
-t:查看内容
-r:向压缩归档文件末尾追加文件
-u:更新原压缩包中的文件
这五个是独立的命令,压缩解压都要用到其中一个,可以和别的命令连用但只能用其中一个。下面的参数是根据需要在压缩或解压档案时可选的。
-z:有gzip属性的
-j:有bz2属性的
-Z:有compress属性的
-v:显示所有过程
-O:将文件解开到标准输出
下面的参数-f是必须的
-f: 使用档案名字,切记,这个参数是最后一个参数,后面只能接档案名。
-C:切换到指定的目录,指定解压文件到…这个目录下
把jdk配置到系统环境变量中
根目录下
添加java配置
使得配置生效:
测试:可以看到
安装ssh无密码登录部署
如何查看隐藏文件?ls -a
前面带点的
我的已经有ssh了
如何有ssh(没有.ssh),给个案例:
这个是有的
这个是没有的
每次需要设密码
执行:
可以看到出现文件:
通过cd命令可以回到根目录
此时还需密码登录
根目录下执行
ssh-****** -t rsa 一路回车
id_rsa私钥 id_rsa.pub公钥
.ssh下执行
cat id_rsa.pub >> authorized_keys
我遇到了主机名不一致的问题,问题不大,修改文件
最后重新来了一遍,问题解决
建议修改权限
chmod 600 authorized_keys
此时