学习笔记(1):大数据之Hive-Hive安装配置和简单命令
立即学习:https://edu.****.net/course/play/8005/164128?utm_source=blogtoedu
hive 架构
1、 web ui、command line等
2、 metaStore存放元数据
3、 HQL ProcessEngine 把 sql 翻译成 MapReduce,编写 sql 代替 MapReduce 程序
4、 Execution Engine 处理查询,生成结果
5、 MapReduce 作为计算框架
6、 hdfs/hbase 存储数据载体
hive sql 工作原理
- 用户提交查询等任务给Driver。
- 编译器获得该用户的任务Plan。
- 编译器Compiler根据用户任务去MetaStore中获取需要的Hive的元数据信息。
- 编译器Compiler得到元数据信息,对任务进行编译,先将HiveQL转换为抽象语法树,然后将抽象语法树转换成查询块,将查询块转化为逻辑的查询计划,重写逻辑查询计划,将逻辑计划转化为物理的计划(MapReduce), 最后选择最佳的策略。
- 将最终的计划提交给Driver。
- Driver将计划Plan转交给ExecutionEngine去执行,获取元数据信息,提交给JobTracker或者SourceManager执行该任务,任务会直接读取HDFS中文件进行相应的操作。
- ExecutionEngine返回结果给Driver。
- 返回执行结果给UI。