网站首页 > 技术文章 正文
HUE版本:3.12.0
Hive版本:2.1.0
前言
通过浏览器访问ip:8888登陆HUE界面,首次登陆会提示你创建用户,这里使用账号/密码:hue/hue登陆。
特别说明:该专栏文章均来源自微信公众号《大数据实战演练》,欢迎关注!
关于HUE与Hive的集成配置修改,详情请参阅《HUE配置与各服务集成使用》
一、业务场景
执行Hive SQL脚本查询mytable表数据前10条,field以”\t”分割,并输出到hdfs指定路径。
二、创建mytable表
create table if not exists mytable(sid int ,sname string) row format delimited fields terminated by ' ' stored as textfile;
三、创造数据
样例数据mytable.txt,将其放到HDFS路径的/tmp/目录下
1 张三 2 李四 3 王五 4 李六 5 不告你
将数据导入mytable中,执行以下命令:
load data inpath "/tmp/mytable.txt" into table mytable;
四、创建Hive SQL脚本
在HDFS路径/user/hue/learn_oozie/mazy_hive_1下,创建mazy_hive_1.sql,sql中的参数使用${hivevar:参数}展示,内容如下:
INSERT overwrite directory '${hivevar:outputpath}' row format delimited fields terminated by "\t" SELECT sid,sname FROM mytable LIMIT 10;
五、创建Workflow
将HiveServer2移动到箭头处,添加sql脚本,添加参数:
outputpath=/user/hue/learn_oozie/mazy_hive_1/output
如下图所示:
六、设置Workflow并执行
点击“设置”,如下图所示:
默认配置oozie.use.system.libpath为true,这样会在工作区目录下默认新建lib包,如果需要jar包依赖的话,可以放在lib目录下。
工作区的目录HUE会默认生成,也可以自定义设置,lib文件会生成在该工作区内。
这里将工作区设为:/user/hue/learn_oozie/mazy_hive_1。
设置完毕后,执行该Workflow。
七、查看结果
执行Workflow后,会生成一个job作业,job所属用户为登陆HUE Web的用户。 等Workflow执行成功后,在HDFS路径上查看/user/hue/learn_oozie/mazy_hive_1/output/00000-0文件,如下图所示:
八、总结
在HUE上通过Oozie调用Hive SQL任务流:
- 需要先创建好Hive SQL语句,
- 然后在Oozie Workflow里面选择Hiveserver2;
- 选择之前创建好的Hive SQL语句,设置变量;
- 设置工作区及依赖的jar包路径
- 执行Workflow
--END--
码字不易,如果您觉得文章写得不错,请扫码关注公众号支持作者~ 您的关注是我写作的最大动力
友情提示:原文排版精美,可点击分享链接查看。
猜你喜欢
- 2024-10-12 大数据分析工具——hive入门 hive数据分析的一般流程是什么
- 2024-10-12 019Hive基本使用03 019Hive基本使用03 #liaoit
- 2024-10-12 手把手教你搭建Hive环境 搭建hive集群
- 2024-10-12 0474-如何使用SQL Developer访问Hive
- 2024-10-12 大数据之-HIVE入门(十四) php hive大数据处理
- 2024-10-12 Hive 迁移参考方案及测试(下) hive表迁移
- 2024-10-12 0263-Hive2.2.0如何与CDH集群中的Spark1.6集成
- 2024-10-12 百度二面:你做过哪些Hive调优啊? hive调优与参数设置
- 2024-10-12 HiveSQL:如何从给定的日期中减去指定数量的天数?
- 2024-10-12 0671-6.2.0-如何将CDH5.12的Hive元数据迁移到CDH6.2
你 发表评论:
欢迎- 最近发表
- 标签列表
-
- oraclesql优化 (66)
- 类的加载机制 (75)
- feignclient (62)
- 一致性hash算法 (71)
- dockfile (66)
- 锁机制 (57)
- javaresponse (60)
- 查看hive版本 (59)
- phpworkerman (57)
- spark算子 (58)
- vue双向绑定的原理 (68)
- springbootget请求 (58)
- docker网络三种模式 (67)
- spring控制反转 (71)
- data:image/jpeg (69)
- base64 (69)
- java分页 (64)
- kibanadocker (60)
- qabstracttablemodel (62)
- java生成pdf文件 (69)
- deletelater (62)
- com.aspose.words (58)
- android.mk (62)
- qopengl (73)
- epoch_millis (61)
本文暂时没有评论,来添加一个吧(●'◡'●)