网站首页 > 技术文章 正文
spark 3+版本内置的hive是2.3.7,可以读取不同版本hive元数据,而且不需要重新编译spark的安装包。
以下官网说明:
http://spark.apache.org/docs/latest/sql-data-sources-hive-tables.html
从spark1.4.0以后,spark就可以读取版本hive元数据,是用如下配置,
在spark-default.xml设置:
spark.sql.hive.metastore.version 3.1.0
spark.sql.hive.metastore.jars path
spark.sql.hive.metastore.jars.path file:///data/etl/hive310/*
注意:spark.sql.hive.metastore.jars.path是hive目录下全部jar包
参数说明:
spark.sql.hive.metastore.version: 指定hive元数据版本,默认是2.3.7;
spark.sql.hive.metastore.jars:spark读取hive元数据所使用的jar包,有以下几个选项:
1.builtin: 内置hive 2.3.7,可以在spark/jars目录下查看,spark.sql.hive.metastore.version要指定为2.3.7或者不指定;
2.path: 指定路径模式,支持本地或者远程的目录,这个路径是指hive/jars
猜你喜欢
- 2024-10-12 大数据分析工具——hive入门 hive数据分析的一般流程是什么
- 2024-10-12 019Hive基本使用03 019Hive基本使用03 #liaoit
- 2024-10-12 手把手教你搭建Hive环境 搭建hive集群
- 2024-10-12 0474-如何使用SQL Developer访问Hive
- 2024-10-12 大数据之-HIVE入门(十四) php hive大数据处理
- 2024-10-12 Hive 迁移参考方案及测试(下) hive表迁移
- 2024-10-12 0263-Hive2.2.0如何与CDH集群中的Spark1.6集成
- 2024-10-12 如何在HUE上通过oozie调用Hive SQL工作流
- 2024-10-12 百度二面:你做过哪些Hive调优啊? hive调优与参数设置
- 2024-10-12 HiveSQL:如何从给定的日期中减去指定数量的天数?
你 发表评论:
欢迎- 最近发表
- 标签列表
-
- oraclesql优化 (66)
- 类的加载机制 (75)
- feignclient (62)
- 一致性hash算法 (71)
- dockfile (66)
- 锁机制 (57)
- javaresponse (60)
- 查看hive版本 (59)
- phpworkerman (57)
- spark算子 (58)
- vue双向绑定的原理 (68)
- springbootget请求 (58)
- docker网络三种模式 (67)
- spring控制反转 (71)
- data:image/jpeg (69)
- base64 (69)
- java分页 (64)
- kibanadocker (60)
- qabstracttablemodel (62)
- java生成pdf文件 (69)
- deletelater (62)
- com.aspose.words (58)
- android.mk (62)
- qopengl (73)
- epoch_millis (61)
本文暂时没有评论,来添加一个吧(●'◡'●)