基于spark1.3.1的spark-sql实战是怎么样的

基于spark1.3.1的spark-sql实战是怎么样的,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。

将HIVE_HOME/conf/hive-site.xml 文件copy到SPARK_HOME/conf/下

未由配置单元站点配置时。xml,上下文自动在当前目录中创建metastore_db和warehouse。

// sc is an existing SparkContext.val sqlContext = new org.apache.spark.sql.hive.HiveContext(sc)sqlContext.sql("CREATE TABLE IF NOT EXISTS src (key INT, value STRING)")sqlContext.sql("LOAD DATA LOCAL INPATH 'examples/src/main/resources/kv1.txt' INTO TABLE src")// Queries are expressed in HiveQLsqlContext.sql("FROM src SELECT key, value").collect().foreach(println)

JDBC To Other Databases

基于spark1.3.1的spark-sql实战是怎么样的

加载mysql数据库:test,表:t_user_new返回DataFrame

基于spark1.3.1的spark-sql实战是怎么样的

查询数据:

基于spark1.3.1的spark-sql实战是怎么样的

Performance Tuning

基于spark1.3.1的spark-sql实战是怎么样的

spark 程序操作JDBC:

基于spark1.3.1的spark-sql实战是怎么样的

基于spark1.3.1的spark-sql实战是怎么样的

基于spark1.3.1的spark-sql实战是怎么样的

基于spark1.3.1的spark-sql实战是怎么样的

基于spark1.3.1的spark-sql实战是怎么样的

基于spark1.3.1的spark-sql实战是怎么样的

看完上述内容是否对您有帮助呢?如果还想对相关知识有进一步的了解或阅读更多相关文章,请关注行业资讯频道,感谢您对亿速云的支持。