枢轴火花斯卡拉据帧

问题描述:

我想在斯卡拉火花使用透视方法枢轴火花斯卡拉据帧

val dfOutput = df_input.groupBy("memberlogin").pivot("country_group2").count() 

然而,尽管同时在​​Eclipse中创建一个罐子里, 同时执行火花,其给予没有任何compliation错误误差作为 -
Exception in thread "main" java.lang.NoSuchMethodError:

org.apache.spark.sql.GroupedData.pivot(Ljava/lang/String;)Lorg/apache/spark/sql/GroupedData; 

我已导入所希望的库,

import org.apache.spark.sql.GroupedData 
import org.apache.spark.sql.functions 

import sqlContext.implicits._ 

尽可能少的其他线程声称。

它不工作,无法理解,有人可以帮助或指导方向?

+0

什么是您使用的火花的版本 –

+0

谢谢Indrajit :-)你的提示在这个问题上为我工作。我在1.5版本的平行系统中运行它,只是升级它为我工作。 –

+0

然后请接受答案,以便对其他人有所帮助 –

Spark 1.6中引入的旋转功能请查看本文档Reshaping Data with Pivot in Apache Spark。检查APIPivot Api

Spark 1.6中添加了旋转功能,它使创建数据透视表成为可能,使用DataFrame(使用Scala,Java或Python)创建数据透视表。