枢轴火花斯卡拉据帧
问题描述:
我想在斯卡拉火花使用透视方法枢轴火花斯卡拉据帧
val dfOutput = df_input.groupBy("memberlogin").pivot("country_group2").count()
然而,尽管同时在Eclipse中创建一个罐子里, 同时执行火花,其给予没有任何compliation错误误差作为 - Exception in thread "main" java.lang.NoSuchMethodError:
org.apache.spark.sql.GroupedData.pivot(Ljava/lang/String;)Lorg/apache/spark/sql/GroupedData;
我已导入所希望的库,
import org.apache.spark.sql.GroupedData
import org.apache.spark.sql.functions
也
import sqlContext.implicits._
尽可能少的其他线程声称。
它不工作,无法理解,有人可以帮助或指导方向?
答
在Spark 1.6
中添加了旋转功能,它使创建数据透视表成为可能,使用DataFrame
(使用Scala,Java或Python)创建数据透视表。
什么是您使用的火花的版本 –
谢谢Indrajit :-)你的提示在这个问题上为我工作。我在1.5版本的平行系统中运行它,只是升级它为我工作。 –
然后请接受答案,以便对其他人有所帮助 –