火花sbt与graphx
问题描述:
我是新来的scala和sbt的东西,所以我不知道为什么我得到的错误。火花sbt与graphx
,以下是我build.sbt
name := "graphx-example"
version := "1.0"
scalaVersion := "2.11.8"
libraryDependencies ++= Seq(
"com.typesafe" % "config" % "1.3.1",
"org.scalatest" % "scalatest_2.11" % "3.0.4" % "test",
"org.apache.spark" % "spark-core_2.11" % "2.2.0",
"org.apache.spark" % "spark-sql_2.11" % "2.2.0" % "provided",
"org.apache.spark" % "spark-graphx_2.11" % "1.2.1" % "provided"
)
,但我得到了以下错误:
[error] (run-main-0) java.lang.NoClassDefFoundError: org/apache/spark/sql/SQLContext
java.lang.NoClassDefFoundError: org/apache/spark/sql/SQLContext
at java.lang.Class.getDeclaredMethods0(Native Method)
at java.lang.Class.privateGetDeclaredMethods(Class.java:2701)
at java.lang.Class.privateGetMethodRecursive(Class.java:3048)
at java.lang.Class.getMethod0(Class.java:3018)
at java.lang.Class.getMethod(Class.java:1784)
Caused by: java.lang.ClassNotFoundException: org.apache.spark.sql.SQLContext
at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
at java.lang.Class.getDeclaredMethods0(Native Method)
at java.lang.Class.privateGetDeclaredMethods(Class.java:2701)
at java.lang.Class.privateGetMethodRecursive(Class.java:3048)
at java.lang.Class.getMethod0(Class.java:3018)
答
这是版本不匹配。您可以使用:
- 星火2.2
- GraphX 1.2。
所有Spark组件应该有相同的主版本。
此外您的provided
似乎是错误的。通常,你应该提供所有的Spark库,或者没有。