火花sbt与graphx

火花sbt与graphx

问题描述:

我是新来的scala和sbt的东西,所以我不知道为什么我得到的错误。火花sbt与graphx

,以下是我build.sbt

name := "graphx-example" 

version := "1.0" 

scalaVersion := "2.11.8" 

libraryDependencies ++= Seq(
    "com.typesafe" % "config" % "1.3.1", 
    "org.scalatest" % "scalatest_2.11" % "3.0.4" % "test", 
    "org.apache.spark" % "spark-core_2.11" % "2.2.0", 
    "org.apache.spark" % "spark-sql_2.11" % "2.2.0" % "provided", 
    "org.apache.spark" % "spark-graphx_2.11" % "1.2.1" % "provided" 

) 

,但我得到了以下错误:

[error] (run-main-0) java.lang.NoClassDefFoundError: org/apache/spark/sql/SQLContext 
java.lang.NoClassDefFoundError: org/apache/spark/sql/SQLContext 
    at java.lang.Class.getDeclaredMethods0(Native Method) 
    at java.lang.Class.privateGetDeclaredMethods(Class.java:2701) 
    at java.lang.Class.privateGetMethodRecursive(Class.java:3048) 
    at java.lang.Class.getMethod0(Class.java:3018) 
    at java.lang.Class.getMethod(Class.java:1784) 
Caused by: java.lang.ClassNotFoundException: org.apache.spark.sql.SQLContext 
    at java.net.URLClassLoader.findClass(URLClassLoader.java:381) 
    at java.lang.ClassLoader.loadClass(ClassLoader.java:424) 
    at java.lang.ClassLoader.loadClass(ClassLoader.java:357) 
    at java.lang.Class.getDeclaredMethods0(Native Method) 
    at java.lang.Class.privateGetDeclaredMethods(Class.java:2701) 
    at java.lang.Class.privateGetMethodRecursive(Class.java:3048) 
    at java.lang.Class.getMethod0(Class.java:3018) 

这是版本不匹配。您可以使用:

  • 星火2.2
  • GraphX 1.2。

所有Spark组件应该有相同的主版本。

此外您的provided似乎是错误的。通常,你应该提供所有的Spark库,或者没有。