【数据平台】Eclipse+Scala开发环境(本机和集群两个运行模式)

1)环境:

集群部署centos+jdk1.8+spark-1.5.0+Scala-2.11.8;

开发端windows+Eclipse Mars.1 Release (4.5.1)

2)安装eclipse-scala-plugin插件

http://scala-ide.org/download/prev-stable.html下载版本:

【数据平台】Eclipse+Scala开发环境(本机和集群两个运行模式)

解压后将features和plugins中的文件放到eclipse对应的目录中。

3)引入SparkJar包,工程示例如下:

【数据平台】Eclipse+Scala开发环境(本机和集群两个运行模式)

加入后Run时提示找不到类,不知道是否是对应的版本问题,在工程属性上调整:

【数据平台】Eclipse+Scala开发环境(本机和集群两个运行模式)

4) 单词计数本机运行:新建Scala Object

【数据平台】Eclipse+Scala开发环境(本机和集群两个运行模式)

5)本机开发提交集群运行

 【数据平台】Eclipse+Scala开发环境(本机和集群两个运行模式)