Eclipse远程调试Spark

修改配置文件

修改${spark_home}/bin/spark-class文件：

"$RUNNER" -Xmx128m -cp "$LAUNCH_CLASSPATH" org.apache.spark.launcher.Main -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8888 "$@"

这里写图片描述

参数说明：

• -Xdebug 启用调试特性

• -Xrunjdwp 启用JDWP实现，包含若干子选项：

• transport=dt_socket JPDA front-end和back-end之间的传输方法。dt_socket表示使用套接字传输。

• address=8888 JVM在8888端口上监听请求，这个设定为一个不冲突的端口即可。

• server=y
  y表示启动的JVM是被调试者。如果为n，则表示启动的JVM是调试器。

• suspend=y y表示启动的JVM会暂停等待，直到调试器连接上才继续执行。suspend=n，则JVM不会暂停等待。

启动Spark Application

用eclipse将项目export出jar包，传到集群上使用spark-submit提交Application，可以看到在等待：

这里写图片描述

注意，传到集群上的代码要和本地一样！

在Eclipse设置远程调试的ip和port

• Debug as
• Debug Configurations
• Remote Java Application

• 配置ip和port

  
  
  

  这里写图片描述