spark-submit运行jar包脚本命令

论坛 期权论坛 脚本     
匿名网站用户   2020-12-20 06:05   72   0

找到spark-submit文件的目录

目录/spark-submit --master spark://192.168.172.10:7077 --executor-memory 2g --total-executor-cores 10  --driver-memory 4G  --class com.test.main.test test.jar
参数:

--master spark集群主节点的地址
--executor-memory 每个Executor进程的内存
--total-executor-cores 所有的executor使用的总CPU核数
--driver-memory 设置Driver进程的内存
--class 要运行的main函数类 类所在的jar包

登录192.168.172.10:18080监控界面查看程序是否运行

分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:1136255
帖子:227251
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP