当前位置: 首页 > article >正文

spark-submit

学会将程序提交到集群上执行。

相关知识

为了完成本关任务,你需要掌握:1.了解spark-submit的参数。2.学会提交Spark程序在集群运行。

spark-submit参数
参 数介 绍
--master提交到哪里执行,如 standalone,local,yarn,mesos等
--name 应用程序的名称
--class应用程序的主类
--deploy-mode Driver 程序运行的地方,client 或者 cluster,默认是client
--driver-memory Driver内存,默认 1G
--executor-memory每个executor的内存,默认是1G

使用格式:

  1. ./bin/spark-submit
  2. --class
  3. --master
  4. --deploy-mode
  5. --conf
  6. ... # other options
  7. application-jar
计算圆周率
  1. cd /opt/spark/dist/bin
  2. ./spark-submit
  3. --master local
  4. --class org.apache.spark.examples.SparkPi
  5. /opt/spark/dist/examples/jars/spark-examples_2.11-2.2.0.jar

./spark-submit --master 本地模式 --class 程序运行的主类名 xxx.jar
 

cp -r  Spark/SparkRDD/target/project.jar /root

cd /opt/spark/dist/bin

#********** Begin **********#



./spark-submit --class Student /root/project.jar



#********** End **********#


http://www.kler.cn/news/149911.html

相关文章:

  • 靡靡之音 天籁之声 ——Adobe Audition
  • stm32 计数模式
  • Django路由分发
  • 荣耀IPO站上新起点:市场望眼欲穿,发展未来可期
  • Redis-Day1基础篇(初识Redis, Redis常见命令, Redis的Java客户端)
  • Sass基础知识之【变量】
  • 【送书活动二期】Java和MySQL数据库中关于小数的保存问题
  • Fuzz进阶教学——人工智能在模糊测试中的应用
  • Linux使用宝塔面板+Discuz+cpolar内网穿透工具搭建可公网访问论坛
  • nodejs669在线图书借阅管理系统vue前端
  • 第20章 多线程
  • Vue框架学习笔记——Vue实例中el和data的两种写法
  • Redis 基础、字符串、哈希、有序集合、集合、列表以及与 Jedis 操作 Redis 和与 Spring 集成。
  • 【备忘录】快速回忆ElasticSearch的CRUD
  • Linux: Ftrace: function_graph 里面有irq处理的函数
  • Linux使用固定ip地址
  • Linux MYSQL-5.7.23-rpm安装(附带安装包)
  • 基于深度学习的点云三维目标检测方法综述
  • 算法基础之KMP算法
  • PHP连接数据库 错误抑制 三元运算符 学习资料
  • 解决PDF预览时,电子签章、日期等不显示问题
  • 基于springboot实现农机电招平台系统项目【项目源码+论文说明】计算机毕业设计
  • einj 注入内存ue/ce故障
  • 人工智能_机器学习055_拉格朗日乘子法_拉格朗日乘数法的原理介绍_流程详解---人工智能工作笔记0095
  • 团购生鲜系统丨分销丨外卖丨跑腿丨app小程序H5,源码交付,支持二开!
  • 轻松整合Knife4j:快速搭建Swagger文档界面与接口调试
  • 面试题背诵,回答的思路和模板,思路清晰
  • 【论文笔记】SDCL: Self-Distillation Contrastive Learning for Chinese Spell Checking
  • 基于LangChain实现的知识库问答工具Langchain-Chatchat
  • 数据库的增删查改(CRUD)基础版