当前位置: 首页 > article >正文

Spark基本介绍

一,Spark是什么

1.定义:Aache Spark是用于大规模数据处理的统一分析引擎。

二,Spark的发展

三,Spark的特点

  • 高效性

    • 计算速度快

      • 提供了一个全新的数据结构RDD(弹性分布式数据集)。整个计算操作,基于内存计算。当内存不足的时候,可以放置到磁盘上。整个流程是基于DAG(有向无环图)执行方案。

      • Task线程完成计算任务执行

  • 易用性

    • 支持多种语言开发 (Python,SQL,Java,Scala,R),降低了学习难度

  • 通用性

    • 在 Spark 的基础上,Spark 还提供了包括Spark SQL、Spark Streaming、MLlib 及GraphX在内的多个工具库(模块),我们可以在一个应用中无缝地使用这些工具库。

  • 兼容性(任何地方运行)

    • 支持三方工具接入

      • 存储工具

        • hdfs

        • kafka

        • hbase

      • 资源调度

        • yarn

        • Kubernetes(K8s容器)

        • standalone(spark自带的)

      • 高可用

        • zookeeper

    • 支持多种操作系统

      • Linux

      • windows

      • Mac

给一个快速记忆的方法: speed, easy use , general , runs everywhere


http://www.kler.cn/a/469281.html

相关文章:

  • react 封装一个类函数使用方法
  • 【C语言程序设计——选择结构程序设计】求阶跃函数的值(头歌实践教学平台习题)【合集】
  • 常用LabVIEW算法及应用
  • 容器技术思想 Docker K8S
  • .NET 9.0 WebApi 发布到 IIS 详细步骤
  • 系统架构师考试-ABSD基于架构的设计方法
  • 《新概念模拟电路》-电流源电路
  • android开发从入门进阶到高级学习资料集合
  • 日期时间选择(设置禁用状态)
  • ChatUML:AI自动生成UML图表
  • National Science Review 基于柔性光栅结构色的触觉感知方法及传感器
  • springboot集成websokcet+H5开发聊天原型(二)
  • 【FlutterDart】 拖动改变 widget 的窗口尺寸大小GestureDetector~简单实现(10 /100)
  • 利用TCP协议实现客户端—服务器端通信
  • GTX750Ti打DP补丁
  • SQL-leetcode-196. 删除重复的电子邮箱
  • 【服务器项目部署】✈️将本地项目部署到服务器(二)!
  • 【2025最新计算机毕业设计】基于SSM高校校园易换站二手交易平台(高质量源码,可定制,免费部署到本地)
  • UNI-APP弹窗
  • Airflow:HttpSensor实现API驱动数据流程
  • MySQL(三)MySQL DML数据库操作语言
  • Linux硬盘分区 --- gdisk命令GPT分区
  • 基于Springboot的相亲网站系统【附源码】
  • 学习笔记079——数据结构之【树】
  • 开源AI智能名片2+1链动模式S2B2C商城小程序在商业流量获取中的应用研究
  • 【网络协议】IPv4 地址分配 - 第一部分