当前位置: 首页 > article >正文

Apache Dolphinscheduler可视化 DAG 工作流任务调度系统

Apache Dolphinscheduler

关于

一个分布式易扩展的可视化 DAG 工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用

DolphinScheduler 的主要特性如下:

  • 易于部署,提供四种部署方式,包括Standalone、Cluster、Docker和Kubernetes
  • 易于使用,可以通过四种方式创建和管理工作流,包括Web UI、Python SDK和Open API
  • 高可靠高可用,多主多从的去中心化架构,原生支持横向扩展
  • 高性能,性能比其他编排平台快N倍,每天可支持千万级任务
  • Cloud Native,DolphinScheduler支持编排多云/数据中心工作流,支持自定义任务类型
  • 对工作流和工作流实例(包括任务)进行版本控制
  • 工作流和任务的多种状态控制,支持随时暂停/停止/恢复它们
  • 多租户支持
  • 其他如补数支持(Web UI 原生),包括项目和数据源的权限控制

快速开始

  • 如果想要体验
    • standalone 启动
    • Docker 启动
  • 想 Kubernetes 部署
    • Kubernetes 部署

系统部分截图

  • 主页:项目和工作流概览,包括最新的工作流实例和任务实例状态统计。 

    home

  • 工作流定义: 通过拖拉拽创建和管理工作流,轻松构建和维护复杂的工作流。 

    workflow-definition

  • 工作流树状图: 抽象的树形结构可以更清晰地理解任务之间的关系 

    workflow-tree

  • 数据源: 支持管理多种外部数据源,为MySQL、PostgreSQL、Hive、Trino等,并提供统一的数据访问能力。 

    data-source

  • 监控:实时查看master、worker和数据库的状态,包括服务器资源使用情况和负载情况,无需登录服务器即可快速进行健康检查。 

    monitor

二开参考:DolphinScheduler分布式调度系统二开 - 编译、打包、部署_dolphinscheduler 二次开发-CSDN博客 


http://www.kler.cn/a/427882.html

相关文章:

  • TDengine 做 Google Looker Studio 数据源
  • Ubuntu 18.04安装Emacs 26.2问题解决
  • AI大模型开发原理篇-6:Seq2Seq编码器-解码器架构
  • 【腾讯云】腾讯云docker搭建单机hadoop
  • SQL注入漏洞之绕过[前端 服务端 waf]限制 以及 防御手法 一篇文章给你搞定
  • dify实现原理分析-rag-检索(Retrieval)服务的实现
  • 【Elasticsearch】ES+MySQL实现迷糊搜索
  • 【062B】基于51单片机无线病房呼叫系统(+时间)【Keil程序+报告+原理图】
  • 使用CIFS挂载nas到centos
  • Android仿美团左右联动购物列表
  • 数据分析类论文通过stata进行数据预处理(一)
  • 数据仓库全生命周期管理
  • 怎么实现邮件营销自动化?
  • 数据结构-查找
  • 基于 Apache Dolphinscheduler3.1.9中的Task 处理流程解析
  • Qt之第三方库‌QXlsx使用(三)
  • Dockerfile容器镜像构建技术
  • 13.在 Vue 3 中使用OpenLayers加载鹰眼控件示例教程
  • PDF解析方法详解 JavaPython 原创
  • 距离与AoA辅助的三维测距算法(适用于四个基站的情况的单点定位),MATLAB代码
  • python使用h5py保存数据
  • D614 PHP+MYSQL +失物招领系统网站的设计与现 源代码 配置 文档
  • 【Axure高保真原型】数值条件分组
  • [C++设计模式] 深入理解面向对象设计原则
  • 解决Jupyter Notebook无法转化为Pdf的问题(基于Typora非常实用)
  • shell脚本实战案例