当前位置： 首页 > article >正文

深度了解flink(七) JobManager(1) 组件启动流程分析

article 2024/10/31 11:08:58

前言

JobManager是Flink的核心进程，主要负责Flink集群的启动和初始化，包含多个重要的组件(JboMaster，Dispatcher，WebEndpoint等)，本篇文章会基于源码分析JobManagr的启动流程，对其各个组件进行介绍，希望对JobManager有一个更全面的了解。

集群启动模式

ClusterEntryPoint是Flink集群的入口点的基类，该类是抽象类，类继承关系UML图如下

通过上图可知道，Flink有3种集群模式

Flink Session集群

根据不同的资源管理器，有3个不同的子类：

  • StandaloneSessionClusterEntrypoint Standalone session模式下集群的入口类
  • KubernetesSessionClusterEntrypoint K8s session模式下集群的入口类
  • YarnSessionClusterEntrypoint Yarn session模式下集群的入口类

集群生命周期：

在 Flink Session 集群中，客户端连接到一个预先存在的、长期运行的集群，该集群可以接受多个作业提交。即使所有作业完成后，集群（和 JobManager）仍将继续运行直到手动停止 session 为止。因此，Flink Session 集群的寿命不受任何 Flink 作业寿命的约束。

资源隔离：

Flink作业共享集群的ResourceManager和Dispacher等组件，TaskManager slot 由 ResourceManager 在提交作业时分配，并在作业完成时释放。由于所有作业都共享同一集群，因此在集群资源方面存在一些竞争 — 例如提交工作阶段的网络带宽。此共享设置的局限性在于，如果 TaskManager 崩溃，则在此 TaskManager 上运行 task 的所有作业都将失败；类似的，如果 JobManager 上发生一些致命错误，它将影响集群中正在运行的所有作业。

适用场景：

因为组件共享，session集群资源使用率高，集群预先存在，不需要额外申请资源，适合一些比较小的，不是长期运行的作业，例如SQL预览，交互式查询，实时任务测试环境等

Flink Per Job集群

只要Yarn提供了继承的子类：YarnJobClusterEntrypoint

集群生命周期：

在 Flink Job 集群中，可用的集群管理器（例如 YARN）用于为每个提交的作业启动一个集群，并且该集群仅可用于该作业。一旦作业完成，Flink Job 集群将被拆除。

资源隔离：

每一个提交的Flink应用程序单独创建一套完整集群环境，该Job独享使用的计算资源和组件服务。

使用场景：

实时由于Per Job模式下用户应用程序的main方法在客户端执行生成JobGraph，任务量大情况下存在性能瓶颈，目前已被标记为废弃状态。

Flink Application集群

根据不同的资源管理器，有3个不同的子类：

  • StandaloneApplicationClusterEntryPoint Standalone Application模式下集群的入口类
  • KubernetesApplicationClusterEntrypoint K8s Application模式下集群的入口类
  • YarnApplicationClusterEntryPoint Yarn Application模式下集群的入口类

集群生命周期：

Flink Application 集群是专用的 Flink 集群，仅从 Flink 应用程序执行作业，并且main方法在集群上而不是客户端上运行。应用程序逻辑和依赖打包成一个可执行的作业 JAR 中，并且集群入口（ApplicationClusterEntryPoint）负责调用main方法来提取 JobGraph

资源隔离：

每一个提交的Flink应用程序单独创建一套完整集群环境，该Job独享使用的计算资源和组件服务。

使用场景：

Application模式资源隔离性好，Per Job模式的替换方案，适合长期运行、具有高稳定性的大型作业

JobManager启动流程

JobManger启动流程在不同模式下基本相同，Standalone模式可以在本地运行（可以参考），方便Debug，因为使用Standalone模式的入口类StandaloneSessionClusterEntrypoint进行启动流程的分析。

main方法入口

public static void main(String[] args) {
    // 打印系统相关信息
    EnvironmentInformation.logEnvironmentInfo(
        LOG, StandaloneSessionClusterEntrypoint.class.getSimpleName(), args);
    //信号注册器，注册系统级别的信号，接收到系统级别终止信号优雅的关闭
    SignalHandler.register(LOG);
    //注册一个安全的钩子，这样jvm停止之前会睡眠5s去释放资源，5s之后强制关闭
    JvmShutdownSafeguard.installAsShutdownHook(LOG);

    // 解析命令行参数，获取配置信
    final EntrypointClusterConfiguration entrypointClusterConfiguration =
    ClusterEntrypointUtils.parseParametersOrExit(
        args,
        new EntrypointClusterConfigurationParserFactory(),
        StandaloneSessionClusterEntrypoint.class);
    //加载config.yaml，构建Configuration对象
    Configuration configuration = loadConfiguration(entrypointClusterConfiguration);

    StandaloneSessionClusterEntrypoint entrypoint =
    new StandaloneSessionClusterEntrypoint(configuration);

    ClusterEntrypoint.runClusterEntrypoint(entrypoint);
}

主要步骤：

  1. 打印系统信息。
  2. 注册信号处理器，注册系统级别的信号，确保优雅关闭。
  3. 注册一个安全的钩子，这样jvm停止之前会睡眠5s去释放资源，5s之后强制关闭。
  4. 解析命令行参数，加载配置文件。
  5. 初始化 StandaloneSessionClusterEntrypoint。
  6. 调用 ClusterEntrypoint#runClusterEntrypoint 方法启动集群。

ClusterEntrypoint#runClusterEntrypoint

public static void runClusterEntrypoint(ClusterEntrypoint clusterEntrypoint) {

final String clusterEntrypointName = clusterEntrypoint.getClass().getSimpleName();
try {
    //
    clusterEntrypoint.startCluster();
} catch (ClusterEntrypointException e) {
    LOG.error(
        String.format("Could not start cluster entrypoint %s.", clusterEntrypointName),
        e);
    System.exit(STARTUP_FAILURE_RETURN_CODE);
}

//无关代码 无需关注
}

核心步骤：

  • 调用 clusterEntrypoint.startCluster() 启动集群。

ClusterEntrypoint#startCluster

public void startCluster() throws ClusterEntrypointException {
       //无关代码 无需关注
        try {
            FlinkSecurityManager.setFromConfiguration(configuration);
            //插件管理类，用来加载插件。插件加载两种方式。
            //1).通过如下参数配置FLINK_PLUGINS_DIR。
            //2).将插件jar包放入到plugins下
            PluginManager pluginManager =
                    PluginUtils.createPluginManagerFromRootFolder(configuration);
            //初始化文件系统的配置
            configureFileSystems(configuration, pluginManager);
            //初始化安全上下文环境 默认HadoopSecurityContext，Hadoop安全上下文，
            //使用先前初始化的UGI(UserGroupInformation)和适当的安全凭据。比如Kerberos。
            //总结：初始化安全环境，创建安全环境的时候会做一系列的检查。
            SecurityContext securityContext = installSecurityContext(configuration);

            ClusterEntrypointUtils.configureUncaughtExceptionHandler(configuration);
            //安全的情况下调用runCluster开始初始化组件
            securityContext.runSecured(
                    (Callable<Void>)
                            () -> {
                                runCluster(configuration, pluginManager);

                                return null;
                            });
        } catch (Throwable t) {
            //异常处理代码 无需关注
        }
    }

startCluster方法主要做了一些环境和配置初始化的工作

主要步骤：

  1. 初始化插件管理器，用来加载插件。
  2. 初始化文件系统设置 例如 hdfs、本地file。此时只是初始化的配置。
  3. 初始化安全环境。
  4. 安全环境下调用 runCluster 方法。

ClusterEntrypoint#runCluster

private void  runCluster(Configuration configuration, PluginManager pluginManager)
            throws Exception {
        synchronized (lock) {
            //初始化集群所需要的服务：例如通信服务，监控服务，高可用服务等
            initializeServices(configuration, pluginManager);

            // write host information into configuration
            configuration.set(JobManagerOptions.ADDRESS, commonRpcService.getAddress());
            configuration.set(JobManagerOptions.PORT, commonRpcService.getPort());

            //创建Dispatcher和ResourceManger组件的工厂类
            final DispatcherResourceManagerComponentFactory
                    dispatcherResourceManagerComponentFactory =
                            createDispatcherResourceManagerComponentFactory(configuration);

            //创建Dispatcher和ResourceManger组件
            clusterComponent =
                    dispatcherResourceManagerComponentFactory.create(
                            configuration,
                            resourceId.unwrap(),
                            ioExecutor,
                            commonRpcService,
                            haServices,
                            blobServer,
                            heartbeatServices,
                            delegationTokenManager,
                            metricRegistry,
                            executionGraphInfoStore,
                            new RpcMetricQueryServiceRetriever(
                                    metricRegistry.getMetricQueryServiceRpcService()),
                            failureEnrichers,
                            this);
            //组件停止运行后的异步方法
            clusterComponent
                    .getShutDownFuture()
                    .whenComplete(
                        //代码省略
                    )
                            
        }
    }

主要步骤：

1.初始化集群所需要的服务：例如通信服务，监控服务，高可用服务等

2.创建Dispatcher和ResourceManger组件的工厂类

3.创建Dispatcher和ResourceManger组件

4.定义组件停止运行后的异步方法

总结

本篇文章分享了Flink任务的集群模式，通过源码的方式分析了JobManger的启动流程，后续会对JobManger相关的服务和组件进行更详细的分析。


http://www.kler.cn/a/372889.html

相关文章：

  • ip命令网络配置详解
  • 【机器学习】 15. SVM 支撑向量机 support vector machine，拉格朗日，软边界，核函数
  • 环形运输距离Conveyor Belts
  • JAVA多线程--CAS补充
  • Python教程： __slots__限制类实例对象动态添加属性和方法
  • HT7178 带输出关断的20V,14A全集成同步升压转换器
  • 【HarmonyOS】鸿蒙应用低功耗蓝牙BLE的使用心得 （一）
  • 四款国内外远程桌面软件横测：ToDesk、向日葵、TeamViewer、AnyDesk
  • go-logger v0.27.0 - 并发性能为官方库 10 倍
  • uv: 一个统一的Python包管理工具
  • 游戏引擎中的颜色科学
  • 使用docx4j+docx4j-ImportXHTML实现将html转成word
  • PHP合成图片，生成海报图，poster-editor使用说明
  • 华为云Stack名词解释
  • 嵌入式硬件电子电路设计（一）开关电源Buck电路
  • es安装拼音分词后Kibana出现内存错误
  • HTML入门教程8：HTML格式化
  • 数据采集-Kepware OPCUA 服务器实现
  • 基于单片机的直流电机控制系统（论文+源码）
  • 智慧应急系统建设方案
  • 基于物联网设计的地下煤矿安全监测与预警
  • 【C++题解】1184. 数字走向I
  • JAVA学习-练习试用Java实现“计算两个数的和”
  • 《IDEA 使用技巧分享》
  • 一七二、Vue3性能优化方式
  • vue3uniapp实现自定义拱形底部导航栏，解决首次闪烁问题