当前位置: 首页 > article >正文

实时数据开发 | 一文理解Flink窗口机制

窗口操作在流处理和批处理之间起到了桥梁的作用。

Flink引擎本质上是流式引擎,认为批处理是流处理的一个特例。因此,通过窗口将流数据划分为有限大小的集合,使得在这些有界的数据集上可以进行批处理风格的计算。
通过配置窗口的参数,如长度滑动间隔,可以精确地控制数据的聚合和计算频率,以满足各种业务需求。

组件

Flink的窗口操作内部实际上包含了三个组件来描述和定义一个窗口:WindowAssigner、Trigger和Evictor

  • Window Assigner 用来决定某个元素被分配到哪个/哪些窗口中去;
  • Trigger(触发器)决定了一个窗口何时能够被计算或清除,每个窗口都会拥有一个自己的 Trigger ;
  • Evictor(驱逐者)则在 Trigger 触发之后,并且在窗口被处理之前,剔除窗口中不需要的元素,其相当于一个过滤器。

类型:时间&数量

Flink支持两种主要类型的窗口:基于时间的窗口和基于数量的窗口。

  • 基于时间的窗口:这种窗口根据时间戳将数据流划分为不同的时间段。
    选择合适的窗口类型对于处理无限数据流和实现有效的实时分析至关重要。在Flink中,可以根据数据特性和业务需求选择不同的窗口类型:
    1. 滚动窗口:适合处理周期性的任务。是固定时间长度的窗口,不重叠地依次划分数据流。例如,每五分钟计算一次数据的平均值。
    2. 滑动窗口:用于需要更频繁更新结果的场景。滑动窗口有固定的长度和滑动间隔,允许窗口重叠,从而提供更细粒度的实时数据更新。例如,每五分钟滑动一次的十分钟窗口,可以每五分钟更新前十分钟的数据分析。
    3. 会话窗口:适合用于用户会话等不固定长度的窗口,自动根据空闲(或不活动)时间来划分窗口。这对于分析用户行为的非连续活动非常有效。
  • 基于数量的窗口:这种窗口依据流入元素的数量来划分数据。例如,每当接收到一定数量的数据元素后,就生成一个窗口进行处理。

在实际应用中,选择窗口时需考虑以下几点:

  • 数据的性质:是否有固定的时间间隔或需要实时更新。
  • 业务需求:是否需要精细的时间粒度及对结果的更新频率。
  • 性能影响:窗口的大小和类型会对系统的性能和资源消耗产生影响。

生命周期

从窗口生命周期来讲,只有当属于此窗口的第一个元素到达后,才会创建此窗口,当窗口结束时间到的时候(如果指定了窗口的允许延迟时间,还要加上此延迟时间),窗口被完全删除。窗口生命周期管理确保了流数据的有序处理,并在合适的时间点执行计算,使流处理高效且可预测。

Flink保证仅移除基于时间的窗口,而不移除其他类型(例如全局窗口等)。例如,某job 使用基于事件时间的窗口操作,假定使用5min 的翻滚窗口,并且允许延迟lmimn延迟,那么Flink将在 12:00 和12:05 之间并且当落人此间隔时间戳的第一个元素到达时创建此窗口,并将在watermark超过12:06 时将其删除。


http://www.kler.cn/a/412007.html

相关文章:

  • 线程与进程的个人理解
  • Jmeter测试工具的安装和使用,mac版本,jmeter版本5.2.1
  • 利用浏览器录屏
  • Kubeadm 安装 Kubernetes 高可用集群 v1.30.0
  • AX58100+STM32使用FSMC接口,运行EtherCAT Slave协议栈
  • 51单片机从入门到精通:理论与实践指南入门篇(二)
  • 算法学习笔记(十):位运算、数论等
  • Java多态的优势和弊端
  • 入门岛-L0G1000
  • 【H2O2|全栈】JS进阶知识(十)ES6(6)
  • golang版本管理工具:scoop使用
  • Docker 技术:构建高效容器化环境的关键
  • QML TableView 实例演示 + 可能遇到的一些问题(Qt_6_5_3)
  • 裸金属 GPU 上线!DigitalOcean 提供单用户独享H100资源
  • 蓝桥杯不知道叫什么题目
  • 微信小程序加载商品首页数据时,页码没有更新,老是page=1。
  • LAMP环境的部署
  • 【大数据学习 | Spark-Core】RDD的缓存(cache and checkpoint)
  • 网络安全防范课后参考答案
  • vue3 发送 axios 请求时没有接受到响应数据
  • laravel 5.5 增加宏指令 joinSub, 省去->toSql() 和 addBinding($bindings);
  • [每日一氵] Git LFS 用法
  • 【SQL Server】华中农业大学空间数据库实验报告 实验五 索引
  • 2、Python变量定义及数据类型深度解析
  • 电话机器人如何提高工作效率?
  • 网络知识1-TCP/IP模型