当前位置: 首页 > article >正文

Kafka 无消息丢失最佳实战

1. 不要使用 producer.send(msg),而要使用 producer.send(msg, callback)。记住,一
定要使用带有回调通知的 send 方法。
2. 设置 acks = all。acks 是 Producer 的一个参数,代表了你对“已提交”消息的定义。
如果设置成 all,则表明所有副本 Broker 都要接收到消息,该消息才算是“已提交”。
这是最高等级的“已提交”定义。
3. 设置 retries 为一个较大的值。这里的 retries 同样是 Producer 的参数,对应前面提到
的 Producer 自动重试。当出现网络的瞬时抖动时,消息发送可能会失败,此时配置了 retries > 0 的 Producer 能够自动重试消息发送,避免消息丢失。
4. 设置 unclean.leader.election.enable = false。这是 Broker 端的参数,它控制的是哪
些 Broker 有资格竞选分区的 Leader。如果一个 Broker 落后原先的 Leader 太多,那么
它一旦成为新的 Leader,必然会造成消息的丢失。故一般都要将该参数设置成 false,
即不允许这种情况的发生。
5. 设置 replication.factor >= 3。这也是 Broker 端的参数。其实这里想表述的是,最好将
消息多保存几份,毕竟目前防止消息丢失的主要机制就是冗余。
6. 设置 min.insync.replicas > 1。这依然是 Broker 端参数,控制的是消息至少要被写入
到多少个副本才算是“已提交”。设置成大于 1 可以提升消息持久性。在实际环境中千
万不要使用默认值 1。
7. 确保 replication.factor > min.insync.replicas。如果两者相等,那么只要有一个副本挂
机,整个分区就无法正常工作了。我们不仅要改善消息的持久性,防止数据丢失,还要
在不降低可用性的基础上完成。推荐设置成 replication.factor = min.insync.replicas +
1。
8. 确保消息消费完成再提交。Consumer 端有个参数 enable.auto.commit,最好把它设
置成 false,并采用手动提交位移的方式。就像前面说的,这对于单 Consumer 多线程
处理的场景而言是至关重要的。

系列阅读

  1. 设计模式与技术组件
  2. 电商系统的分布式事务调优
  3. 如何设计安全的开放接口


http://www.kler.cn/a/536815.html

相关文章:

  • idea 找不到或者无法加载主类
  • π0开源了且推出自回归版π0-FAST——打造机器人动作专用的高效Tokenizer:比扩散π0的训练速度快5倍但效果相当
  • 数据结构:顺序表
  • leetcode_78子集
  • C语言——深入理解指针(1)
  • NacosRce到docker逃逸实战
  • 公司配置内网穿透方法笔记
  • 找零钱问题(C++)
  • SystemUI中NavigationBar分析
  • Vue笔记(二)
  • 通过代理模式理解Java注解的实现原理
  • (2024|CVPR,MLLM 幻觉)OPERA:通过过度信任惩罚和回顾分配缓解多模态大型语言模型中的幻觉
  • 【深度学习】关于模型训练的一些基本概念
  • openai库 及LangChain 跟ChatGPT对话的主要接口
  • java虚拟机JVM简单介绍(可用于面试)
  • 微信小程序longpress以及touchend的bug,touchend不触发,touchend不执行
  • Java - 在Linux系统上使用OpenCV和Tesseract
  • Gitee AI上线:开启免费DeepSeek模型新时代
  • Nginx部署Umi React前端项目标准配置
  • 1.1 学习代理(Agent)分为几步?
  • 2025 CCF BDCI|“基于TPU平台的OCR模型性能优化”一等奖作品
  • Ubuntu 下 nginx-1.24.0 源码分析 - ngx_strerror 函数
  • 【LeetCode 刷题】贪心算法(4)-区间问题
  • Ubuntu Server 部署网页 (如果无域名 可局域网访问)
  • 【每天学点AI】实战仿射变换在人工智能图像处理中的应用
  • CTRL: 一种用于可控生成的条件Transformer语言模型