当前位置: 首页 > article >正文

Doris性能优化建议

1、jdbc连接中添加参数rewriteBatchedStatements=true,将 JDBC 单条插入优化为批量操作

2、将单条插入攒成批后再插入,可先使用redis的zset存储,,每3秒后取出写入表中,写入失败再写回redis的zset

3、fe.conf中添加

按照机器可用内存的10/7赋予JAVA_OPTS=Xmx

为减少磁盘IO,可将sys_log_level的值设置为WARN
-- 库并发导入事务数
max_running_txn_num_per_db = 200
-- 避免在 FE 中堆积过多的报告任务
report_queue_size = 200
-- 启动单副本数据导入功能
enable_single_replica_load = true

4、be.conf中添加

按照机器可用内存的10/7赋予JAVA_OPTS=Xmx
-- 为减少磁盘IO
sys_log_level = WARNING
-- 启动单副本数据导入功能
enable_single_replica_load = true

5、分区分桶策略

按时间分区(如按天)减少数据扫描范围,避免全表扫描

合理设置 ​分桶数​(Bucket),单个分桶大小建议 ​1-3GB,避免过多小文件导致 Compaction 压力

6、列式存储与压缩

使用 ​ZSTD 或 ​LZ4 压缩算法减少存储空间和 I/O 开销

通过 ​前缀索引 优化查询和写入效率,减少无效字段的序列化开销


http://www.kler.cn/a/597133.html

相关文章:

  • 失物招领|校园失物招领系统|基于Springboot的校园失物招领系统设计与实现(源码+数据库+文档)
  • 【JavaEE进阶】部署Web项目到Linux服务器
  • shell流程控制
  • 操作系统导论——第13章 抽象:地址空间
  • Python网络编程入门
  • C语言入门教程100讲(2)变量与常量
  • 随笔(1)
  • 大模型-提示词工程与架构
  • MySQL Router被HTTP流量击穿
  • linux之 内存管理(1)-armv8 内核启动页表建立过程
  • Python协程调度
  • 一文分清重载与重写:Java 编程基础的关键辨析
  • OBOO鸥柏丨广告机终端控制端KylinOS麒麟、统信UOS/鸿蒙国产系统
  • nextjs使用next-intl要注意
  • 整理和总结微信小程序的高频知识点
  • SQL Server2019安装步骤+使用+解决部分报错+卸载(超详细 附下载链接)
  • 【GeeRPC】项目总结:使用 Golang 实现 RPC 框架
  • 可以高效记录工作生活琐事的提醒APP工具
  • 走进Java:String字符串的基本使用
  • SVN无法弹出账号密码