当前位置: 首页 > article >正文

Java基础|多线程:多线程分页拉取

前言:

通常我们都会遇到分页拉取的需求,比如与第三方系统同步数据,定时拉取全量数据做缓存,下面我们简单介绍下多线程分页写法

需求:
全量同步第三方系统数据,并在全部数据同步完后,统一做缓存数据处理

前置条件:
1.使用springBoot的ThreadPoolTaskExecutor 多线程封装数据
2.springBoot2.x、jdk8

完成步骤:
1.计算对应页数,把每页需求
2.循环多线程拉取
3.多线程内的子线程都完成了之后,再统一做缓存

具体代码:
1.多线程+CountDownLatch


    public void doRepetition() {
        log.info("处理重复组合编码 start");
        doneService.initRingCode();
        List<DoneRingPO> doneRingList = doneRingMapper.queryRepetitionRing();
        if (CollectionUtils.isEmpty(doneRingList)) {
            log.info("处理重复组合编码为空,处理重复组合编码 end");
            return;
        }
        for (DoneRingPO item : doneRingList) {
            List<DoneRingPO> repetitionCodeList = doneRingMapper.queryDoneRingByCode(Collections.singletonList(String.valueOf(item.getCode())));
            for (int i = 1; i < repetitionCodeList.size(); i++) {
                repetitionCodeList.get(i).setCode(redisTemplate.opsForValue().increment(DoneCacheKey.DONE_RING_CODE_INCR.getKey()));
            }
            for (DoneRingPO ringPo : repetitionCodeList) {
                doneRingMapper.updateRingCode(ringPo);
            }
        }
        log.info("处理重复组合编码 end");
    }

2.多线程+CompletableFuture


    public void testMulti(Integer totalNum) throws Exception {
        int totalPage = totalNum;
        final List<CompletableFuture<String>> futureList = new ArrayList<>();
        for (int i = 1; i <= totalPage; i++) {
            try {
                final int page =i;
                futureList.add(CompletableFuture.supplyAsync(() -> {
                    //TODO 执行耗时任务
                    log.info("耗时任务page={}",page);
                    return Integer.toString(page);
                }, taskExecutor));
            } catch (Exception e) {
                log.error("线程异常....", e);
            }
        }
        final CompletableFuture<Void> allOf = CompletableFuture.allOf(futureList.toArray(new CompletableFuture[0]));
        //线程等待完成
        allOf.get();
        //TODO 执行缓存任务
        log.info("结束");
    }
	

http://www.kler.cn/a/318537.html

相关文章:

  • 阿里巴巴通义灵码推出Lingma SWE-GPT:开源模型的性能新标杆
  • AI 扩展开发者思维方式:以 SQL 查询优化为例
  • 【Rust练习】21.动态数组 Vector
  • [CKS] K8S ServiceAccount Set Up
  • Spark 的容错机制:保障数据处理的稳定性与高效性
  • aws(学习笔记第十二课) 使用AWS的RDS-MySQL
  • Python画笔案例-054 绘制流光溢彩动画
  • windows C++-指定特定的计划程序策略
  • unix中如何查询和修改进程的资源限制
  • 2024年中国研究生数学建模竞赛B题 (WLAN组网吞吐量机理建模+决策树 完整建模文章)
  • 基于物联网技术的智能运动检测仪设计(微信小程序)(230)
  • 从零开始,Docker进阶之路(二):Docker安装
  • Leetcode面试经典150题-39.组合总和
  • AMD-9950X(至尊旗舰)对比I9性能如何?孰强孰弱
  • 点云与Open3D
  • PCL 用八叉树方法压缩点云
  • vue中使用exceljs和file-saver插件实现纯前端表格导出Excel(支持样式配置,多级表头)
  • MySQL程序
  • 观后感:《中国数据库前世今生》——时代变迁中的数据库崛起
  • 个性化大语言模型:PPlug——让AI更懂你
  • mfc异步TCP Client通信向主线程发送接收消息
  • wpf中如何访问控件和生成使用事件?
  • FME学习笔记
  • Leetcode 106. 从中序与后序遍历序列构造二叉树
  • 计算机毕业设计之:基于微信小程序的中药材科普系统(源码+文档+讲解)
  • vue3/Element/Tabs 标签页的使用与详解