当前位置: 首页 > article >正文

ModernTCN:用于一般时间序列分析的现代纯卷积结构

ModernTCN,一种现代纯卷积结构,它在多个主流时间序列分析任务上取得了与最先进的基于Transformer和MLP的模型相媲美的性能,同时保持了卷积模型的效率优势。

原文链接:

https://openreview.net/pdf?id=vpJMJerXHU

代码链接:

https://github.com/luodhhh/ModernTCN

图片

ModernTCN与以往基于卷积的方法的有效感受野(ERF)。更广泛分布的明亮区域表示更大的ERF。文章的ModernTCN能够获得比以往基于卷积的方法更大的ERF。同时,扩大核心尺寸是获得大ERF的更有效方式,而不是堆叠更多小的核心。

图片

ModernTCN块设计。M、N、D分别是变量、时间和特征维度的大小。DWConv和PWConv分别是深度卷积和逐点卷积的缩写。Groups是群组卷积中的组数。在设计中采用了BN(批量归一化)和GeLU。

创新之处

ModernTCN是一种现代化的纯卷积结构,它通过以下几个关键创新点,成功地将卷积技术重新带回时间序列分析的舞台:

  1. 现代化的卷积块设计:借鉴了Transformer中的架构设计,ModernTCN采用了深度卷积和逐点卷积的组合,以提高模型的表示能力。

  2. 时间序列相关的修改:为了更好地处理时间序列数据,ModernTCN引入了变量独立嵌入和跨变量依赖捕获机制。

  3. 扩大有效感受野(ERF):通过使用大核心尺寸而不是堆叠更多小核心,ModernTCN显著扩大了ERF,这有助于更好地捕捉时间序列数据中的长期依赖性。

主要结果

ModernTCN 在五种主流时间序列分析任务上以更高的效率实现了始终如一的最新性能。

图片

免费快速领取方式(文末):ModernTCN:用于一般时间序列分析的现代纯卷积结构 (qq.com)

   最后:

小编会不定期发布相关设计内容包括但不限于如下内容:信号处理、通信仿真、算法设计、matlab appdesigner,gui设计、simulink仿真......希望能帮到你!

 


http://www.kler.cn/news/337242.html

相关文章:

  • 陶哲轩:数学不仅仅是严谨性和证明
  • 下一代性能怪兽RTX 5090最新规格更新与Blackwell架构解析
  • YOLO11改进|注意力机制篇|引入反向残差移动快iRMB
  • 【Linux】文件IO系统[ 库函数 ]封装了[ 系统调用 ] +【区分文件结构体FILE和file与files_srtuct表】(读写接口盘点与介绍)
  • 电脑端视频通过PCIE到FPGA端转UDP网络视频输出,基于XDMA+PHY芯片架构,提供3套工程源码和技术支持
  • Vue常见问题
  • Python软体中使用NLTK进行文本分析
  • Java面试题——第八篇(JVM)
  • 从 TCP Reno 经 BIC 到 CUBIC
  • CVSS 4.0 学习笔记
  • FPGA远程烧录bit流
  • LiteAIServer最新版本功能免费发布,新支持视频质量诊断、老鼠识别、裸土、固废、扬尘识别
  • 牛羊检测数据集 3700张 牛羊检测平视 带标注 voc yolo 2类
  • YOLOv11改进,YOLOv11添加DCNv4可变性卷积(windows系统成功编译),二次创新C2f结构,全网最详细教程
  • 【超详细】基于YOLOv11的PCB缺陷检测
  • 国庆假期结束
  • 详解正则表达式(基本+扩展)
  • 二、图解C#教程
  • Python笔记之识别到当前python脚本所在的目录,而不是执行python命令的目录
  • Vue前端框架的基础配置