当前位置: 首页 > article >正文

KAN论文

根据Kolmogorov-Arnold表示定理,任何多变量连续函数都可以表示为一系列单变量函数的组合。这意味着,尽管我们可能面对的是一个变量的复杂函数,但我们可以通过学习一系列单变量函数及其组合来逼近这个复杂的函数。

论文结构

当N较大时,由于COD的影响,样条曲线失效;mlp可以潜在地学习广义加性结构,但它们对于用ReLU激活来近似指数函数和正弦函数是非常低效的。相比之下,KANs可以很好地学习组合结构和单变量函数,因此在很大程度上优于mlp(见图3.1)。

在本文中,我们将使用大量的数值实验来证明,kan可以导致mlp的准确性和可解释性的提高,至少在小规模的人工智能科学任务上。本文的组织结构如图2.1所示。在第2节中,我们介绍了KAN架构及其数学基础,介绍了网络简化技术以使KAN具有可解释性,并介绍了网格扩展技术以使KAN更加准确。在第3节中,我们证明了kan在数据拟合方面比mlp更准确:当数据中存在组合结构时,kan可以克服维度的诅咒,实现比mlp更好的缩放规律。我们还通过泊松方程的一个简单例子证明了KANs在PDE求解中的潜力。在第4节中,我们展示了KANs是可解释的,可以用于科学发现。我们用数学(结理论)和物理(安德森定位)中的两个例子来证明,KANs可以帮助科学家(重新)发现数学和物理定律的“合作者”。第五部分总结了相关工作。在第6节中,我们通过讨论广泛的影响和未来的方向来结束。代码可在https://github.com/KindXiaoming/pykan上获得,也可以通过pip install pykan安装。


http://www.kler.cn/a/350445.html

相关文章:

  • STL--list(双向链表)
  • 战场物联网:通信挑战与最新解决方案综述
  • 什么是SSL及SSL的工作流程
  • 华为AI培训-NLP实验
  • JS基础(5):运算符和语句
  • Rust实现内网穿透工具:从原理到实现
  • PCL滤波器之面试总结
  • linux----cd和pwd命令
  • 基于yolov5的手机屏幕缺陷检测系统,支持图像、视频和摄像实时检测【pytorch框架、python源码】
  • 前端vue-获取验证码和重新获取验证码倒计时
  • 【数据结构】栈和队列 + 经典算法题
  • C语言 编程练习:解决五个有趣的问题
  • Lumerical学习——分析工具(Analysis tools)
  • 0047__【python打包分发工具】setuptools详解
  • Gin框架操作指南10:服务器与高级功能
  • 移情别恋c++ ദ്ദി˶ー̀֊ー́ ) ——6.vector(无习题)
  • React native之全局变量存储AsyncStorage
  • linux 环境运行 jenkins.war包,有可能会出现字体问题,jdk版本:11 jenkins 版本:2.420
  • 数据结构常考基础代码题-顺序表有序插入
  • JAVA基础(6)
  • 【开源风云】从若依系列脚手架汲取编程之道(五)
  • 单片机死机后在不破坏现场的情况下连接调试器进入调试模式
  • Java筑基之路:运算符深入(下)
  • screenpipe – 搭建个性化AI助手的软件,捕捉屏幕和音频录音
  • 常见的Webshell查杀工具-应急响应实战笔记
  • 搜维尔科技:感受、握持、推动、连接和挤压虚拟物体,SenseGlove触觉反馈手套拥有先进的触觉技术、一流的可用性和功能