当前位置: 首页 > article >正文

Training-free neural architecture search: A review

 

摘要 

神经架构搜索 (NAS) 的目标是缩小深度神经网络 (DNN) 的神经架构和模型,调整神经架构以改善其最终结果,甚至加快整个训练过程。这样的改进使得在小型设备(例如物联网设备或无线传感器网络)上生成或安装 DNN 模型成为可能。由于大多数 NAS 算法都非常耗时,因此寻找降低其计算成本的方法已成为一个关键的研究问题。无需训练的方法(也称为零样本学习)提供了一种替代方法,可以在 NAS 过程中更有效地评估神经架构的好坏,方法是使用轻量级的评分函数代替一般的训练过程,以避免产生高昂的成本。本文首先简要讨论 DNN 和 NAS,然后简要回顾依赖模型和独立于模型的无需训练的评分函数。本文还将简要介绍在无需训练的 NAS 中广泛使用的搜索算法和基准。本文最后讨论了该研究课题的变化、潜力、未解决的问题和未来趋势。


http://www.kler.cn/a/586724.html

相关文章:

  • docker构建镜像时总会有部分文件没有被更新,解决办法
  • Android Framework 之了解系统启动流程二
  • 011【fate/extra link】【概率论与数理统计】大数定律与中心极限定理 ,数理统计的基本概念,常用的统计三大分布,正态总体的抽样分布定理
  • Python 实现大文件的高并发下载
  • jenkins通过ssh连接远程服务器出错解决方案(Algorithm negotiation fail)
  • MySQL(第四周)
  • 基于“动手学强化学习”的知识点(六):第 19 章 目标导向的强化学习(gym版本 >= 0.26)
  • C++之OOP
  • 蓝桥杯嵌入式赛道复习笔记1(led点亮)
  • 【Python机器学习】2.4. K均值聚类(KMeans Analysis)实战(进阶)
  • SOME/IP:用Python实现协议订阅、Offer、订阅ACK与报文接收
  • 【Unity网络同步框架 - Nakama研究(二)】
  • Spark 中创建 DataFrame 的2种方式对比
  • 【最后203篇系列】015 几种消息队列的思考
  • docker后台运行,便于后期用命令行进入它的终端
  • 【vscode-03】AUTOSAR CP 插件配置
  • DataWhale 速通AI编程开发:(进阶篇)第3章 提示词(Prompts)配置项
  • AI与人的智能,改变一生的思维模型【7】易得性偏差
  • 空调acwing二进制差分
  • C++移动语义与右值引用:从理论到实践的深度解析引言