当前位置： 首页 > article >正文

《机器学习by周志华》学习笔记-神经网络-03全局最小误差与局部极小误差

article 2025/1/15 6:44:36

1、神经网络中误差的概念及公式

 根据上文《逆误差传播算法》我们可以知道误差公式的演化：

        ① 第k个训练样例的误差函数：E_{k}=\frac{1}{2}\sum_{j=1}^{l}\left ( \widehat{y}_{j}^{k}-y_{j}^{k} \right )^{2}

        ②该训练集的累积误差函数：E=\frac{1}{m}\sum_{k=1}^{m}E_{k}=\frac{E_{1}+E_{2}+...+E_{m}}{m}

        ③正则化误差目标函数：E=\lambda \frac{1}{m}\sum_{k=1}^{m}E_{k}+(1-\lambda )\sum_{v=1}^{q(d+1+l)+l}\nu _{v}^{2}

其中：

  • E_{k}：表示第k个训练样例的误差；
  • \nu _{v}：表示连接权重和阈值任意参数；
  • 根据上文我们可知需要确定的参数个数有：(d\times q)+q+(q\times l)+l=q(d+1+l)+l；
  • \sum_{v=1}^{q(d+1+l)+l}\nu _{v}^{2}：表示所有连接权重与阈值参数的平方和；</

http://www.kler.cn/a/371260.html

相关文章：

  • 持续交付的利器：Blue Ocean与Pipeline
  • Android Room 报错：too many SQL variables (code 1 SQLITE_ERROR) 原因及解决方法
  • STM32 FreeRTOS的任务创建和删除
  • 【C++】字符串中的 insert 方法深层分析
  • C语言---函数和数组实践：扫雷游戏
  • Mybatis——Mybatis开发经验总结
  • Java 中 JSONObject 遍历属性并删除的几种方法对比
  • [Vue warn]: Do not use built-in or reserved HTML elements as component id:
  • 分布式搜索引擎elasticsearch操作文档操作介绍
  • 在数学中体验逻辑与创造的乐趣20241029
  • Flutter动画容器
  • UI设计软件全景：13款工具助力创意实现
  • 正式入驻！上海斯歌BPM PaaS管理软件等产品入选华为云联营商品
  • 紫光同创——盘古 50KN 网口板
  • 【感知模块】深度神经网络实现运动预测
  • Spring学习笔记_15——@Resource
  • CSS复习2
  • 10 分钟快速搭建 SkyWalking 服务
  • po、dto、vo的使用场景
  • 原创作品——GIS和监控软件设计
  • 安卓13默认连接wifi热点 android13默认连接wifi
  • VSCode Qt6安装OpenSSL
  • Codeforces Round 946 (Div. 3) G. Money Buys Less Happiness Now（反悔贪心）
  • Kafka的羊群效应
  • 基于微信小程序的音乐播放器系统
  • 〈壮志凌云：独行侠〉中的超高音速战机