当前位置: 首页 > article >正文

深度学习:常见损失函数简介--名称、作用和用法

目录

1. L1 Loss

2. NLL Loss (Negative Log Likelihood Loss)

3. NLLLoss2d

4. Gaussian NLL Loss

5. MSE Loss (Mean Squared Error Loss)

6. BCE Loss (Binary Cross-Entropy Loss)

7. Smooth L1 Loss

8. Cross Entropy Loss


1. L1 Loss

  • 作用:计算预测值与真实值之间的绝对差。
  • 用法:常用于回归问题,适合处理异常值。
  • 公式

 

2. NLL Loss (Negative Log Likelihood Loss)

  • 作用:用于分类任务,特别是在使用Softmax的多类分类中。
  • 用法:通常与Softmax输出结合使用。
  • 公式

 

3. NLLLoss2d

  • 作用:与NLL Loss类似,但用于2D图像数据(如语义分割)。
  • 用法:适用于多类图像分割任务。
  • 公式:类似于NLL Loss,但在空间维度上扩展。

 

4. Gaussian NLL Loss

  • 作用:用于处理带有高斯噪声的回归任务。
  • 用法:输出为高斯分布的模型。
  • 公式

 

5. MSE Loss (Mean Squared Error Loss)

  • 作用:计算预测值与真实值之间的均方误差。
  • 用法:广泛用于回归问题。
  • 公式

 

6. BCE Loss (Binary Cross-Entropy Loss)

  • 作用:用于二分类问题,计算每个样本的交叉熵。
  • 用法:适合处理二元标签任务。
  • 公式

 

7. Smooth L1 Loss

  • 作用:结合了L1 Loss和MSE Loss,平滑处理。
  • 用法:常用于目标检测任务。
  • 公式:当差值小于1时,使用MSE,否则使用L1。

 

8. Cross Entropy Loss

  • 作用:用于多类分类问题,计算预测分布与真实分布的差异。
  • 用法:常与Softmax一起使用。
  • 公式


http://www.kler.cn/news/319754.html

相关文章:

  • C Primer Plus 第7章——第二篇
  • 渗透测试工具 sqlmap 基础教程
  • Linux Shell: 使用 Expect 自动化 SCP 和 SSH 连接的 Shell 脚本详解
  • 模板初阶(C++)
  • 适合二开的web组态软件
  • Redis入门介绍
  • JAVA大学期末考试真题(带答案)
  • C++(9.23)
  • Profinet通讯电能计量装置 功能介绍
  • 智慧体育馆可视化:实时监控与智能管理
  • 滑动窗口算法第一弹(长度最小的子数组,无重复字符的最长子串 最大连续1的个数III)
  • C++: 继承
  • grafana 使用常见问题
  • Unity数据持久化4——2进制
  • Flink的反压机制:底层原理、产生原因、排查思路与解决方案
  • MySQL高阶1949-坚定地友谊
  • 查询最近正在执行的sql(DM8 : 达梦数据库)
  • 【艾思科蓝】Spring Boot实战:零基础打造你的Web应用新纪元
  • 漫谈 Kubernetes 的本质
  • 网络安全:腾讯云智、绿盟、美团、联想的面经
  • [WMCTF2020]Make PHP Great Again 2.01
  • 使用 Python 绘制 BTC 期权的波动率曲面
  • ③无需编程 独立通道 Modbus主站EtherNet/IP转ModbusRTU/ASCII工业EIP网关串口服务器
  • 单词搜索问题(涉及递归等)
  • docker多阶段镜像制作,比如nginx镜像,编译+制作
  • 【SpringBoot整合Redis测试Redis集群案例】
  • 【QT 5 调试软件+Linux下调用脚本shell-无法调度+目录拼写+无法找目录+sudo权限(2)+问题解决方式+后续补充】
  • linux网络编程8
  • 【JavaScript】算法之贪心算法(贪婪算法)
  • C++之文件操作