深度学习（2）前向传播与反向传播
这一次我们重点讲解前向传播与反向传播，对这里还是有点糊涂
前向传播（Forward Propagation）和反向传播（Backward Propagation）是深度学习中神经网络训练的核心过程。它们分别负责计算神经网络的输出以及更新神经网络的参数（如权重和偏置）。下面我会详细解释这两个过程，包括其工作原理、公式以及如何实现。
1. 前向传播（Forward Propagation）
前向传播是神经网络的第一步，用于计算从输入到输出的路径。神经网络通过前向传播将输入数据传递到输出，计算每一层的加权和，并通过激活函数生成最终的输出结果。
前向传播步骤：
-
输入数据：
- 神经网络的输入层接受原始数据。例如，输入可能是图像像素值、文本的词向量等。
-
-
输出层：
- 最后一层的输出将作为神经网络的预测值。例如，在分类问题中，输出层的激活函数可能是 Softmax，用于输出概率分布。
前向传播的公式总结：
2. 反向传播（Backward Propagation）
反向传播是神经网络训练中的关键步骤，用于计算每个参数（权重和偏置）的梯度，并更新这些参数。通过反向传播，我们使用梯度下降法（或其他优化算法）最小化损失函数。
反向传播步骤：
-
反向传播到前一层：
-
前向传播与反向传播的总结：
- 前向传播：输入数据通过神经网络传递，计算出每一层的激活值，最终得到输出结果。
- 反向传播：根据损失函数计算梯度，并使用这些梯度更新网络的权重和偏置，从而最小化损失函数。
前向传播和反向传播是神经网络训练的核心，理解这两个过程对掌握神经网络的工作原理至关重要。
例题 1：简单的前向传播
假设你有一个单层神经网络（一个神经元）：
- 输入：x=[1.0,2.0]
- 权重：w=[0.5,−0.5]
- 偏置：b=0.5
- 激活函数：Sigmoid
任务：计算神经元的输出。
例题 2：反向传播计算梯度
假设我们有一个包含一个隐藏层和一个输出层的简单神经网络，结构如下：
- 输入层：2个节点
- 隐藏层：2个节点
- 输出层：1个节点
- 激活函数：Sigmoid
已知：
任务：计算反向传播的梯度，更新权重。
步骤 1：前向传播
步骤 3：反向传播
