深度学习相关知识点
epoch/batch/batch_size的关系
- Epoch：模型在整个数据集上完成一次训练。一个epoch后，模型已经看过所有的训练数据，执行了正向传播和反向传播。通常训练需要多个epoch，模型才能逐步学习和收敛。
- Batch：由于在深度学习中，数据集通常非常大，因此在每次训练时，将数据分成多个小的batch（批次）。每个batch中包含一部分数据，并且每次模型的前向传播和反向传播都仅处理一个batch的数据。作用：这样做可以降低内存需求，并且可以通过小批次的数据来更频繁地更新模型参数。
- Batch size：指的是每个batch批次中包含的训练样本的数量。它决定了每次训练时模型处理的数据量大小。
三者关系：一个epoch中可以包含多个batch，每个batch包含batch_size个样本。