当前位置：首页 > article >正文

深度学习：完整的模型训练流程

article 2025/3/11 15:39:50

深度学习：完整的模型训练流程

为了确保我们提供一个彻底和清晰的指导，让我们深入分析在model.py和train.py文件中定义的模型训练和验证流程。以下部分将详细讨论模型结构的定义、数据的加载与预处理、训练参数的配置、训练与测试循环，以及模型的保存和性能监控。此外，我们将通过具体代码示例，详尽解释每个环节的执行逻辑和目的，从而确保您能够有效地理解并应用这些步骤以优化您的深度学习项目。

1. 模型结构定义（`model.py`）

目的和结构

在model.py中定义的My_Network类基于PyTorch的torch.nn.Module。这个类的设计使模型能够集成并利用PyTorch提供的多种深度学习功能，从而实现有效的图像分类。

class My_Network(nn.Module):
    def __init__(self):
        super(My_Network, self).__init__()
        # 创建序列模型
        self.model = nn.Sequential(
            nn.Conv2d(3, 32, 5, 1, 2),  # 第一层卷积层
            nn.ReLU(),                  # 激活函数
            nn.MaxPool2d(2),            # 池化层
            nn.Conv2d(32, 32, 5, 1, 2), # 第二层卷积层
            nn.ReLU(),                  
            nn.MaxPool2d(2),
            nn.Conv2d(32, 64, 5, 1, 2), # 第三层卷积层
            nn.ReLU(),
            nn.MaxPool2d(2),
            nn.Flatten(),               # 展平层
            nn.Linear(64*4*4, 64),      # 全连接层
            nn.ReLU(),
            nn.Linear(64, 10)           # 输出层
        )

    def forward(self, x):
        return self.model(x)

注释解释

卷积层：使用3通道输入，利用5x5的卷积核来提取特征，步长为1，填充为2以保持图像尺寸。
ReLU激活函数：引入非线性，帮助网络学习复杂的模式。
池化层：使用2x2的窗口减小特征维度，同时保留重要的特征信息，减少计算量并防止过拟合。
展平层与全连接层：将二维特征图转换为一维特征向量，通过全连接层进行分类。

2. 数据加载与预处理

实现细节

使用PyTorch的torchvision.datasets库来加载和预处理CIFAR-10数据集。

train_data = torchvision.datasets.CIFAR10(root="../dataset", train=True, transform=torchvision.transforms.ToTensor(), download=True)
test_data = torchvision.datasets.CIFAR10(root="../dataset", train=False, transform=torchvision.transforms.ToTensor(), download=True)

预处理功能

ToTensor()：将图片数据转换为Tensor，并归一化到[0,1]范围。
Normalize()：通常在此步骤中加入标准化处理，但在这里简化为基本的Tensor转换。

3. 训练和测试循环

配置和流程

设置训练环境，包括数据加载器、损失函数和优化器，定义训练和测试过程。

# 设置数据加载器
train_loader = DataLoader(train_data, batch_size=64, shuffle=True)
test_loader = DataLoader(test_data, batch_size=64, shuffle=False)

# 定义损失函数和优化器
loss_fn = nn.CrossEntropyLoss()
optimizer = torch.optim.SGD(my_network.parameters(), lr=0.01)

训练和测试代码

for epoch in range(10):  # 进行10个训练周期
    my_network.train()  # 设置为训练模式
    for imgs, targets in train_loader:
        outputs = my_network(imgs)
        loss = loss_fn(outputs, targets)
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

    # 测试模式
    my_network.eval()
    total_accuracy = 0
    with torch.no_grad():
        for imgs, targets in test_loader:
            outputs = my_network(imgs)
            total_accuracy += (outputs.argmax(1) == targets).sum().item()
    print(f"Epoch {epoch+1}: Accuracy = {total_accuracy / len(test_data)}")

4. 模型保存和日志记录

保存策略和性能监控

在每个训练周期后保存模型的状态，并使用TensorBoard来记录关键的训练和测试指标。

torch.save(my_network.state_dict(), f"my_network_epoch_{epoch}.pth")
writer.add_scalar("Loss/train", loss.item(), epoch)
writer.add_scalar("Accuracy/test", total_accuracy / len(test_data), epoch)