当前位置：首页 > article >正文

跟着小土堆学习pytorch（六）——神经网络的基本骨架(nn.model)

article 2024/10/31 10:16:45

文章目录

一、model介绍
二、Module
三、张量
- 3.1 定义
- 3.2 用法

一、model介绍

容器                                          Containers
卷积层                                        Convolution Layers
池化层                                        Pooling layers
填白层                                        Padding Layers
非线性激活（加权和，非线性）                  Non-linear Activations (weighted sum, nonlinearity)
非线性激活（其他）                            Non-linear Activations (other)
正则化层                                      Normalization Layers
复发性层                                      Recurrent Layers
变压器层                                      Transformer Layers
线性层                                        Linear Layers
辍学层                                        Dropout Layers
稀疏层                                        Sparse Layers
距离函数                                      Distance Functions
损失函数                                      Loss Functions
视觉层                                        Vision Layers
洗牌层（打乱）                                Shuffle Layers
数据并行层                                    DataParallel Layers (multi-GPU, distributed)
量化的功能                                    Quantized Functions
惰性模块初始化                                Lazy Modules Initialization

以后一一介绍

二、Module

class Model(nn.Module):
    def __init__(self) -> None:
        super().__init__()
        self.conv1 = nn.Conv2d(1, 20, 5)
        self.conv2 = nn.Conv2d(20, 20, 5)

    def forward(self, x):
        x = F.relu(self.conv1(x))
        return F.relu(self.conv2(x))

定义自己的类（神经网络），自己继承了Module的父类，但是有想进行修改，则定义了__init__和forward,
之后就是调用父类的初始化函数。forward（前向传播）,backward（反向传播）。

x魏输入，F.relu(self.conv1(x))，先经过一次卷积conv1，之后经过一次非线性relu
由于返回时return F.relu(self.conv2(x))所有总共两组。
示例

import torch
from torch import nn
class Tudui(nn.Module):
	def __init__(self):
		super().__init__()
	def forward(self,input):
		output = input + 1
		return output
tudui = Tudui()
x = torch.tensor(1.0)
output = tudui(x)
print(output)