理解torch函数squeeze和unsqueeze

torch.squeeze

torch.squeeze是指在PyTorch中用于压缩张量维度的函数。它主要用于移除维数为1的维度，使得输出的张量形状更简洁。

• 基本功能：torch.squeeze(input, dim=None) -> Tensor
  • 它接受一个输入张量（input），并返回一个新的张量，其中所有维数为1的维度都被移除了。
  • 如果指定了dim参数，则只会在指定的维度上进行挤压操作，即只删除该位置上的1维。
  • 如果不指定dim参数，那么所有可以被压缩的1维都会被移除。
• 示例：
  • 假设有一个张量a的形状为(1, 1, 3)，调用b = torch.squeeze(a)后，b的形状会变为(3)，因为中间的两个维度都是1，都被去掉了。
  • 如果只指定一个维度来压缩，比如c = torch.squeeze(a, 0)，则c的形状会是(1, 3)，仅移除了第一个维度上的1维。
• 注意事项：
  • 如果尝试去掉不存在的或大于数组实际维度的1维，则操作将无效。
  • 使用squeeze函数时需要注意，如果原张量和结果张量共享内存空间，改变其中一个张量会影响另一个。
• 应用场景：
  • 在深度学习模型设计中，有时候为了简化计算或者匹配特定层的输入要求，需要对张量的形状进行调整。
  • 例如，在某些情况下，可能需要将多维张量转换成向量形式以适应全连接层的输入需求。

综上所述，torch.squeeze是一个非常实用的工具，帮助开发者在处理数据时能够灵活地调整张量的维度，从而更好地适配各种算法的需求。

torch.unsqueeze

torch.unsqueeze是指在PyTorch中用于增加张量维度的函数。具体来说，它可以在指定位置添加一个大小为1的新维度。例如，对于一个形状为 (3, 4) 的张量，使用 unsqueeze(0) 后，其形状变为 (1, 3, 4)，而在使用 unsqueeze(1) 后，形状变为 (3, 1, 4)。

• 函数作用：
  • 增加张量的维度：unsqueeze 函数通过在指定的位置插入一个大小为1的维度来改变张量的形状。
  • 支持负数索引：可以通过负数索引来指定插入位置，例如 -1 表示最后一个维度之前的位置。
  • 多次调用：可以多次调用 unsqueeze 函数以在不同位置增加多个维度。
• 使用示例：
  • 对于一个形状为 (2, 3) 的张量 a，执行 b = torch.unsqueeze(a, 0) 后，b 的形状变为 (1, 2, 3)；执行 c = torch.unsqueeze(a, 1) 后，c 的形状变为 (2, 1, 3)。
  • 对于一个形状为 (1, 3) 的张量 b，执行 d = torch.unsqueeze(b, 2) 后，d 的形状变为 (1, 3, 1)。
• 应用场景：
  • 在进行卷积操作时，可能需要特定的输入维度格式，unsqueeze 可以帮助调整张量的维度以满足这些要求。
  • 当处理批量数据时，unsqueeze 可以用来增加批处理维度，以便与模型兼容。
• 注意事项：
  • 如果在非1维上使用 unsqueeze，不会有任何影响。
  • 使用负数索引时，确保其正确指向目标位置。
  • 不同框架（如 TensorFlow）中的类似功能可能有不同的命名或行为细节。