深度学习(3):Tensor和Optimizer

是什么

Tensor（张量）：在 PyTorch 中，Tensor 是一种多维数组， 可以在 GPU 上进行高效的数值计算。

Optimizer（优化器）：在 PyTorch 中，优化器负责管理和更新模型的参数，特别是在训练过程中根据计算出的梯度来更新参数以最小化损失函数。

Tensor

1. Tensor 的基本概念

• 定义：Tensor 是 PyTorch 中的基本数据结构，表示多维数组。
• 创建：使用 torch.tensor() 或其他方法（如 torch.zeros()、torch.ones() 等）创建。
• 属性：
  • data：Tensor 的数据部分。
  • grad：Tensor 的梯度，只有当 requires_grad = True 时，才会在反向传播后被赋值。
  • requires_grad：是否需要对该 Tensor 计算梯度，默认值为 False。

2. 自动求导（Autograd