pyTorch--Gradient 两种方法
-
torch.autograd.grad(loss, [w1,w2,...])
第一个参数是损失函数，第二个参数是loss的变量，
返回值是一个包含每个变量的偏导的list，[w1.grad,w2.grad,…] -
loss.backward()
直接用loss调用backword函数，但是这样不会直接返回梯度信息，而是附在每个要求梯度的变量上，可以通过w.grad查看变量的偏导。
torch.autograd.grad(loss, [w1,w2,...])loss.backward()