Pytorch数据集分割及动量示例分析

今天就跟大家聊聊有关Pytorch数据集分割及动量示例分析,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。

1.数据集分割

通过datasets可以直接分别获取训练集和测试集。

通常我们会将训练集进行分割,通过torch.utils.data.random_split方法。

所有的数据都需要通过torch.util.data.DataLoader进行加载,才可以得到可以使用的数据集。

具体代码如下:

Pytorch数据集分割及动量示例分析2.

2.正则化

PyTorch中的正则化和机器学习中的一样,不过设置方式不一样。

直接在优化器中,设置weight_decay即可。优化器中,默认的是L2范式,因此填入的参数就是lambda。想要使用L1范式的话,需要手动写出代码。

Pytorch数据集分割及动量示例分析

3.动量和学习率衰减

动量的设置可以直接在优化器中完成。通过momentum参数设置。

学习率的调整通过torch.optim.lr_scheduler中的ReduceLROnPlateau,StepLR实现。

ReduceLROnPlateau是自动检测损失值,并衰减学习率。

StepLR需要手动设置衰减的参数。

Pytorch数据集分割及动量示例分析

看完上述内容,你们对Pytorch数据集分割及动量示例分析有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注行业资讯频道,感谢大家的支持。