一份基于Pytorch的视频分类教程
这是一个在UCF101上使用3D RNN/CNN+RNN 进行视频分类的教程,基于Pytorch实现。
数据集
UCF101 含有包括13320个视频与101个动作,视频有不同的视觉长度,视频画面大小也不一样,最小的视频只有29帧。为了减少视频预处理工作,我们之间使用feichtenhofer预处理结束的数据。
https://github.com/feichtenhofer/twostreamfusion
模型
3D CNN
使用一些3D核和通道数N,来解决视频输入,视频可以看成是3D 的图片,并使用了批归一化与dropout。
CNN+RNN (CRNN)
CRNN 使用了CNN作为编码器,RNN作为解码器:
编码器:CNN函数将一个2D的图片 x(t) 编码成1D的向量z(t)。
解码器:RNN的输入为z(t),是超级为1D的序列h(t),然后输入到一个全连接网络来预测类别。在这里RNN使用了LSTM网络
训练与测试
对于3DCNN:
视频首先被变形到(t-dim, channels, x-dim, y-dim) = (29, 3, 256, 342) ,因为CNN需要固定输入输出的尺寸。
使用BatchNormalization dropout。
对于CRNN:
视频变形到 (t-dim, channels, x-dim, y-dim) = (29, 3, 224, 224) ,因为ResNet152的输入为224x224.
训练与测试视频的数量为9990:3330
代码与教程链接:
https://github.com/HHTseng/video-classification
推荐阅读