您的位置: 首页  >  文章  >  FFMPEG结构体分析：AVFrame

FFMPEG结构体分析：AVFrame

分类: 文章 • 2024-07-16 12:43:46

注：写了一系列的结构体的分析的文章，在这里列一个列表：

FFMPEG结构体分析：AVFrame
FFMPEG结构体分析：AVFormatContext
FFMPEG结构体分析：AVCodecContext
FFMPEG结构体分析：AVIOContext
FFMPEG结构体分析：AVCodec
FFMPEG结构体分析：AVStream
FFMPEG结构体分析：AVPacket


FFMPEG有几个最重要的结构体，包含了解协议，解封装，解码操作，此前已经进行过分析：

FFMPEG中最关键的结构体之间的关系

在此不再详述，其中AVFrame是包含码流参数较多的结构体。本文将会详细分析一下该结构体里主要变量的含义和作用。

首先看一下结构体的定义（位于avcodec.h）：

[cpp]view plaincopy
  1. /*
  2. *雷霄骅
  3. *[email protected]
  4. *中国传媒大学/数字电视技术
  5. */
  6. /**
  7. *AudioVideoFrame.
  8. *NewfieldscanbeaddedtotheendofAVFRAMEwithminorversion
  9. *bumps.Similarlyfieldsthataremarkedastobeonlyaccessedby
  10. *av_opt_ptr()canbereordered.Thisallows2forkstoaddfields
  11. *withoutbreakingcompatibilitywitheachother.
  12. *Removal,reorderingandchangesintheremainingcasesrequire
  13. *amajorversionbump.
  14. *sizeof(AVFrame)mustnotbeusedoutsidelibavcodec.
  15. */
  16. typedefstructAVFrame{
  17. #defineAV_NUM_DATA_POINTERS8
  18. /**图像数据
  19. *pointertothepicture/channelplanes.
  20. *Thismightbedifferentfromthefirstallocatedbyte
  21. *-encoding:Setbyuser
  22. *-decoding:setbyAVCodecContext.get_buffer()
  23. */
  24. uint8_t*data[AV_NUM_DATA_POINTERS];
  26. /**
  27. *Size,inbytes,ofthedataforeachpicture/channelplane.
  28. *
  29. *Foraudio,onlylinesize[0]maybeset.Forplanaraudio,eachchannel
  30. *planemustbethesamesize.
  31. *
  32. *-encoding:Setbyuser
  33. *-decoding:setbyAVCodecContext.get_buffer()
  34. */
  35. intlinesize[AV_NUM_DATA_POINTERS];
  37. /**
  38. *pointerstothedataplanes/channels.
  39. *
  40. *Forvideo,thisshouldsimplypointtodata[].
  41. *
  42. *Forplanaraudio,eachchannelhasaseparatedatapointer,and
  43. *linesize[0]containsthesizeofeachchannelbuffer.
  44. *Forpackedaudio,thereisjustonedatapointer,andlinesize[0]
  45. *containsthetotalsizeofthebufferforallchannels.
  46. *
  47. *Note:Bothdataandextended_datawillalwaysbesetbyget_buffer(),
  48. *butforplanaraudiowithmorechannelsthatcanfitindata,
  49. *extended_datamustbeusedbythedecoderinordertoaccessall
  50. *channels.
  51. *
  52. *encoding:unused
  53. *decoding:setbyAVCodecContext.get_buffer()
  54. */
  55. uint8_t**extended_data;
  57. /**宽高
  58. *widthandheightofthevideoframe
  59. *-encoding:unused
  60. *-decoding:Readbyuser.
  61. */
  62. intwidth,height;
  64. /**
  65. *numberofaudiosamples(perchannel)describedbythisframe
  66. *-encoding:Setbyuser
  67. *-decoding:Setbylibavcodec
  68. */
  69. intnb_samples;
  71. /**
  72. *formatoftheframe,-1ifunknownorunset
  73. *ValuescorrespondtoenumAVPixelFormatforvideoframes,
  74. *enumAVSampleFormatforaudio)
  75. *-encoding:unused
  76. *-decoding:Readbyuser.
  77. */
  78. intformat;
  80. /**是否是关键帧
  81. *1->keyframe,0->not
  82. *-encoding:Setbylibavcodec.
  83. *-decoding:Setbylibavcodec.
  84. */
  85. intkey_frame;
  87. /**帧类型（I,B,P）
  88. *Picturetypeoftheframe,see?_TYPEbelow.
  89. *-encoding:Setbylibavcodec.forcoded_picture(andsetbyuserforinput).
  90. *-decoding:Setbylibavcodec.
  91. */
  92. enumAVPictureTypepict_type;
  94. /**
  95. *pointertothefirstallocatedbyteofthepicture.Canbeusedinget_buffer/release_buffer.
  96. *Thisisn'tusedbylibavcodecunlessthedefaultget/release_buffer()isused.
  97. *-encoding:
  98. *-decoding:
  99. */
  100. uint8_t*base[AV_NUM_DATA_POINTERS];
  102. /**
  103. *sampleaspectratioforthevideoframe,0/1ifunknown/unspecified
  104. *-encoding:unused
  105. *-decoding:Readbyuser.
  106. */
  107. AVRationalsample_aspect_ratio;
  109. /**
  110. *presentationtimestampintime_baseunits(timewhenframeshouldbeshowntouser)
  111. *IfAV_NOPTS_VALUEthenframe_rate=1/time_basewillbeassumed.
  112. *-encoding:MUSTbesetbyuser.
  113. *-decoding:Setbylibavcodec.
  114. */
  115. int64_tpts;
  117. /**
  118. *reorderedptsfromthelastAVPacketthathasbeeninputintothedecoder
  119. *-encoding:unused
  120. *-decoding:Readbyuser.
  121. */
  122. int64_tpkt_pts;
  124. /**
  125. *dtsfromthelastAVPacketthathasbeeninputintothedecoder
  126. *-encoding:unused
  127. *-decoding:Readbyuser.
  128. */
  129. int64_tpkt_dts;
  131. /**
  132. *picturenumberinbitstreamorder
  133. *-encoding:setby
  134. *-decoding:Setbylibavcodec.
  135. */
  136. intcoded_picture_number;
  137. /**
  138. *picturenumberindisplayorder
  139. *-encoding:setby
  140. *-decoding:Setbylibavcodec.
  141. */
  142. intdisplay_picture_number;
  144. /**
  145. *quality(between1(good)andFF_LAMBDA_MAX(bad))
  146. *-encoding:Setbylibavcodec.forcoded_picture(andsetbyuserforinput).
  147. *-decoding:Setbylibavcodec.
  148. */
  149. intquality;
  151. /**
  152. *isthispictureusedasreference
  153. *ThevaluesforthisarethesameastheMpegEncContext.picture_structure
  154. *variable,thatis1->topfield,2->bottomfield,3->frame/bothfields.
  155. *Setto4fordelayed,non-referenceframes.
  156. *-encoding:unused
  157. *-decoding:Setbylibavcodec.(beforeget_buffer()call)).
  158. */
  159. intreference;
  161. /**QP表
  162. *QPtable
  163. *-encoding:unused
  164. *-decoding:Setbylibavcodec.
  165. */
  166. int8_t*qscale_table;
  167. /**
  168. *QPstorestride
  169. *-encoding:unused
  170. *-decoding:Setbylibavcodec.
  171. */
  172. intqstride;
  174. /**
  175. *
  176. */
  177. intqscale_type;
  179. /**跳过宏块表
  180. *mbskip_table[mb]>=1ifMBdidn'tchange
  181. *stride=mb_width=(width+15)>>4
  182. *-encoding:unused
  183. *-decoding:Setbylibavcodec.
  184. */
  185. uint8_t*mbskip_table;
  187. /**运动矢量表
  188. *motionvectortable
  189. *@code
  190. *example:
  191. *intmv_sample_log2=4-motion_subsample_log2;
  192. *intmb_width=(width+15)>>4;
  193. *intmv_stride=(mb_width<<mv_sample_log2)+1;
  194. *motion_val[direction][x+y*mv_stride][0->mv_x,1->mv_y];
  195. *@endcode
  196. *-encoding:Setbyuser.
  197. *-decoding:Setbylibavcodec.
  198. */
  199. int16_t(*motion_val[2])[2];
  201. /**宏块类型表
  202. *macroblocktypetable
  203. *mb_type_base+mb_width+2
  204. *-encoding:Setbyuser.
  205. *-decoding:Setbylibavcodec.
  206. */
  207. uint32_t*mb_type;
  209. /**DCT系数
  210. *DCTcoefficients
  211. *-encoding:unused
  212. *-decoding:Setbylibavcodec.
  213. */
  214. short*dct_coeff;
  216. /**参考帧列表
  217. *motionreferenceframeindex
  218. *theorderinwhichthesearestoredcandependonthecodec.
  219. *-encoding:Setbyuser.
  220. *-decoding:Setbylibavcodec.
  221. */
  222. int8_t*ref_index[2];
  224. /**
  225. *forsomeprivatedataoftheuser
  226. *-encoding:unused
  227. *-decoding:Setbyuser.
  228. */
  229. void*opaque;
  231. /**
  232. *error
  233. *-encoding:Setbylibavcodec.ifflags&CODEC_FLAG_PSNR.
  234. *-decoding:unused
  235. */
  236. uint64_terror[AV_NUM_DATA_POINTERS];
  238. /**
  239. *typeofthebuffer(tokeeptrackofwhohastodeallocatedata[*])
  240. *-encoding:Setbytheonewhoallocatesit.
  241. *-decoding:Setbytheonewhoallocatesit.
  242. *Note:Userallocated(directrendering)&internalbufferscannotcoexistcurrently.
  243. */
  244. inttype;
  246. /**
  247. *Whendecoding,thissignalshowmuchthepicturemustbedelayed.
  248. *extra_delay=repeat_pict/(2*fps)
  249. *-encoding:unused
  250. *-decoding:Setbylibavcodec.
  251. */
  252. intrepeat_pict;
  254. /**
  255. *Thecontentofthepictureisinterlaced.
  256. *-encoding:Setbyuser.
  257. *-decoding:Setbylibavcodec.(default0)
  258. */
  259. intinterlaced_frame;
  261. /**
  262. *Ifthecontentisinterlaced,istopfielddisplayedfirst.
  263. *-encoding:Setbyuser.
  264. *-decoding:Setbylibavcodec.
  265. */
  266. inttop_field_first;
  268. /**
  269. *Telluserapplicationthatpalettehaschangedfrompreviousframe.
  270. *-encoding:???(nopalette-enabledencoderyet)
  271. *-decoding:Setbylibavcodec.(default0).
  272. */
  273. intpalette_has_changed;
  275. /**
  276. *codecsuggestiononbuffertypeif!=0
  277. *-encoding:unused
  278. *-decoding:Setbylibavcodec.(beforeget_buffer()call)).
  279. */
  280. intbuffer_hints;
  282. /**
  283. *Panscan.
  284. *-encoding:Setbyuser.
  285. *-decoding:Setbylibavcodec.
  286. */
  287. AVPanScan*pan_scan;
  289. /**
  290. *reorderedopaque64bit(generallyanintegeroradoubleprecisionfloat
  291. *PTSbutcanbeanything).
  292. *TheusersetsAVCodecContext.reordered_opaquetorepresenttheinputat
  293. *thattime,
  294. *thedecoderreordersvaluesasneededandsetsAVFrame.reordered_opaque
  295. *toexactlyoneofthevaluesprovidedbytheuserthroughAVCodecContext.reordered_opaque
  296. *@deprecatedinfavorofpkt_pts
  297. *-encoding:unused
  298. *-decoding:Readbyuser.
  299. */
  300. int64_treordered_opaque;
  302. /**
  303. *hardwareacceleratorprivatedata(FFmpeg-allocated)
  304. *-encoding:unused
  305. *-decoding:Setbylibavcodec
  306. */
  307. void*hwaccel_picture_private;
  309. /**
  310. *theAVCodecContextwhichff_thread_get_buffer()waslastcalledon
  311. *-encoding:Setbylibavcodec.
  312. *-decoding:Setbylibavcodec.
  313. */
  314. structAVCodecContext*owner;
  316. /**
  317. *usedbymultithreadingtostoreframe-specificinfo
  318. *-encoding:Setbylibavcodec.
  319. *-decoding:Setbylibavcodec.
  320. */
  321. void*thread_opaque;
  323. /**
  324. *log2ofthesizeoftheblockwhichasinglevectorinmotion_valrepresents:
  325. *(4->16x16,3->8x8,2->4x4,1->2x2)
  326. *-encoding:unused
  327. *-decoding:Setbylibavcodec.
  328. */
  329. uint8_tmotion_subsample_log2;
  331. /**（音频）采样率
  332. *Samplerateoftheaudiodata.
  333. *
  334. *-encoding:unused
  335. *-decoding:readbyuser
  336. */
  337. intsample_rate;
  339. /**
  340. *Channellayoutoftheaudiodata.
  341. *
  342. *-encoding:unused
  343. *-decoding:readbyuser.
  344. */
  345. uint64_tchannel_layout;
  347. /**
  348. *frametimestampestimatedusingvariousheuristics,instreamtimebase
  349. *Codeoutsidelibavcodecshouldaccessthisfieldusing:
  350. *av_frame_get_best_effort_timestamp(frame)
  351. *-encoding:unused
  352. *-decoding:setbylibavcodec,readbyuser.
  353. */
  354. int64_tbest_effort_timestamp;
  356. /**
  357. *reorderedposfromthelastAVPacketthathasbeeninputintothedecoder
  358. *Codeoutsidelibavcodecshouldaccessthisfieldusing:
  359. *av_frame_get_pkt_pos(frame)
  360. *-encoding:unused
  361. *-decoding:Readbyuser.
  362. */
  363. int64_tpkt_pos;
  365. /**
  366. *durationofthecorrespondingpacket,expressedin
  367. *AVStream->time_baseunits,0ifunknown.
  368. *Codeoutsidelibavcodecshouldaccessthisfieldusing:
  369. *av_frame_get_pkt_duration(frame)
  370. *-encoding:unused
  371. *-decoding:Readbyuser.
  372. */
  373. int64_tpkt_duration;
  375. /**
  376. *metadata.
  377. *Codeoutsidelibavcodecshouldaccessthisfieldusing:
  378. *av_frame_get_metadata(frame)
  379. *-encoding:Setbyuser.
  380. *-decoding:Setbylibavcodec.
  381. */
  382. AVDictionary*metadata;
  384. /**
  385. *decodeerrorflagsoftheframe,settoacombinationof
  386. *FF_DECODE_ERROR_xxxflagsifthedecoderproducedaframe,butthere
  387. *wereerrorsduringthedecoding.
  388. *Codeoutsidelibavcodecshouldaccessthisfieldusing:
  389. *av_frame_get_decode_error_flags(frame)
  390. *-encoding:unused
  391. *-decoding:setbylibavcodec,readbyuser.
  392. */
  393. intdecode_error_flags;
  394. #defineFF_DECODE_ERROR_INVALID_BITSTREAM1
  395. #defineFF_DECODE_ERROR_MISSING_REFERENCE2
  397. /**
  398. *numberofaudiochannels,onlyusedforaudio.
  399. *Codeoutsidelibavcodecshouldaccessthisfieldusing:
  400. *av_frame_get_channels(frame)
  401. *-encoding:unused
  402. *-decoding:Readbyuser.
  403. */
  404. int64_tchannels;
  405. }AVFrame;

AVFrame结构体一般用于存储原始数据（即非压缩数据，例如对视频来说是YUV，RGB，对音频来说是PCM），此外还包含了一些相关的信息。比如说，解码的时候存储了宏块类型表，QP表，运动矢量表等数据。编码的时候也存储了相关的数据。因此在使用FFMPEG进行码流分析的时候，AVFrame是一个很重要的结构体。

下面看几个主要变量的作用（在这里考虑解码的情况）：

uint8_t *data[AV_NUM_DATA_POINTERS]：解码后原始数据（对视频来说是YUV，RGB，对音频来说是PCM）

int linesize[AV_NUM_DATA_POINTERS]：data中“一行”数据的大小。注意：未必等于图像的宽，一般大于图像的宽。

int width, height：视频帧宽和高（1920x1080,1280x720...）

int nb_samples：音频的一个AVFrame中可能包含多个音频帧，在此标记包含了几个

int format：解码后原始数据类型（YUV420，YUV422，RGB24...）

int key_frame：是否是关键帧

enum AVPictureType pict_type：帧类型（I,B,P...）

AVRational sample_aspect_ratio：宽高比（16:9，4:3...）

int64_t pts：显示时间戳

int coded_picture_number：编码帧序号

int display_picture_number：显示帧序号

int8_t *qscale_table：QP表

uint8_t *mbskip_table：跳过宏块表

int16_t (*motion_val[2])[2]：运动矢量表

uint32_t *mb_type：宏块类型表

short *dct_coeff：DCT系数，这个没有提取过

int8_t *ref_index[2]：运动估计参考帧列表（貌似H.264这种比较新的标准才会涉及到多参考帧）

int interlaced_frame：是否是隔行扫描

uint8_t motion_subsample_log2：一个宏块中的运动矢量采样个数，取log的

其他的变量不再一一列举，源代码中都有详细的说明。在这里重点分析一下几个需要一定的理解的变量：

1.data[]

对于packed格式的数据（例如RGB24），会存到data[0]里面。

对于planar格式的数据（例如YUV420P），则会分开成data[0]，data[1]，data[2]...（YUV420P中data[0]存Y，data[1]存U，data[2]存V）

具体参见：FFMPEG 实现 YUV，RGB各种图像原始数据之间的转换（swscale）

2.pict_type

包含以下类型：

[cpp]view plaincopy
  1. enumAVPictureType{
  2. AV_PICTURE_TYPE_NONE=0,///<Undefined
  3. AV_PICTURE_TYPE_I,///<Intra
  4. AV_PICTURE_TYPE_P,///<Predicted
  5. AV_PICTURE_TYPE_B,///<Bi-dirpredicted
  6. AV_PICTURE_TYPE_S,///<S(GMC)-VOPMPEG4
  7. AV_PICTURE_TYPE_SI,///<SwitchingIntra
  8. AV_PICTURE_TYPE_SP,///<SwitchingPredicted
  9. AV_PICTURE_TYPE_BI,///<BItype
  10. };
3.sample_aspect_ratio

宽高比是一个分数，FFMPEG中用AVRational表达分数：

[cpp]view plaincopy
  1. /**
  2. *rationalnumbernumerator/denominator
  3. */
  4. typedefstructAVRational{
  5. intnum;///<numerator
  6. intden;///<denominator
  7. }AVRational;

4.qscale_table

QP表指向一块内存，里面存储的是每个宏块的QP值。宏块的标号是从左往右，一行一行的来的。每个宏块对应1个QP。

qscale_table[0]就是第1行第1列宏块的QP值；qscale_table[1]就是第1行第2列宏块的QP值；qscale_table[2]就是第1行第3列宏块的QP值。以此类推...

宏块的个数用下式计算：

注：宏块大小是16x16的。

每行宏块数：

[cpp]view plaincopy
  1. intmb_stride=pCodecCtx->width/16+1

宏块的总数：

[cpp]view plaincopy
  1. intmb_sum=((pCodecCtx->height+15)>>4)*(pCodecCtx->width/16+1)


5.motion_subsample_log2

1个运动矢量所能代表的画面大小（用宽或者高表示，单位是像素），注意，这里取了log2。

代码注释中给出以下数据：

4->16x16, 3->8x8, 2-> 4x4, 1-> 2x2

即1个运动矢量代表16x16的画面的时候，该值取4；1个运动矢量代表8x8的画面的时候，该值取3...以此类推

6.motion_val

运动矢量表存储了一帧视频中的所有运动矢量。

该值的存储方式比较特别：

[cpp]view plaincopy
  1. int16_t(*motion_val[2])[2];
为了弄清楚该值究竟是怎么存的，花了我好一阵子功夫...

注释中给了一段代码：

[cpp]view plaincopy
  1. intmv_sample_log2=4-motion_subsample_log2;
  2. intmb_width=(width+15)>>4;
  3. intmv_stride=(mb_width<<mv_sample_log2)+1;
  4. motion_val[direction][x+y*mv_stride][0->mv_x,1->mv_y];

大概知道了该数据的结构：

1.首先分为两个列表L0和L1

2.每个列表（L0或L1）存储了一系列的MV（每个MV对应一个画面，大小由motion_subsample_log2决定）

3.每个MV分为横坐标和纵坐标（x,y）

注意，在FFMPEG中MV和MB在存储的结构上是没有什么关联的，第1个MV是屏幕上左上角画面的MV（画面的大小取决于motion_subsample_log2），第2个MV是屏幕上第1行第2列的画面的MV，以此类推。因此在一个宏块（16x16）的运动矢量很有可能如下图所示（line代表一行运动矢量的个数）：

[cpp]view plaincopy
  1. //例如8x8划分的运动矢量与宏块的关系：
  2. //-------------------------
  3. //|||
  4. //|mv[x]|mv[x+1]|
  5. //-------------------------
  6. //|||
  7. //|mv[x+line]|mv[x+line+1]|
  8. //-------------------------


7.mb_type

宏块类型表存储了一帧视频中的所有宏块的类型。其存储方式和QP表差不多。只不过其是uint32类型的，而QP表是uint8类型的。每个宏块对应一个宏块类型变量。

宏块类型如下定义所示：

[cpp]view plaincopy
  1. //Thefollowingdefinesmaychange,don'texpectcompatibilityifyouusethem.
  2. #defineMB_TYPE_INTRA4x40x0001
  3. #defineMB_TYPE_INTRA16x160x0002//FIXMEH.264-specific
  4. #defineMB_TYPE_INTRA_PCM0x0004//FIXMEH.264-specific
  5. #defineMB_TYPE_16x160x0008
  6. #defineMB_TYPE_16x80x0010
  7. #defineMB_TYPE_8x160x0020
  8. #defineMB_TYPE_8x80x0040
  9. #defineMB_TYPE_INTERLACED0x0080
  10. #defineMB_TYPE_DIRECT20x0100//FIXME
  11. #defineMB_TYPE_ACPRED0x0200
  12. #defineMB_TYPE_GMC0x0400
  13. #defineMB_TYPE_SKIP0x0800
  14. #defineMB_TYPE_P0L00x1000
  15. #defineMB_TYPE_P1L00x2000
  16. #defineMB_TYPE_P0L10x4000
  17. #defineMB_TYPE_P1L10x8000
  18. #defineMB_TYPE_L0(MB_TYPE_P0L0|MB_TYPE_P1L0)
  19. #defineMB_TYPE_L1(MB_TYPE_P0L1|MB_TYPE_P1L1)
  20. #defineMB_TYPE_L0L1(MB_TYPE_L0|MB_TYPE_L1)
  21. #defineMB_TYPE_QUANT0x00010000
  22. #defineMB_TYPE_CBP0x00020000
  23. //Notebits24-31arereservedforcodecspecificuse(h264ref0,mpeg10mv,...)
一个宏块如果包含上述定义中的一种或两种类型，则其对应的宏块变量的对应位会被置1。
注：一个宏块可以包含好几种类型，但是有些类型是不能重复包含的，比如说一个宏块不可能既是16x16又是8x8。


8.ref_index

运动估计参考帧列表存储了一帧视频中所有宏块的参考帧索引。这个列表其实在比较早的压缩编码标准中是没有什么用的。只有像H.264这样的编码标准才有多参考帧的概念。但是这个字段目前我还没有研究透。只是知道每个宏块包含有4个该值，该值反映的是参考帧的索引。以后有机会再进行细研究吧。


在这里展示一下自己做的码流分析软件的运行结果。将上文介绍的几个列表图像化显示了出来（在这里是使用MFC的绘图函数画出来的）

视频帧：

FFMPEG结构体分析：AVFrame

QP参数提取的结果：

FFMPEG结构体分析：AVFrame

美化过的（加上了颜色）：

FFMPEG结构体分析：AVFrame

宏块类型参数提取的结果：

FFMPEG结构体分析：AVFrame

美化过的（加上了颜色，更清晰一些，s代表skip宏块）：

FFMPEG结构体分析：AVFrame

运动矢量参数提取的结果（在这里是List0）：

FFMPEG结构体分析：AVFrame

运动估计参考帧参数提取的结果：

FFMPEG结构体分析：AVFrame

相关推荐