H. 264/AVC帧内预测模式选择算法研究pdf

H.  264  /AVC帧内预测模式选择算法研究裴世保,李厚强,俞能海摘　要:  H.  264  /AVC采用空间域上的帧内预测技术,进一步提高了编码效率,但由于H.  264  /AVC支持的帧内预测模式数较多,使预测的复杂度大幅度增加。详细分析了帧内预测模式的选择过程,提出一种快速的率失真优化(RDO)模式下的快速Intra_4  ×4模式选择算法,该算法根据SATD(  Sum  of  Absolute  Transformed  Difference)以及相邻块的预测模式之间的相关性等特征,预先排除了超过65%可能性小的Intra_4  ×4模式,避免了不必要的计算,从而大幅度降低帧内预测的复杂度,同时基本保持了H.  264  /AVC的编码性能。关键词:视频编码;帧内预测;率失真优化中图分类号:  TP317.  4;  TN919.  8　　文献标识码:  AResearch  of  H.  264  /AVC  intra2pred  iction  mode  selection  a  lgor  ithmPE  I  Shi2bao,L  IHou2qiang,  YU  Neng2hai(Departm  ent  of  Electronic  Engineering  and  Inform  ation  Science,  University  of  Science  and  Technology  of  China,Hefei  Anhui  230026,  China)Abstract:  H.  264  /AVC  emp  loyed  intra2p  rediction  technique  in  space  domain  to  enhance  coding  efficiency,  but  itincreased  p  rediction  comp  lexity  drastically  because  of  quite  a  few  intra2p  rediction  modes.  A  new  Intra_4  ×4  mode  selectionalgorithm  based  on  rate  distortion  op  timization  (RDO  )  was  p  roposed.  It  emp  loyed  SATD  (  Sum  of  Absolute  TransformDifference)  of  each  block  as  a  judgment  and  used  correlation  between  p  rediction  modes  of  adjacent  blocks  to  filter  out  morethan  65%  less  p  robable  modes  beforehand  so  as  to  avoid  unnecessary  computations.  The  new  algorithm  reduces  the  intra2p  rediction  comp  lexity  greatly  while  maintaining  coding  performance  very  well.Key  words:  video  coding;  intra2p  rediction;  RDO  (Rate  Distortion  Op  timization)