摘要：本文首先对数字视频编码和H.264/AVC标准进行了简要介绍，然后分析了H.264/AVC的帧间、帧内预测编码原理。H.264/AVC采用多模式的帧间、帧内预测编码方法，通过引进代价函数对多种模式进行计算选择，从多种编码模式中找出最优模式。多模式的运动估计和模式选择方法在不降低码率的条件下，满足了画面质量最佳的要求，但也使得编码具有较高的复杂度，并导致编码效率降低。若能够在编码前先 对模式进行选择，可降低编码的复杂程度。因此本文重点研究了H.264/AVC标准在其测试模型中的快速模式选择方法。
JM是H.264/AVC的测试模型，具有较多测试版本。本文选择了典型的JM8.6测试版本，对H.264标准中的帧间预测中的模式选择进行了研究，并且通过对比JM6.1代码，研究H.264帧间预测快速模式选择的原理，以及快速选择的方法。通过详细比对代码，分析实验测试，分析了两种编码方式所带来的编码效果改变。
关键词：帧间模式选择；H.264；JM8.6
目录
摘要
ABSTRACT
1 引言-1
2 视频编码概述-2
2.1视频压缩解码概述-2
2.1.1有损和无损压缩-2
2.1.2 帧内和帧间压缩-2
2.1.3 对称和不对称编码-2
2.2 H.264概述-3
2.3 H.264编解码器框架图-3
2.3.1 H.264编码器框架图-3
2.3.2 H.264解码器框架图-4
2.4 H.264预测编码概述-5
2.4.1 帧内预测编码-5
2.4.2 帧间预测编码-5
3 H.264帧间模式选择方法-7
3.1 率失真优化的模式选择-7
3.2代价函数-8
3.3 H.264中的帧间模式选择算法-9
4 基于JM6.1模式选择方案-10
4.1 JM6.1概述-10
4.2 JM6.1帧间预测调用图-10
4.2 JM6.1帧间预测核心代码分析-11
4.2.1 设置拉格朗日参数-11
4.2.2 帧间选择亚宏块模式选择-12
4.2.3 宏块级模式运动估计-12
5模式选择改进--JM8.6-15
5.1 JM8.6模式选择流程图-15
5.2 JM8.6帧间预测核心代码分析-16
5.2.1帧间三种帧间宏块级模式（16*16,16*8,8*16）循环，进行择优-16
5.2.2计算在三种模式下每一个块进行计算最佳代价-16
5.2.3参考帧择优-16
5.2.4帧间亚宏块模式（P8*8模式）-17
5.2.5 运动搜索-18
6 结果研究-19
6.1 运行结果-19
6.1.1 JM6.1测试结果-19
6.1.2 JM8.6运行结果-20
6.2测试结果分析-22
结论-26
致谢-27
参考文献-28
