??? 在幀內(nèi)編碼方面，H.264采用基于4×4子塊和基于16×16宏塊的2種預(yù)測(cè)模式，其中4×4模式有9個(gè)預(yù)測(cè)方向,，宏塊模式有4個(gè)預(yù)測(cè)方向,。在最新的參考軟件JM9.3中加入了基于8×8子塊的預(yù)測(cè)模式。每一種預(yù)測(cè)模式都是利用相鄰已編碼塊的樣點(diǎn)值去預(yù)測(cè)當(dāng)前塊的樣點(diǎn)值,。H.264要分別計(jì)算宏塊在基于4×4,、16×16和8×8 3種模式下的各個(gè)預(yù)測(cè)方向的RDC值，并選擇值最小的模式作為最佳幀內(nèi)預(yù)測(cè)模式,。如果當(dāng)前編碼宏塊屬于幀間預(yù)測(cè)幀（P幀）,，該最小值還要與最佳幀間編碼模式的RDC值進(jìn)行比較來(lái)確定最佳模式。
??? H.264協(xié)議采用Lagrange代價(jià)函數(shù)計(jì)算每種模式下宏塊的RDC值,，其定義如下：
???
??? 式(1)中,，J_MODE表示相應(yīng)模式的RDC值，λ_MODE是Lagrange因子,，其值與量化系數(shù)有關(guān),。R(s，c,，MODE)指的是該模式所需的編碼比特?cái)?shù),。SSD(s，c,，MODE)指的是原始宏塊和重建宏塊之間的平方差之和,，其定義如下：
???
式(2)中，S(x,，y)表示原始宏塊,，C(x，y)表示重建宏塊,。
??? 通過上面的分析可以看到,，H.264在進(jìn)行宏塊模式?jīng)Q策時(shí)，運(yùn)動(dòng)估計(jì),、量化,、反量化和DCT變換等操作被多次反復(fù)調(diào)用，這樣的計(jì)算強(qiáng)度對(duì)于實(shí)時(shí)性要求較高的視頻通信應(yīng)用及處理能力相對(duì)較弱的手持設(shè)備而言是很難被接受的,。
3? 模式?jīng)Q策算法的快速實(shí)現(xiàn)
3.1 提出方法的動(dòng)機(jī)
??? H.264協(xié)議幀間模式?jīng)Q策的基本原則是：對(duì)只含有背景成分,、全局運(yùn)動(dòng)成分或很少量局部運(yùn)動(dòng)成分的宏塊采用大估計(jì)塊模式進(jìn)行編碼；對(duì)于含有豐富運(yùn)動(dòng)成分的宏塊采用小估計(jì)塊模式進(jìn)行編碼,。由此可以得出：隨著7種運(yùn)動(dòng)估計(jì)塊自大向小被調(diào)用,，宏塊的RDC值呈現(xiàn)出近似的單調(diào)變化趨勢(shì)。所以,，通過對(duì)這種趨勢(shì)的分析,，很可能在不調(diào)用所有模式的情況下得到最佳編碼模式,。
??? 使用H.264參考軟件JM9.3對(duì)9個(gè)QCIF和CIF格式的圖像序列進(jìn)行編碼實(shí)驗(yàn)，編碼模式的分配情況如表1所示,。從表中可以得到很多關(guān)于圖像統(tǒng)計(jì)特性的信息：(1)SKIP模式被使用的概率相當(dāng)高,，特別是那些類似于視頻通信應(yīng)用的圖像序列，如Claire,、News等序列,。這表明對(duì)這些圖像進(jìn)行編碼時(shí)如果能夠盡早確定是否采用SKIP模式，將使模式?jīng)Q策過程所需的時(shí)間大大減少,。(2)P幀中的宏塊使用幀內(nèi)預(yù)測(cè)編碼模式（表中INTRA列）的概率很低,，所以對(duì)P幀中的宏塊不采用幀內(nèi)模式對(duì)編碼質(zhì)量不會(huì)產(chǎn)生大的影響。(3)對(duì)于8×8的子塊采用8×4,、4×8、4×4 3種子模式的概率較低,，特別是在那些類似于視頻通信應(yīng)用的序列中,，這3種子模式被使用的概率只有1%左右，而含有許多運(yùn)動(dòng)成分的圖像序列使用這3種子模式的概率大約是2%～10%,。由于算法主要針對(duì)小尺寸視頻圖像在移動(dòng)終端設(shè)備中的應(yīng)用,，為了大幅度降低算法復(fù)雜度可以去掉這3種子模式。

?

3.2 幀間模式?jīng)Q策算法的快速實(shí)現(xiàn)
??? 通過分析,，本文提出一種快速模式?jīng)Q策算法的實(shí)現(xiàn)方法,。具體步驟如下。
??? 第1步：計(jì)算編碼宏塊SKIP模式的RDC值J_SKIP并與閾值T_SKIP比較,，若小于閾值則表示SKIP模式為最佳模式,，模式?jīng)Q策過程結(jié)束；否則,，到第2步,。其中閾值T_SKIP的確定方法是根據(jù)經(jīng)驗(yàn)確定一個(gè)比較小的初值，在編碼過程中利用所有用SKIP模式編碼的已編碼宏塊的RDC值的均值動(dòng)態(tài)改變它,。
??? 第2步：計(jì)算16×16模式的RDC值J_16×16和16×8模式的代價(jià)函數(shù)值J_16×8,，若J_16×8-J_16×16≥T₁₆，則表示隨著運(yùn)動(dòng)估計(jì)塊的變小,，宏塊RDC值增大的趨勢(shì)已經(jīng)明顯,，所以設(shè)16×16模式為最佳模式，模式?jīng)Q策過程結(jié)束,；否則,，到第3步。其中閾值T₁₆的確定方法與第1步中T_SKIP的確定方法類似,。
??? 第3步：計(jì)算8×16模式的RDC值J_8×16,，若J_8×16-J_16×16≥T₁₆,，則根據(jù)與第2步相同的原因，設(shè)16×16模式為最佳模式,，模式?jīng)Q策過程結(jié)束,；若J_16×8-J_16×16≥T₁₆且J_8×16-J_16×16≥T₈，也可認(rèn)為隨著運(yùn)動(dòng)估計(jì)塊的變小,，宏塊RDC值有增大趨勢(shì),，所以設(shè)16×16模式為最佳模式，模式?jīng)Q策過程結(jié)束,；若J_8×1616×16或J_16×816×168×16,，則表示編碼宏塊含有2個(gè)全局運(yùn)動(dòng)成分或部分背景成分，所以設(shè)8×16模式或16×8模式為最佳模式,，模式?jīng)Q策過程結(jié)束,；否則，到第4步,。其中閾值T₈=T₁₆*α,，α∈(0，1),。
??? 第4步：計(jì)算8×8模式的RDC值J_8×8,，并與上面得到的各種模式的值進(jìn)行比較，得到最佳模式,。
3.3 幀內(nèi)模式?jīng)Q策算法的快速實(shí)現(xiàn)
??? 關(guān)于幀內(nèi)預(yù)測(cè)模式?jīng)Q策算法的快速實(shí)現(xiàn),，本文提出的方法的核心思想是利用反映圖像空間特性的原始圖像和預(yù)測(cè)圖像在變換域中的絕對(duì)差值之和（SATD）與J_MODE值之間的相關(guān)性，減少需要RDC計(jì)算的候選模式的數(shù)量,。SATD定義如下：
???
式中I(x,，y)表示原始圖像值，P(x,，y)表示預(yù)測(cè)圖像值,，T{}表示Hadamard變換，b_k表示取值范圍,，即塊的大小,。
??? 方法的具體步驟是：(1)計(jì)算每個(gè)4×4子塊基于4×4預(yù)測(cè)模式的可能預(yù)測(cè)方向上的SATD值。(2)選擇具有最小SATD值的3個(gè)模式進(jìn)行RDC值的計(jì)算,，如果由相鄰的已編碼塊得出的最可能模式?jīng)]有被包含其中,，則還要計(jì)算這種模式的RDC值。(3)選出具有最小RDC值的模式為4×4子塊的最佳模式,。對(duì)基于8×8塊的預(yù)測(cè)模式的選擇采用同樣的辦法,。
4? 仿真結(jié)果
??? 根據(jù)本文提出的方法，修改軟件JM9.3的相應(yīng)部分,，并對(duì)8個(gè)格式為CIF和QCIF的圖像序列進(jìn)行了編碼仿真,。具體的仿真環(huán)境：編碼幀數(shù)為100,，參考幀數(shù)為5，序列形式為IPPP,，固定的量化系數(shù)（28,、38），CAVLC熵編碼,。此外,，采用JM軟件默認(rèn)的運(yùn)動(dòng)估計(jì)算法，搜索范圍為16,。本方法的仿真結(jié)果如表2所示,。表中ΔPSNR-Y表示本方法與原算法編碼圖像亮度信號(hào)之間的PSNR差值，ΔBitrate表示比特的增加比率,，Speed Up表示編碼時(shí)間的減少比率,。仿真結(jié)果表明，本方法雖然使得圖像質(zhì)量有所下降,，但明顯減少了編碼時(shí)間,。

?