2. 程式人生 > >HEVC函式入門（2）——幀內編碼一個CU

HEVC函式入門（2）——幀內編碼一個CU

阿新 • • 發佈：2019-01-25

這裡依然整理自http://blog.csdn.net/shaqoneal/article/details/37500715
且閱讀CU這部分主要對我而言是為了QP。另外一個方向是Tile不要迷失啦！！！
提醒我自己看http://blog.csdn.net/leixiaohua1020/article/details/46483721?locationNum=15&fps=1
在一個compressSlice()中，在compressCU函式中實現對一個CU的編碼，其中主要進行了CU的初始化，以及實際的編碼操作。
其中完成實際編碼一個CU操作的是xCompressCU方法。前面的綜述中已經描述過，每一個CTU按照四叉樹結構進行劃分，CompressCU中呼叫的xCompressCU則相當於四叉樹的根節點。另外，在每一個xCompressCU方法中間，會對每一個CU進行分析判斷是否進行下一級劃分。（不是64*64那個節點，而是每一個深度（depth）的節點）
xCompressCU函式由於包含了Intra和InterFrame編碼的程式碼，因此同樣非常長，共有600餘行。下面著重對幀內編碼的部分做一下梳理。
實現幀內編碼的部分程式碼如下（剛剛找到哈哈）：

 // do normal intra modes
        // speedup for inter frames
        Double intraCost = 0.0;

        if((rpcBestCU->getSlice()->getSliceType() == I_SLICE)                                     ||
           (rpcBestCU->getCbf( 0, COMPONENT_Y  ) != 0)                                            ||
          ((rpcBestCU->getCbf( 0
 
, COMPONENT_Cb ) != 0) && (numberValidComponents > COMPONENT_Cb)) ||
          ((rpcBestCU->getCbf( 0, COMPONENT_Cr ) != 0) && (numberValidComponents > COMPONENT_Cr))  ) // avoid very complex intra if it is unlikely
        {
          xCheckRDCostIntra( rpcBestCU, rpcTempCU, intraCost, SIZE_2Nx2N DEBUG_STRING_PASS_INTO(sDebug) )
 
;
          rpcTempCU->initEstData( uiDepth, iQP, bIsLosslessMode );
          if( uiDepth == g_uiMaxCUDepth - g_uiAddCUDepth )
          {
            if( rpcTempCU->getWidth(0) > ( 1 << rpcTempCU->getSlice()->getSPS()->getQuadtreeTULog2MinSize() ) )
            {
              Double tmpIntraCost;
              xCheckRDCostIntra( rpcBestCU, rpcTempCU, tmpIntraCost, SIZE_NxN DEBUG_STRING_PASS_INTO(sDebug)   );
              intraCost = std::min(intraCost, tmpIntraCost);
              rpcTempCU->initEstData( uiDepth, iQP, bIsLosslessMode );
            }
          }
        }

在這部分程式碼中xCheckRDCostIntra( rpcBestCU, rpcTempCU, SIZE_2Nx2N )查看了各種intra預測模式下的代價：

Void TEncCu::xCheckRDCostIntra( TComDataCU *&rpcBestCU,
                                TComDataCU *&rpcTempCU,
                                Double      &cost,
                                PartSize     eSize
                                DEBUG_STRING_FN_DECLARE(sDebug) )
{
  DEBUG_STRING_NEW(sTest)

  UInt uiDepth = rpcTempCU->getDepth( 0 );

  rpcTempCU->setSkipFlagSubParts( false, 0, uiDepth );

  rpcTempCU->setPartSizeSubParts( eSize, 0, uiDepth );
  rpcTempCU->setPredModeSubParts( MODE_INTRA, 0, uiDepth );
  rpcTempCU->setChromaQpAdjSubParts( rpcTempCU->getCUTransquantBypass(0) ? 0 : m_ChromaQpAdjIdc, 0, uiDepth );

  Pel resiLuma[NUMBER_OF_STORED_RESIDUAL_TYPES][MAX_CU_SIZE * MAX_CU_SIZE];

  m_pcPredSearch->estIntraPredLumaQT( rpcTempCU, m_ppcOrigYuv[uiDepth], m_ppcPredYuvTemp[uiDepth], m_ppcResiYuvTemp[uiDepth], m_ppcRecoYuvTemp[uiDepth], resiLuma DEBUG_STRING_PASS_INTO(sTest) );

  m_ppcRecoYuvTemp[uiDepth]->copyToPicComponent(COMPONENT_Y, rpcTempCU->getPic()->getPicYuvRec(), rpcTempCU->getCtuRsAddr(), rpcTempCU->getZorderIdxInCtu() );

  if (rpcBestCU->getPic()->getChromaFormat()!=CHROMA_400)
  {
    m_pcPredSearch->estIntraPredChromaQT( rpcTempCU, m_ppcOrigYuv[uiDepth], m_ppcPredYuvTemp[uiDepth], m_ppcResiYuvTemp[uiDepth], m_ppcRecoYuvTemp[uiDepth], resiLuma DEBUG_STRING_PASS_INTO(sTest) );
  }

  m_pcEntropyCoder->resetBits();

  if ( rpcTempCU->getSlice()->getPPS()->getTransquantBypassEnableFlag())
  {
    m_pcEntropyCoder->encodeCUTransquantBypassFlag( rpcTempCU, 0,          true );
  }

  m_pcEntropyCoder->encodeSkipFlag ( rpcTempCU, 0,          true );
  m_pcEntropyCoder->encodePredMode( rpcTempCU, 0,          true );
  m_pcEntropyCoder->encodePartSize( rpcTempCU, 0, uiDepth, true );
  m_pcEntropyCoder->encodePredInfo( rpcTempCU, 0 );
  m_pcEntropyCoder->encodeIPCMInfo(rpcTempCU, 0, true );

  // Encode Coefficients
  Bool bCodeDQP = getdQPFlag();
  Bool codeChromaQpAdjFlag = getCodeChromaQpAdjFlag();
  m_pcEntropyCoder->encodeCoeff( rpcTempCU, 0, uiDepth, bCodeDQP, codeChromaQpAdjFlag );
  setCodeChromaQpAdjFlag( codeChromaQpAdjFlag );
  setdQPFlag( bCodeDQP );

  m_pcRDGoOnSbacCoder->store(m_pppcRDSbacCoder[uiDepth][CI_TEMP_BEST]);

  rpcTempCU->getTotalBits() = m_pcEntropyCoder->getNumberOfWrittenBits();
  rpcTempCU->getTotalBins() = ((TEncBinCABAC *)((TEncSbac*)m_pcEntropyCoder->m_pcEntropyCoderIf)->getEncBinIf())->getBinsCoded();
  rpcTempCU->getTotalCost() = m_pcRdCost->calcRdCost( rpcTempCU->getTotalBits(), rpcTempCU->getTotalDistortion() );

  xCheckDQP( rpcTempCU );

  cost = rpcTempCU->getTotalCost();

  xCheckBestMode(rpcBestCU, rpcTempCU, uiDepth DEBUG_STRING_PASS_INTO(sDebug) DEBUG_STRING_PASS_INTO(sTest));
}

在這個函式中，呼叫了estIntraPredQT和estIntraPredChromaQT方法，這兩個函式的作用是類似的，區別只在於前者針對亮度分量後者針對色度分量。我們重點關注對亮度分量的操作，即estIntraPredQT函式。
下面是estIntraPredQT的一段程式碼(對我自己是重點)：

Void
TEncSearch::estIntraPredLumaQT(TComDataCU* pcCU,
                               TComYuv*    pcOrgYuv,
                               TComYuv*    pcPredYuv,
                               TComYuv*    pcResiYuv,
                               TComYuv*    pcRecoYuv,
                               Pel         resiLuma[NUMBER_OF_STORED_RESIDUAL_TYPES][MAX_CU_SIZE * MAX_CU_SIZE]
                               DEBUG_STRING_FN_DECLARE(sDebug))
                               {
//......
                                     for( Int modeIdx = 0; modeIdx < numModesAvailable; modeIdx++ )
      {
        UInt       uiMode = modeIdx;
        Distortion uiSad  = 0;

        const Bool bUseFilter=TComPrediction::filteringIntraReferenceSamples(COMPONENT_Y, uiMode, puRect.width, puRect.height, chFmt, pcCU->getSlice()->getSPS()->getDisableIntraReferenceSmoothing());

        predIntraAng( COMPONENT_Y, uiMode, piOrg, uiStride, piPred, uiStride, tuRecurseWithPU, bAboveAvail, bLeftAvail, bUseFilter, TComPrediction::UseDPCMForFirstPassIntraEstimation(tuRecurseWithPU, uiMode) );

        // use hadamard transform here
        uiSad+=distParam.DistFunc(&distParam);

        UInt   iModeBits = 0;

        // NB xModeBitsIntra will not affect the mode for chroma that may have already been pre-estimated.
        iModeBits+=xModeBitsIntra( pcCU, uiMode, uiPartOffset, uiDepth, uiInitTrDepth, CHANNEL_TYPE_LUMA );

        Double cost      = (Double)uiSad + (Double)iModeBits * sqrtLambdaForFirstPass;

#ifdef DEBUG_INTRA_SEARCH_COSTS
        std::cout << "1st pass mode " << uiMode << " SAD = " << uiSad << ", mode bits = " << iModeBits << ", cost = " << cost << "\n";
#endif

        CandNum += xUpdateCandList( uiMode, cost, numModesForFullRD, uiRdModeList, CandCostList );
      }
      }
 //......

                               }

這個for迴圈的意義就是遍歷多種幀內預測模式，其中numModesAvailable==35，對應整個intra的35個模式。
在predIntraLumaAng函式中（在16.3我的版本中是predIntraAng），編碼器完成計算出當前PU的預測值：

Void TComPrediction::predIntraAng( const ComponentID compID, UInt uiDirMode, Pel* piOrg /* Will be null for decoding */, UInt uiOrgStride, Pel* piPred, UInt uiStride, TComTU &rTu, Bool bAbove, Bool bLeft, const Bool bUseFilteredPredSamples, const Bool bUseLosslessDPCM )
{
  const ChromaFormat   format      = rTu.GetChromaFormat();
  const ChannelType    channelType = toChannelType(compID);
  const TComRectangle &rect        = rTu.getRect(isLuma(compID) ? COMPONENT_Y : COMPONENT_Cb);
  const Int            iWidth      = rect.width;
  const Int            iHeight     = rect.height;

  assert( g_aucConvertToBit[ iWidth ] >= 0 ); //   4x  4
  assert( g_aucConvertToBit[ iWidth ] <= 5 ); // 128x128
  //assert( iWidth == iHeight  );

        Pel *pDst = piPred;

  // get starting pixel in block
  const Int sw = (2 * iWidth + 1);

  if ( bUseLosslessDPCM )
  {
    const Pel *ptrSrc = getPredictorPtr( compID, false );
    // Sample Adaptive intra-Prediction (SAP)
    if (uiDirMode==HOR_IDX)
    {
      // left column filled with reference samples
      // remaining columns filled with piOrg data (if available).
      for(Int y=0; y<iHeight; y++)
      {
        piPred[y*uiStride+0] = ptrSrc[(y+1)*sw];
      }
      if (piOrg!=0)
      {
        piPred+=1; // miss off first column
        for(Int y=0; y<iHeight; y++, piPred+=uiStride, piOrg+=uiOrgStride)
        {
          memcpy(piPred, piOrg, (iWidth-1)*sizeof(Pel));
        }
      }
    }
    else // VER_IDX
    {
      // top row filled with reference samples
      // remaining rows filled with piOrd data (if available)
      for(Int x=0; x<iWidth; x++)
      {
        piPred[x] = ptrSrc[x+1];
      }
      if (piOrg!=0)
      {
        piPred+=uiStride; // miss off the first row
        for(Int y=1; y<iHeight; y++, piPred+=uiStride, piOrg+=uiOrgStride)
        {
          memcpy(piPred, piOrg, iWidth*sizeof(Pel));
        }
      }
    }
  }
  else
  {
    const Pel *ptrSrc = getPredictorPtr( compID, bUseFilteredPredSamples );

    if ( uiDirMode == PLANAR_IDX )
    {
      xPredIntraPlanar( ptrSrc+sw+1, sw, pDst, uiStride, iWidth, iHeight, channelType, format );
    }
    else
    {
      // Create the prediction
            TComDataCU *const pcCU              = rTu.getCU();
      const UInt              uiAbsPartIdx      = rTu.GetAbsPartIdxTU();
      const Bool              enableEdgeFilters = !(pcCU->isRDPCMEnabled(uiAbsPartIdx) && pcCU->getCUTransquantBypass(uiAbsPartIdx));

#if O0043_BEST_EFFORT_DECODING
      xPredIntraAng( g_bitDepthInStream[channelType], ptrSrc+sw+1, sw, pDst, uiStride, iWidth, iHeight, channelType, format, uiDirMode, bAbove, bLeft, enableEdgeFilters );
#else
      xPredIntraAng( g_bitDepth[channelType], ptrSrc+sw+1, sw, pDst, uiStride, iWidth, iHeight, channelType, format, uiDirMode, bAbove, bLeft, enableEdgeFilters );
#endif

      if(( uiDirMode == DC_IDX ) && bAbove && bLeft )
      {
        xDCPredFiltering( ptrSrc+sw+1, sw, pDst, uiStride, iWidth, iHeight, channelType );
      }
    }
  }

}

在這個函式中主要起作用的是xPredIntraPlanar和xPredIntraAng兩個函式，另外在PU大小小於16×16，且模式為DC模式時還會呼叫xDCPredFiltering函式。在這裡我們主要關心前面兩個。
xPredIntraPlanar的作用是以平面模式構建當前PU的幀內預測塊,而xPredIntraAng函式則承擔了其他模式的預測塊構建，也即，不同的模式索引值代表N多中不同的預測角度，從這些角度上以參考資料構建預測塊。

相關推薦

HEVC函式入門（2）——幀內編碼一個CU

這裡依然整理自http://blog.csdn.net/shaqoneal/article/details/37500715 且閱讀CU這部分主要對我而言是為了QP。另外一個方向是Tile不要迷失啦！！！ 提醒我自己看http://blog.csdn.net

HEVC函式入門（16）——Slice編碼

( uiCUAddr == rpcPic->getPicSym()->getTComTile(rpcPic->getPicSym()->getTileIdxMap(uiCUAddr))->getFirstCUAddr() &&

python內建函式彙總（2）

原文地址：https://docs.python.org/3/library/functions.html 函式名 功能 id(object) 返回物件object的識別符號，識別符號型別為整數

HEVC學習（三） —— 幀內預測系列之一

今天開始進入實質性內容的討論，主要是從程式碼實現的角度比較深入地研究幀內預測演算法。由於幀內預測涉及到的函式的數量相對於編解碼器複雜部分來說少，但事實上大大小小也牽涉到了十幾二十個函式（沒具體統計過，只是大概估算了下），想要一下子討論完比較困難，所以打算在接下來的若干篇文章

HEVC學習（五） —— 幀內預測系列之三

今天主要介紹幀內預測一個很重要的函式initAdiPattern，它的主要功能有三個，（1）檢測當前PU的相鄰樣點包括左上、上、右上、左、左下鄰域樣點值的可用性，或者說檢查這些點是否存在；（2）參考樣點的替換過程，主要實現的是JCTVC-J1003即draft 8.4.4.

TensorFlow 入門 第一課--基本函式學習（2）：tf.nn.conv2d 、tf.contrib.layers.flatten、tf.nn.max_pool 詳解

Tensorflow 提供了一些內建的API實現了CNN網路結構中的卷積，池化，全連線網路等運算操作。tf.nn.conv2d(input,filter, strides, padding, data_

maven入門（2）settings.xml

file option 一個 keyword files 合並 遠程倉庫 pac nbsp 一、簡介 settings.xml對於maven來說相當於全局性的配置，用於所有的項目， 當Maven運行過程中的各種配置，例如pom.xml，不想綁定到一個固定的project或者

zuul入門（2）zuul 的關鍵組件和用途

ice cti -s -1 life 處理 有一個 之間 類別 1、ContextLifecycleFilter 2、ZuulServlet 接收請求 ZuulServlet類似SpringMvc的DispatcherServlet，所有的Request都要經過Zuul

Python學習日記（2）Python內建集合及操作

進行 添加 依然 修改 lis ever 原來 合並 and 　　列表 　列表是零個或多個Python對象的一個序列，這些對象通常稱之為項； 　列表示例： [] #An empty list ["test"] #A list of one string

關於neo4j初入門（2）

結果 esc 添加 刪除節點 comm 瀏覽器 rom 關於 標記 DELETE刪除 刪除節點及相關節點和關系。 DELETE <node-name-list> DELETE <node1-name>,<node2-name>,&

SpringBoot 2.0入門（2）

SpringBoot 資料訪問 1.springboot整合使用JdbcTemplate 1.1 pom檔案引入 <parent> <groupId>org.springframework.boot</groupId> <arti

pytorch入門（2）-------神經網路的構建

https://blog.csdn.net/broken_promise/article/details/81174760 一、神經網路的構建： 激勵函式的選擇，如果層數較少的神經網路，激勵函式有多種選擇，在影象卷積神經網路中，激勵函式選擇ReLu，在迴圈神經網路中，選擇ReL或者Tanh。 所有的層結

Entity Framework Core 入門（2）

安裝 EF Core 將 EF Core 新增到不同平臺和常用 IDE 中的應用程式的所需步驟彙總。 分步入門教程 無需具備 Entity Framework Core 或任何特定 IDE 的原有知識，即可學習這些入門教程。 這些教程將逐步介紹如何建立用於查詢和儲存資料庫中資料的簡單應用程式。

Ardupilot chibios編譯，啟動，main函式學習（2）

目錄 文章目錄 目錄 摘要 1. Chibios編譯過程 2. Chibios啟動程式碼 1.startup_stm32f7xx.mk檔案 1.crt1.c 1.核心初始化函式

scala筆記-函式入門（3）

函式的定義與呼叫 在Scala中定義函式時，需要定義函式的函式名、引數、函式體。 我們的第一個函式如下所示： def sayHello(name: String, age: Int) = { if (age > 18) { printf("hi %s, you are

大資料入門（2）安裝linux的jdk

1、上傳檔案到linux alt+p  進入ftp傳檔案 sftp> put E:\soft\jdk-7u71-linux-x64.tar.gz 2、建立資料夾解壓檔案（root使用者許可權） mkdir /usr/java tar -zxvf jdk-7u71-

PHP入門（2）WampServer的安裝及使用

安裝 一直點選next即可。 如何檢驗環境配置成功 （1）開啟WampServer，會有一個cmd視窗一閃而過。 （2）桌面右下角工作列中WampServer圖示變為綠色，若一直為橙色或紅色則表示服務沒有完全開啟。 （3）左鍵單擊右下角工作列中WampServer圖示，單擊Lo

python函式手冊（2）

logging 配置方式 顯式建立記錄器Logger、處理器Handler和格式化器Formatter，並進行相關設定； 通過簡單方式進行配置，使用basicConfig()函式直接進行配置； 通過配置檔案進行配置，使用fileConfig()函式讀取配置檔案

MVVM Light 新手入門（2） ：ViewModel / Model 中定義屬性 ，並在View中呼叫 利刃 MVVMLight

今天學習MVVM架構中“屬性”的新增並呼叫，特記錄如下，學習資料均來自於網路，特別感謝翁智華的利刃 MVVMLight系列。   一個視窗的基本模型如下： View（檢視） -> ViewModel （檢視模型）-> 多個Model（模型） 注： 檢視是使用者在螢幕上看到

STM32 嵌入式學習入門（2）——STM32的GPIO介紹

STM32的GPIO介紹  GPIO：General Purpose Input Output ，即通用輸入/輸出，簡稱為GPIO。 GPIO應該是學習微控制器、學習嵌入式、學習STM32的第一個知識點了。在介紹GPIO相關的內容前，這裡先總得說一下自己對GPIO的理解。