基于CNN的λ域帧内码控最佳码率分配算法

CNN based optimal rate allocation algorithm for λ-domain intra coding rate control

林湧 ¹杨郑龙 ¹罗亦茜 ¹刘欣昱¹

扫码查看

作者信息

1. 上海工程技术大学城市轨道交通学院,上海 201620
折叠

摘要

在λ域帧内码控中,提出一种基于卷积神经网络(Convolutional Neural Network,CNN)的帧内码控最佳码率分配算法.首先利用双曲线函数拟合编码树单元(Coding Tree Unit,CTU)的率失真(Rate Distortion,RD)特性.设计双分支卷积神经网络(Dual-Branch Convolutional Neural Network,DBCNN)预测率失真关键参数.然后根据帧级率失真优化(Rate Distortion Optimization,RDO),建立帧级目标码率与CTU码率分配等式关系,推导帧级拉格朗日参数λ.最后反演出最佳CTU码率分配.实验表明,该算法能够显著提高帧内码控编码性能,并具有较高码控精度.

关键词

H.265/HEVC/帧内编码/卷积神经网络/λ域码率控制/率失真特性

Key words

H.265/HEVC/intra coding/convolutional neural network(CNN)/λ-domain rate control/rate-distortion(RD)

引用本文复制引用

基金项目

张江基金(ZJ2020-ZD-009)

出版年

2023

计算机时代

浙江省计算技术研究所　浙江省计算机学会

计算机时代

影响因子：0.411

ISSN：1006-8228

参考文献量1

段落导航