屏幕内容编码(Screen Content Coding,SCC)是高效视频编码(High Efficiency Video Coding,HEVC)的扩展,并且通过采用HEVC的35种帧内模式和两种新的编码模式:帧内块复制(Intra Block Copy,IBC)模式和调色板(Palette,PLT)模式,来提高屏幕内容视频的编码效率。然而,在这三类模式候选者中对最优模式的穷举搜索以及灵活的基于四叉树的编码树单元(Coding Tree Unit,CTU)划分结构给SCC编码器带来了显着的计算负担。对于计算能力受限的应用而言,降低SCC的编码复杂度至关重要,因此,本文针对如何有效降低SCC帧内编码的计算复杂度进行了研究。针对SCC帧内编码的编码单元(Coding Unit,CU)划分过程,本文设计了一种基于卷积神经网络(Convolutional Neural Network,CNN)的屏幕内容编码帧内CTU深度范围预测快速算法。为了预测CTU深度范围,本文设计了与CU划分特性相适应的CNN结构,并根据CTU深度范围的统计分析设置了分类标签。设计的CNN结构分三层并行利用不同大小的卷积核提取与CTU深度相关的特征,通过在多个尺度上同时进行卷积以提取不同尺度的特征,使得特征更为丰富,提高了分类判断的准确度。在编码时调用训练好的CNN模型,预测CTU深度范围,跳过和终止某些深度的率失真(Rate Distortion,RD)代价值的计算,以降低编码复杂度。将此算法在SCM8.0上实现后,编码时间平均减少了48.34%。虽然上述算法取得了较好的效果,但是算法仅考虑了CU划分而并未考虑预测单元(Prediction Uint,PU)的模式选择,因此,本文提出了一种基于CNN的CU划分和PU模式选择快速算法。首先设计了用于CU划分和PU模式选择的CNN结构,并且根据PU模式占比分析将模式分为六类。所提结构将整个CTU作为输入,分四个分支输出其中85个CU的预测标签。此外,为了提高预测的准确率,提出了动态自适应阈值Thx,该阈值由相邻CU的最佳预测模式决定。在编码时调用训练好的CNN模型,结合阈值Thx,对六类模式是否检查进行进一步的判断,若所有模式都判断为不检查,则CU需要向下划分。实验结果表明,与SCM8.0相比,编码时间平均减少43.23%。且与本文所提的基于CNN的屏幕内容编码帧内CTU深度范围预测快速算法相比,此算法在保证编码时间大幅减少的情况下,编码损失得到降低。