论文部分内容阅读
为了能够自动、智能地读取纸质乐谱并演奏对应的音乐,提高音乐教学的效率,同时推动深度学习技术在光学乐谱识别的应用,本文主要开发了一套基于嵌入式平台的乐谱图像识别系统,研究并实现了基于深度学习技术的乐谱图像识别方法,实现乐谱图像识别的自动化与智能化。基于嵌入式平台的乐谱图像识别系统包括嵌入式平台以及乐谱图像识别算法两部分。嵌入式平台主要为纸质乐谱数字化提供软件运行环境与硬件支撑,乐谱图像识别算法基于深度学习技术实现乐谱图像的数字化。嵌入式平台是以NVIDIA JetsonTX2开发板作为核心硬件,配合Logitech C270摄像头、深度学习服务器、显示器以及扬声器,构成图像识别系统的硬件设施。在此基础上,搭建基于Linux系统与Caffe深度学习框架的系统软件环境。在系统输入端,使用OpenCv开源视觉库来调用摄像头,并对采集到的数字乐谱图像进行尺寸变换、亮度变换等处理。然后基于深度学习的核心算法对数字图像进行识别,并生成音频文件。在系统输出端,通过timidity解码识别音频文件,对识别结果进行播放。乐谱图像识别算法包括谱线定位、音符检测和发音基元分析三个步骤。首先使用霍夫变换技术进行谱线检测,然后融合FAST角点检测、图像金字塔、级联卷积神经网络等图像处理技术进行音符检测,再使用图像分割技术对音符进行发音基元分割,对分割后的基元进行分析与组合,重构独立音符信息。本论文的创新点如下:(1)针对印刷体音符建立了不同光照环境、不同清晰度条件的音符数据集,根据大量国内民歌与国外名曲中的音符样本,建立了乐谱图像中的乐谱行、独立音符与发音基元三级数据库,能够支持深度学习算法模型的训练和测试。(2)为了改善传统光学乐谱识别技术在图像数据适应性、鲁棒性方面的不足与局限,将传统图像处理方法与深度学习中的卷积神经网络相结合,提高了乐谱图像识别的效果,准确率达到84.6%,召回率达到94.8%。(3)通过嵌入式平台将乐谱图像识别系统的各个功能模块进行集成与优化,设计简洁的人机交互界面进行操作,实现了纸质乐谱到电子音频的转化环节的集成化、自动化与智能化。