论文部分内容阅读
随着计算机、立体显示、人机交互等技术的发展,虚拟现实技术不断进步和成熟。特别是近年来,随着智能手机的普及和VR BOX的诞生,在世界范围内形成了一股VR浪潮,许多著名公司纷纷推出其VR产品,VR内容也大幅增长。由于创建逼真的虚拟景物、环境,其成本和难度往往比构建真实世界低得多,因此VR技术正迅速向军事训练、实验教学、工业设计、建筑展示、医学解剖和虚拟游戏等众多领域扩展。本文以虚拟钢琴为例探讨了 VR技术在音乐教学中的应用,并着重研究了 VR中的人机交互技术。本文的创新工作和研究成果总结如下。本文以HTC Vive套件和固定在头盔上的Leap Motion传感器为硬件平台,同时以Unity3D及相关SteamVR插件和Leap Motion插件为软件平台,开发了一款虚拟钢琴。虚拟钢琴以Cube构件组成虚拟键盘,通过编制Cube构件的被接近和被按下或松开脚本响应函数,记录虚拟钢琴键盘演奏事件,进一步借助MIDI实现虚拟钢琴发声。为了增强演奏效果,论文还实现粒子火焰系统的键盘演奏、MIDI文档保存和重播,以及借助手势识别的虚拟钢琴属性更改设置。本文借助机器学习理论,提出并实现了一种手势识别算法。该算法首先对Leap Motion传感器采集的手指、手掌原始坐标数据进行去抖动和平滑滤波处理;然后通过滑动窗口算法从连续数据中分割提取单个手势;进一步对所提取的单个手势动作进行分帧;接着对分帧后的速度方向矢量按照本文提出的角度编码方法进行编码;最后将上述编码序列作为输入数据,采用隐马尔可夫模型对手势动作进行模型建立、训练和识别。论文实现了与虚拟钢琴属性设置相关的4种手势识别,识别率超过88%。本文开发的3D虚拟钢琴,其沉浸感远高于在普通计算机屏幕上显示的2D虚拟钢琴;而且可用双手自然演奏,舒适流畅感也远强于借助鼠标键盘演奏的2D虚拟钢琴。论文实现的手势识别算法不仅可用于虚拟钢琴属性设置,还可用于其他VR产品,具有广泛的推广应用价值。