论文部分内容阅读
我们常说,摄影是用光的艺术。这句话至少包括两层意思,一是拍摄现场的光线是拍摄好照片的基础,光源性质、颜色以及光的强度、指向等都会对画面产生决定性影响;二是摄影者在拍摄过程中要懂得如何利用光线,来得到想要呈现的光线效果。不过,计算摄影时代的到来,会让“用光”这件事产生革命性的变化,即使在现场光不理想或者摄影者不掌握专业用光技巧的情况下,好照片也有可能产生。
零延时拍照
當我们讨论光的时候,先来说下快门速度是有必要的,因为它决定了我们能够捕捉光线的时间,是光线控制的起点。
相信大家和我一样,最早学习摄影的时候,老师都会这么教我们:“在拍摄百米赛跑、飞鸟、人物合影的时候,一定要对相机的快门延迟有预判,要提前按下快门,不要等发生的那一瞬间才拍照。”这是因为相机从按下快门到最终得到照片,需要花一定时间去处理和运算,并不是按下快门一瞬间,就拍到画面,这是因为有“快门时滞”。
不过,快门时滞在计算摄影的时代已经不存在了,甚至还会让拍摄者感到“时光倒转”这样不可思议的事情——按下快门的一瞬间拍到了前一时刻的画面。
简单来说,这是因为当你打开手机相机应用程序的那一瞬间,相机就已经开始马不停蹄拍照了。按下快门的一瞬间也不代表拍照结束,而是继续拍摄若干张之后才停止,按快门的动作只代表拍摄者给相机提供了一个时间参考节点。相机内部处理器有一个缓存区域,不断刷新一定时间内的照片。
以谷歌Pixel手机的Top Shot功能为例。当摄影师按下快门时,Top Shot会在前后1.5秒内拍摄多达90张图像(每秒30张的连拍速率),最多选择两张以高分辨率保存,其他88张以较低分辨率保存,根据需要在之后进行查看。而今年上市的运动相机GoPro HERO 8 Black同样配备了零延时,可以帮助用户捕获快门前后1.5秒内的所有瞬间。
从技术上来说,做到零时快门就已经完全够了,但计算摄影的魅力就在于不仅先进而且使用体验同样非常出色。相机内的人工智能算法,可以帮助用户在一系列拍摄的照片里面智能打分,筛选出拍摄者期望的两张或者三张照片,自动呈现给拍摄者。这样一来,按下快门后,我们立刻就得到了若干个最佳瞬间。剩下那些分辨率不高的照片可以通过视频压缩编码的方式形成三秒的短视频,用来在社交平台上进行分享。苹果手机的Live Photo亦是如此。这就让整个拍摄变得更加生动活泼。
从前面的两个例子,我们可以看到零延时模式下是依赖连拍照片工作的。在这个意义上来说,计算摄影时代的照相机与录像机已经没有本质区别。在拍照的同时,相机在后台做的就是录像工作,只不过我们最终得到的结果是海量图像数据中经过挑选出来的最佳照片。而且,参照之前HDR+的方法,当我们挑选出最佳瞬间的同时,其他非最佳瞬间并不是完全没有意义,可以帮助最佳瞬间去改善画质。
计算合成光效
这里所谓合成光效有三个层次含义:第一个层次的含义是在不开闪光灯的情况下去拍照,通过机器学习、语义分割的方法把特定的区域进行提亮,达到了接近打开闪光灯/使用反光板的效果;第二层含义是在一个拍摄场景里(尤其是暗光场景),通过闪光灯开与不开的多张照片的混合,得到了一张光效更自然、观感更好的照片;第三层含义则是通过计算摄影方法重新计算现场光效,以达到摄影工作室光效的效果。
先以合成光效下的逆光人像为例拍摄来解释第一层含义。在遇到这样的拍摄需求时,摄影师通常会使用反光板或者通过闪光灯+柔光罩来照亮背光对象的脸部。然而,借助计算摄影的方法,反光板、闪光灯和柔光罩不是必需品,通过实时运算也可以实现此目的。现在很多手机的人像模式就已经采用了基于机器学习的分割算法,智能判定识别人物对象并为其添加暖色调光效,以达到重新布光的感觉。不仅如此,用于识别人物对象的分割方法也被用于前置视频图像稳定,这对于喜欢拍摄Vlog的人来说更是个好消息。因为Vlog视频的需求是稳定自己而不是背景。对于传统的的基于陀螺仪的稳定技术来说,这是做不到的。
对于第二层含义,要引入“计算式闪光灯摄影”这个概念。在我们的摄经验中,如果在一个很暗的环境下打开闪光灯拍照,很大几率距离闪光灯比较近的地方会被光质很硬的闪光灯照亮,远处的物体非但不会被照亮,还会覆盖在前景的阴影中。因此专业摄影师在大多数夜景拍摄场合是不会用闪光灯照明被摄对象,多是使用闪光灯作为补光工具,再配合相关拍摄参数调整整体画面亮度来得到好照片。而对于普通人,对闪光灯补光没有把控能力,照明成为闪光灯的唯一作用,拍摄的照片就不大好看。这时,计算式闪光灯摄影就很好地解决了普通人使用闪光灯的拍夜景的问题。如今,很多手机和相机也都配备这个功能。简单来说,这个方法就是在拍摄了一张闪光灯照片同时,还捕获了一张不开闪光灯拍摄的照片。这两张照片按照图像的特征区域进行叠加、融合,再由处理器整体调整后,就可以获得一张非常自然的照片,甚至会让人以为现场光线效果就是那样。而且,利用这种方法,用闪光灯夜景拍摄时的红眼问题,也被解决了。
所谓计算式工作室光效,也可以说是在“计算式闪光灯摄影”基础上发展而来,既然我们可以混合閃光灯和不开闪光灯的照片,未尝不可在更大的范围内去控制现场光。目前,已经有不少型号的手机实现了这类效果,最具代表性的就是iPhone肖像摄影模式中的“工作室光效”(Studio Light),借助图像算法以及对于多个摄像头景深计算,最终达到和模拟工作室灯光布置的效果。
总体来说,合成光效是近年发展比较快的领域,它并不是摄影滤镜,而是高度依赖于对拍摄现场各种光线参数的计算和把控,远比摄影滤镜要复杂得多。
计算式暗光摄影
计算式暗光摄影可以让摄影者在很弱的光线下,甚至是在肉眼已经无法分辨的环境中依然能拍摄清晰的照片,并且不需要三脚架或闪光灯。这听起来真的不可思议,但真的已经悄然来到了每个人身边。
拍摄过昏暗场景的人都知道,要么拍不清楚,要么拍出来全是噪点,根本没法看。噪声是怎么产生的呢?
对于具有小镜头和传感器的智能手机相机,噪声的主要来源是进入镜头的光子数量的自然变化,称为散粒噪声;第二个噪声源是每个像素进行光电转换(称为读取噪声)时引入的随机误差。信噪比(SNR)是衡量图像从噪声中脱颖而出的量度。SNR随曝光时间的平方根(或更快)而增加,因此拍摄更长的时间,理论上可以得到更清晰的图像。但摄影师很难在昏暗的光线下保持足够长的拍摄时间,而且无论拍摄什么,震动或抖动都在所难免。
前文我们介绍了HDR+这种计算摄影技术,可通过捕获一连串的画面,在软件中对齐帧,并将它们合并在一起来改善画质。其主要目的是改善动态范围,即能够拍摄表现出各种亮度(例如日落或背光肖像)的场景。多帧图片还可以减少散粒噪声和读取噪声的影响,因此同样可以提高昏暗照明下的信噪比。
读者自然会想到,如果捕获并合并多个帧会在弱光下产生更清晰的图像,为什么不使用HDR+合并数十个帧以便我们可以在黑暗拥有夜视的能力呢?这是因为仅使用智能手机,在暗光条件(30 Lux照度以下)中不可能通过单次拍摄得到理想画面。虽然延长每帧的曝光时间会增加SNR并产生更清晰的图像,但不幸的是,这会带来很多问题。首先,不能采用零时滞快门,因为需要提升单张曝光时间。对于需要更长曝光的较暗场景,快门延迟(PSL)不可避免。这意味着摄影者需要在按下快门后保持一小段时间静止不动,得到更长的曝光时间。其次,在非常昏暗的灯光下,人会停止看到颜色,这是因为视网膜中的视锥细胞停止运作,只剩下无法分辨不同波长光的视杆细胞。夜晚的景象仍然丰富多彩,我们却无法感知。再次,增加每帧曝光时间导致运动模糊很难避免,这主要是由场景中的移动对象引起的。第四,自动白平衡(AWB)在弱光下不可用,这是由最基本的色彩原理决定的。
计算式暗光摄影借鉴了HDR+的方法,且为了解决色彩问题,开发了一种基于机器学习的AWB算法,核心是判断图像的色温是在白天还是晚上、是在室内还是室外,算法经过训练可以区分出白平衡好的图像和白平衡差的图像。当捕获的图像白平衡不佳时,该算法可以建议如何改变其颜色以使照明看起来更合理。