论文部分内容阅读
科幻小说家艾萨克·阿西莫在其小说中为无人驾驶汽车制定了法律：无人机不能伤害人类。但如果当无人驾驶汽车刹车失灵面临两个选择时：要么撞向行人，要么开到沟里使乘客生命安危陷入险境，该怎么办？现如今，无人机的道德选择问题已经不再局限于小说中，事实上现在已经有无人驾驶汽车上路了。
情况1
无人驾驶汽车以80公里每小时的速度行驶，突然一只小狗冲在车前，且此时无法急刹车。在这种情况下，无人驾驶汽车应该如何选择？
1.继续前行并撞向小狗。（有60%的人支持这种做法）
2.违反交规，冒着被撤销驾驶执照的危险变道，同时可能与旁边车道的车辆碰撞。（34%）
3.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重的损坏和车内乘客受伤。（6%）
情况2
无人驾驶汽车以80公里每小时的速度行驶，其后紧跟一辆匀速行驶的B车。突然一只小狗冲在车前，急刹车可以挽救它的生命。无人驾驶汽车应该如何选择？
1.继续前行并撞向小狗。（55%）
2.急刹车，不可避免地将导致与车辆B碰撞。（40%）
3.违反交规，冒着被撤销驾驶执照的危险变道，转行到旁边的车道，同时可能与旁边车道的车辆碰撞。（1%）
4.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重损坏和车内乘客受伤。（4%）
情况3
无人驾驶汽车以80公里每小时的速度行驶，突然一个人冲在车前。无人驾驶汽车应该如何选择？
1.继续前行并撞向行人。（38%）
2.违反交规，冒着被撤销驾驶执照的危险变道，转行到旁边的车道，同时可能与旁边车道的车辆碰撞。（3%）
3.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重损坏和车内乘客受伤。（59%）
情况4
无人驾驶汽车以80公里每小时的速度行驶，突然几个人冲在车前。且此时无法急刹车。在这种情况下，无人驾驶汽车应该如何选择？
1.继续前行并撞向行人。（26%）
2.违反交规，冒着被撤销驾驶执照的危险变道，转行到旁边的车道，同时可能与旁边车道的车辆碰撞。（3%）
3.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重损坏和车内乘客受伤。（71%）
“在道德两难的情境下，无人驾驶汽车到底应该先救谁？”这是麻省理工学院网站上一项研究的标题，该研究成果刊登在《科学》杂志上。麻省理工学院的学者们让被调查者对几十个道德两难问题进行抉择。事实上，这是一项与著名的“电车难题”相似的研究。
“电车难题”是一个著名的涉及伦理学的思想实验：假設电车轨道上行驶着一辆严重失控的电车，同时有5个人被绑在这条轨道上，他们马上就要被碾压到，然而此时你有机会拉动杠杆将失控的电车切换到另一条轨道上，但这条轨道上也绑着一个人。你会怎么做？在道德两难问题上不存在对错，但很多人认为应该选择救多数人，也有一些人选择了不干涉，因为无论选择救下哪一方都是在谋杀另一方。
“不难想象，在无人机安全驾驶的程序中纳入的道德选择的算法，一定会互相冲突，”麻省理工学院的研究者说道，“更何况还要求无人机做出道德选择。如果无人驾驶汽车的刹车失灵了，驶向正在闯红灯横穿马路的一个女孩，此时无人驾驶汽车也可以拐向另一个车道，但那样会撞到一位老人。该如何选择？”
我认真地看完了麻省理工学院研究人员的测试报告，这确实是件难事，这比“电车难题”要困难得多，因为这涉及现实的交通问题。
无人机的设计者是否会受道德两难问题的困扰？我决定亲自拜访俄罗斯“认知技术”公司无人驾驶交通部领导尤里·明克尼。几年前，该公司开始开发无人驾驶汽车的控制程序，不久前将之运用在一款小轿车上，如果该项测试进行得顺利，我们的城市里将很快出现第一辆无人驾驶汽车。
无人驾驶汽车的主要预期目标之一就是减少交通事故，使交通事故的受害者人数大大减少。现今，在俄罗斯道路上有成千上万的人死于交通事故，随着无人驾驶汽车的普及，该人数可能减少到数百人，直到最后变成几个人。从这个意义上说，无人驾驶汽车的道德选择要具有先验性，能接收并整合道路、其他车辆和地面基础设施发来的各种数据。我向尤里·明克尼请教了以下几个问题。
无人驾驶汽车也会发生交通事故吗？
当然会，因为无人驾驶汽车的程序仍有待完善。不久前刚发生过一起重大事故：一辆无人驾驶汽车与一辆拖车相撞，因为程序漏洞，没有识别出在天空背景下的白色拖车，导致乘客伤亡。当然，该系统漏洞将很快被修复。
无人驾驶汽车的开发者面临道德选择的问题，您也认为让1人陷入险境胜过5人吗？
无人机的道德困境将是一个极其罕见的情况，像陨石砸中人的几率一样渺小。当然，汽车不懂道德规范，它按照人类规定的道德标准执行。在这种情况下，我们制定的标准应该将损失降到最低。如何将损害最小化？我们就要将程序更加精细化，考虑到更多细节和更多种情况。例如，迎面而来的汽车，我们很可能无法判断车内的人数，在人行道上有两个孩子，但车内如果有3个人该怎么办呢？我们能非常确定的是这两个孩子的生命即将受到威胁，而车内的情况我们还不确定。这种情况就需要单独设计控制程序。
想象一下你的无人驾驶汽车停在路口等待着你前面的行人过马路，这时候，你的车子发现后面有另一辆卡车冲过来了，看起来无可避免地要发生追尾事故了，但是你坐在前排座位上，这样的事故只会给你带来一点小伤——至少不会致命。如果你的汽车具备规避程序，那么你的汽车应该怎么做呢？如果你的车子可以立马躲开，移到旁边的车道去，那么这辆卡车就会冲进路口，碾压行人。
情况1
无人驾驶汽车以80公里每小时的速度行驶，突然一只小狗冲在车前，且此时无法急刹车。在这种情况下，无人驾驶汽车应该如何选择？
1.继续前行并撞向小狗。（有60%的人支持这种做法）
2.违反交规，冒着被撤销驾驶执照的危险变道，同时可能与旁边车道的车辆碰撞。（34%）
3.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重的损坏和车内乘客受伤。（6%）
情况2
无人驾驶汽车以80公里每小时的速度行驶，其后紧跟一辆匀速行驶的B车。突然一只小狗冲在车前，急刹车可以挽救它的生命。无人驾驶汽车应该如何选择？
1.继续前行并撞向小狗。（55%）
2.急刹车，不可避免地将导致与车辆B碰撞。（40%）
3.违反交规，冒着被撤销驾驶执照的危险变道，转行到旁边的车道，同时可能与旁边车道的车辆碰撞。（1%）
4.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重损坏和车内乘客受伤。（4%）
情况3
无人驾驶汽车以80公里每小时的速度行驶，突然一个人冲在车前。无人驾驶汽车应该如何选择？
1.继续前行并撞向行人。（38%）
2.违反交规，冒着被撤销驾驶执照的危险变道，转行到旁边的车道，同时可能与旁边车道的车辆碰撞。（3%）
3.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重损坏和车内乘客受伤。（59%）
情况4
无人驾驶汽车以80公里每小时的速度行驶，突然几个人冲在车前。且此时无法急刹车。在这种情况下，无人驾驶汽车应该如何选择？
1.继续前行并撞向行人。（26%）
2.违反交规，冒着被撤销驾驶执照的危险变道，转行到旁边的车道，同时可能与旁边车道的车辆碰撞。（3%）
3.转向另一边的护栏或沟渠，明知将不可避免地导致汽车严重损坏和车内乘客受伤。（71%）
“在道德两难的情境下，无人驾驶汽车到底应该先救谁？”这是麻省理工学院网站上一项研究的标题，该研究成果刊登在《科学》杂志上。麻省理工学院的学者们让被调查者对几十个道德两难问题进行抉择。事实上，这是一项与著名的“电车难题”相似的研究。
“电车难题”是一个著名的涉及伦理学的思想实验：假設电车轨道上行驶着一辆严重失控的电车，同时有5个人被绑在这条轨道上，他们马上就要被碾压到，然而此时你有机会拉动杠杆将失控的电车切换到另一条轨道上，但这条轨道上也绑着一个人。你会怎么做？在道德两难问题上不存在对错，但很多人认为应该选择救多数人，也有一些人选择了不干涉，因为无论选择救下哪一方都是在谋杀另一方。
“不难想象，在无人机安全驾驶的程序中纳入的道德选择的算法，一定会互相冲突，”麻省理工学院的研究者说道，“更何况还要求无人机做出道德选择。如果无人驾驶汽车的刹车失灵了，驶向正在闯红灯横穿马路的一个女孩，此时无人驾驶汽车也可以拐向另一个车道，但那样会撞到一位老人。该如何选择？”
我认真地看完了麻省理工学院研究人员的测试报告，这确实是件难事，这比“电车难题”要困难得多，因为这涉及现实的交通问题。
无人机的设计者是否会受道德两难问题的困扰？我决定亲自拜访俄罗斯“认知技术”公司无人驾驶交通部领导尤里·明克尼。几年前，该公司开始开发无人驾驶汽车的控制程序，不久前将之运用在一款小轿车上，如果该项测试进行得顺利，我们的城市里将很快出现第一辆无人驾驶汽车。
无人驾驶汽车的主要预期目标之一就是减少交通事故，使交通事故的受害者人数大大减少。现今，在俄罗斯道路上有成千上万的人死于交通事故，随着无人驾驶汽车的普及，该人数可能减少到数百人，直到最后变成几个人。从这个意义上说，无人驾驶汽车的道德选择要具有先验性，能接收并整合道路、其他车辆和地面基础设施发来的各种数据。我向尤里·明克尼请教了以下几个问题。
无人驾驶汽车也会发生交通事故吗？
当然会，因为无人驾驶汽车的程序仍有待完善。不久前刚发生过一起重大事故：一辆无人驾驶汽车与一辆拖车相撞，因为程序漏洞，没有识别出在天空背景下的白色拖车，导致乘客伤亡。当然，该系统漏洞将很快被修复。
无人驾驶汽车的开发者面临道德选择的问题，您也认为让1人陷入险境胜过5人吗？
无人机的道德困境将是一个极其罕见的情况，像陨石砸中人的几率一样渺小。当然，汽车不懂道德规范，它按照人类规定的道德标准执行。在这种情况下，我们制定的标准应该将损失降到最低。如何将损害最小化？我们就要将程序更加精细化，考虑到更多细节和更多种情况。例如，迎面而来的汽车，我们很可能无法判断车内的人数，在人行道上有两个孩子，但车内如果有3个人该怎么办呢？我们能非常确定的是这两个孩子的生命即将受到威胁，而车内的情况我们还不确定。这种情况就需要单独设计控制程序。
想象一下你的无人驾驶汽车停在路口等待着你前面的行人过马路，这时候，你的车子发现后面有另一辆卡车冲过来了，看起来无可避免地要发生追尾事故了，但是你坐在前排座位上，这样的事故只会给你带来一点小伤——至少不会致命。如果你的汽车具备规避程序，那么你的汽车应该怎么做呢？如果你的车子可以立马躲开，移到旁边的车道去，那么这辆卡车就会冲进路口，碾压行人。