论文部分内容阅读
據报道,国内有工厂引进员工脑电波扫描系统,通过工人帽子上的传感器追踪其脑电波。在工人整个值班期间,传感器会持续收集脑活动数据,通过对这些数据的分析,能获悉工人的烦躁、抑郁和消极心态。此时把工人送去休息,或许有利于生产效率和企业的人文建设。
这可以说明,用人工智能监测大脑,在技术上已经成为可能。那么,我们是否可以依赖脑电波扫描系统?如果系统犯错,或者数据解读错误,责任将由谁承担?
在我看来,这个技术是靠谱的,至少从原理上来讲,有很强的可行性。至于这一系统的准确性具体能达到多少,还很难说。我只能说,这个系统从技术操作角度来说,是没有多大障碍的。接下来就是要看更多的实践结果。这就像一种新的药物研发过程一样,药物研发出来之后,还需要几年的临床试验。系统的确会存在一定的失误率,不可能百分之百准确,但是只要将失误率控制在一个可控范围之内,就是可以接受的。
在此之前,我就做过人工智能在未来生活中可能扮演什么角色的分析,明确提出了医生极可能失业的预测——这主要是基于机器对人身体监测的作用而做出的结论。
与此不同的是,我今天所谈的问题是对人脑的监控与诊断。当然不是判断你是否脑血管有破损可能,大脑是否萎缩,而是实时监控你的大脑活动、情绪状况以及所思所想。
也就是说人的头脑,被机器所掌控,并据此调整你的现状与行为模式。听起来有些讽刺,但未必不是现实。
但是,设想一个人的大脑出于善意的目的而被监控,这里边其实隐藏着很大的伦理风险。人性是不可试探的,就如神圣是不可试探的一样。
如果一个人明确地知道自己的思想被他人掌控,势必带来类似于一个硬币的两个面的影响——他可能被迫变得更主动和积极于工作,提高效率;也可能伴随着消极思想的状态,以便自我隐匿和保护。至于下班后能不能切换回来是很成问题的,长此以往下去,人将变得拒绝思考、停止进步。
按照道德的要求成为一个“心中无不可与人言者”的楷模是人的极致追求,在现实中能够做到哪一步,个体间差异极大。
当然,也有学者认为极难借助脑造影术解读心理情绪状况,并且就目前在工厂进行试验所取得的成就,也可能具有相对性。对此,我们还是抱着审慎的乐观态度拭目以待吧。
这可以说明,用人工智能监测大脑,在技术上已经成为可能。那么,我们是否可以依赖脑电波扫描系统?如果系统犯错,或者数据解读错误,责任将由谁承担?
在我看来,这个技术是靠谱的,至少从原理上来讲,有很强的可行性。至于这一系统的准确性具体能达到多少,还很难说。我只能说,这个系统从技术操作角度来说,是没有多大障碍的。接下来就是要看更多的实践结果。这就像一种新的药物研发过程一样,药物研发出来之后,还需要几年的临床试验。系统的确会存在一定的失误率,不可能百分之百准确,但是只要将失误率控制在一个可控范围之内,就是可以接受的。
在此之前,我就做过人工智能在未来生活中可能扮演什么角色的分析,明确提出了医生极可能失业的预测——这主要是基于机器对人身体监测的作用而做出的结论。
与此不同的是,我今天所谈的问题是对人脑的监控与诊断。当然不是判断你是否脑血管有破损可能,大脑是否萎缩,而是实时监控你的大脑活动、情绪状况以及所思所想。
也就是说人的头脑,被机器所掌控,并据此调整你的现状与行为模式。听起来有些讽刺,但未必不是现实。
但是,设想一个人的大脑出于善意的目的而被监控,这里边其实隐藏着很大的伦理风险。人性是不可试探的,就如神圣是不可试探的一样。
如果一个人明确地知道自己的思想被他人掌控,势必带来类似于一个硬币的两个面的影响——他可能被迫变得更主动和积极于工作,提高效率;也可能伴随着消极思想的状态,以便自我隐匿和保护。至于下班后能不能切换回来是很成问题的,长此以往下去,人将变得拒绝思考、停止进步。
按照道德的要求成为一个“心中无不可与人言者”的楷模是人的极致追求,在现实中能够做到哪一步,个体间差异极大。
当然,也有学者认为极难借助脑造影术解读心理情绪状况,并且就目前在工厂进行试验所取得的成就,也可能具有相对性。对此,我们还是抱着审慎的乐观态度拭目以待吧。