论文部分内容阅读
【摘要】 关于人工智能技术中的道德与伦理，更多时候，人们讨论的是人工智能的一大分支——强人工智能和超级人工智能——对人类的伤害。但也可以改变思路，思考是否是对技术的高傲和缺乏人性关怀，令使用者忽略技术使用中的道德，导致施加在“没有感情的机器”上的无情举措反噬己身。人类可以用一种“温柔的情怀”对待类人技术并获益，而了解与超级人工智能领域相关的“人-机”关系所面临的危机后，则可以从传播学的视角出发，探讨应对风险的舆论引导方式，从而在面对伦理问题时更多地站在人性的角度思考。
【关键词】“人-机”关系;伦理 ;引导
中图分类号：G212 文献标识码：A DOI：10.12246/j.issn.1673-0348.2021.13.090
1. 人工智能技术
人工智能技术（Artificial Intelligence）作为一门将人类生理机能向外延伸的技术，发展到今天在机器人、语言图像识别、自然语言处理等领域业已卓有成效，灵活性也远超独立个体的人。但事实上人工智能并不具备人类本质属性和人的社会关系属性。虽则人工智能技术拥有类人思维并反噬人类听起来天方夜谭，但技术不断发展带来的伦理问题从来就不局限于人类对技术的应用，而更应探讨技术尊重，即遵守人性底线，尊重为人类创造利益和价值的“物”。
2. “人-机”关系
“人-机”关系作为人工智能技术中的重要一环，由于其 “智能”的特性，导致了具有深度学习能力的超级人工智能的“工具理性”，并借由设定程序对各类情况做出判断、采取措施，这就带来了新的“人-机”关系。
人工智能技术中的“人-机”关系问题，具体导向两个方面：人与人之间关系在其中的体现;人类实际预测的与“机器”的关系。
人与控制人工智能技术操作人员的关系，实际上是技术使用者与技术拥有者之间的关系，二者之间的关系更倾向于权力的争夺，这种争夺关系属于政治学的范畴。人与机器的关系又可以细分为人与处于有序控制的机器与技术的关系，人与失控的机器与技术的关系。
2.1“人-机”关系面临的问题
人与“机器”的关系取决于人类对于技术的态度，由于其在人类社会发展进步中的不可替代性，在技术的应用中，就更要有取谦和的、宽容的态度。
处于有序控制的技术所面临的最大问题，即控制和掌握技术的人由于生理和心理的不断变化，其对技术的控制力度和方式也会改变，这种变化的不确定性增加了技术滥用的可能，从而导致使用者在技术应用中受到莫测变化的影响和掣肘。
失控的技术则既存在上述人的变化所带来的失控的可能，同时也存在由于技术发展平台的限制，如人工智能的深度学习，其习得内容的正确与否和道德伦理衡量标准都存在不可控性，这种不可控将导致“人-机”关系失调进而带来利益损失。
2.2 伦理讨论
“人-机”关系伦理讨论观点主要有三：认为人工智能不能超越人类智慧的传统派;认为人工智能发展会威胁人类生存的谨慎派;以及认为人工智能最终能够达到甚至超越人类智能，提出“奇点理论”、“人机共存”的乐观派。谨慎派和乐观派的观点均基于人工智能技术超越人类智能的假设，而这一假设不仅强调要警惕人工智能对人类生存的威胁，也应着重于对技术的敬畏，以及对存在物的谨慎对待的态度。
人工智能技术发展至今进入瓶颈期，停滞正可以给人类以未雨绸缪的时机，在“人-机”关系问题上提前规划，防止出现科幻作品中的反噬危机，同时重新确立人类对非人存在物给予尊重和合理使用的观点。
3. 伦理和道德
人类社会的伦理道德涉及各方面，对于“人-机”关系而言则包含在人与自然界中其他存在物的关系之中。
3.1 人与非人存在物的关系
人类对非人存在物的态度将直接影响生存环境。诸如机器人，作为由人类创造的、自然界中新生的非人存在物，人类对其的态度不应仅局限于控制和为所欲为，而应更多地将其作为一个新的不同于人类的存在个体，对待的态度和方式也应与对待生物和自然环境、资源相近，理性、克制、尊重。
哈罗德·英尼斯和麦克卢汉的弱技术决定论认为，技术由人产生又反作用于人，技术与人类社会相互影响相互制约，从而推动历史进步。若持技术积极态度，自然可以利用人工智能为工作和生活带来便利，但这就使机器成为工作责任的承担者。如果不能协调“人-机”关系，合理利用技术便利，工作过载就会带来失误：人类过劳会出错和死亡，资源過度开发导致环境恶化，人工智能过载会程序崩溃，过犹不及。
3.2 无限权力与无限责任
相较于自然界中其他存在物，人类对技术产物拥有绝对的无限权力，而这种使用和控制的无限性，必然对应无限责任，即不论人工智能技术发展到何种阶段，人类都应全盘接受其后果。这就使协调“人-机”关系更加重要，任何非理性的技术使用和“人-机”关系处理都可能导致人类生存危机。人类不仅有发明和升级换代人工智能技术的责任，同时也具有合理使用和对待相关技术的责任，并通过塑造、传播、强调正确使用技术的观念促进相关意识培养。
4. 控制的潜在危机
人工智能技术中机器人的道德地位问题仍存在争论，机器人是否应该被列为具有承担责任和义务的价值主体属于哲学范畴，虽然从唯物主义的观点出发，人工智能无法理解人类社会情境，因不具有自主意识不能被称为“类人”，但模仿人类智慧和思维的行为也存在风险。其“智能”并非来源于思考，而是基于足够数量的样本，这就导致其处理问题时只能依赖事先编程而非自主判断。 人工智能技术在应用伦理上所面临的困境可以分为两个方向：一是技术的使用者未必能够造福人类，存在滥用和作恶的可能，如何预控这种倾向;二是智能习得的经验和演算能力，如果没有有效规划和限制，是否会导致威胁人类生存的“思路”和行为。
5. 普及“尊重”意识
普通受众对当下人工智能发展状况的了解仅限于新闻与娱乐内容，乃至于生活中的智能家居产品，这就使普及信息、引导观念态度变得十分重要，不仅媒体和学者要推动知识的普及和信息扩散，普通人也要以更加积极、好奇的心态主动学习。
5.1 大众传播引导
机器产生自发智能行为仿如杞人忧天，但在教育和宣传上仍要未雨绸缪，学术上的哲学和技术讨论要合情合理，而面向公众的介绍和傳播上就要考虑影响范围和效果，强调技术便捷以及技术失控的危害，强调合理使用，克制可能具有道德争议的使用行为，从而达到教育和引导目的。
在宣传上，既要科普，又要有一定震慑力。贾尼斯的警钟效果正适合这种情况，以强烈的恐惧诉求获得一般的“预防针”达不到的状态。由于不同程度的恐惧诉求唤起的紧张效果不同，反复强调不合理使用智能产品将导致失控，不失为最立竿见影的方法。诸如谷歌智能音响劝人自杀的新闻，可以作为恐吓式信息推广，从而令受众提高警惕，理性使用智能产品。同时由于第三人效果，成年人倾向于对青少年和老年人反复强调生产生活工具使用规范，这就完成了一个从大众传播到人际交互再到群体传播的过程，其中人际传播的恐怖渲染能力最强，从而达到警钟效果。
另一方面，不仅要做足宣传，也要增加信息量多角度传播。大众传播往往是全方位覆盖的，网络用语表达即“刷屏”，基于社会行为示范、价值塑造和环境认知上的效果，在各类媒体反复强调技术发展的不足，强调合理使用智能工具，强调尊重技术和非人存在物以及目前技术的缺陷，以期达到教育目的。
5.2 人际传播中的话语权
大众传播覆盖面广，但限于载体和技术，需要人际与群体传播的补充。在日常生活中具有话语权的受众就成为二级传播起点，不仅是意见领袖，在生活、社交网络中接触相关信息最多的人同样会成为具有影响力的传播者：既能带来认知和态度的变化，也体现在行动层面，潜移默化的长期行为，即合理使用智能产品的行为，其感染效果比信息传播更强。
5.3 主动习得
人类具有学习新知和自我纠正的能力，在主动学习相关知识时，会自发纠错，选择对自己有利的信息消化吸收。当信息源反复强调某些认知与行为可能损害利益时，人的思维也将基于趋利避害的本能自我修正，这个自我修正、自主习得的过程就使了解和使用人工智能技术，以及接受尊重技术的观点变得顺利，从而实现了自我劝服和自我意识观点重塑。这种自内而外的观点重塑将比自外部强力输入更柔和，减轻认知不协调导致的心理不适。
5.4 强调人的重要性
唯物主义强调以人为本，在宣传效果上强调以“人”为中心，与强调“尊重”人工智能的技术中心观点并不矛盾，技术的发展终究围绕造福人类行进。社会与技术的相互作用决定了只有强调人的需求，科学研究才能够在合理有效的框架之内进行;而人类尊重技术的客观存在性，尊重自然界中的客观规律，将使技术的应用更加符合道德和伦理要求，避免技术失控和“人造”智能的反噬。
而同时，也只有通过强调人类的利益得失，才能够从心理上减少道德距离感，带着同理心思考可能的结果，产生心理贴近感，达到劝服目的。
参考文献：
[1]陈一鸣，周杰，陈旭.“人与机器”的争论[J].中共四川省委党校学报，2020（04）：11-16.
[2]叶娟丽，徐琴.去中心化与集中化：人工智能时代的权力悖论[J].上海大学学报（社会科学版），2019，36（06）：1-12.
[3]谢洪明，陈亮，杨英楠.如何认识人工智能的伦理冲突？——研究回顾与展望[J].外国经济与管理，2019，41（10）：109-124.
[4]沈国松.对传播技术决定论的解读与思考——兼论从新技术LBS到新媒体LBC[J].中国报业，2016（10）：22-23.
[5]赵晶旭，舒成利，王尧，高山行.人工智能风险的契约观及契约化治理机制研究[J/OL].科学学研究：1-17[2021-02-25].https：//doi.org/10.16192/j.cnki.1003-2053.20210201.001
【关键词】“人-机”关系;伦理 ;引导
中图分类号：G212 文献标识码：A DOI：10.12246/j.issn.1673-0348.2021.13.090
1. 人工智能技术
人工智能技术（Artificial Intelligence）作为一门将人类生理机能向外延伸的技术，发展到今天在机器人、语言图像识别、自然语言处理等领域业已卓有成效，灵活性也远超独立个体的人。但事实上人工智能并不具备人类本质属性和人的社会关系属性。虽则人工智能技术拥有类人思维并反噬人类听起来天方夜谭，但技术不断发展带来的伦理问题从来就不局限于人类对技术的应用，而更应探讨技术尊重，即遵守人性底线，尊重为人类创造利益和价值的“物”。
2. “人-机”关系
“人-机”关系作为人工智能技术中的重要一环，由于其 “智能”的特性，导致了具有深度学习能力的超级人工智能的“工具理性”，并借由设定程序对各类情况做出判断、采取措施，这就带来了新的“人-机”关系。
人工智能技术中的“人-机”关系问题，具体导向两个方面：人与人之间关系在其中的体现;人类实际预测的与“机器”的关系。
人与控制人工智能技术操作人员的关系，实际上是技术使用者与技术拥有者之间的关系，二者之间的关系更倾向于权力的争夺，这种争夺关系属于政治学的范畴。人与机器的关系又可以细分为人与处于有序控制的机器与技术的关系，人与失控的机器与技术的关系。
2.1“人-机”关系面临的问题
人与“机器”的关系取决于人类对于技术的态度，由于其在人类社会发展进步中的不可替代性，在技术的应用中，就更要有取谦和的、宽容的态度。
处于有序控制的技术所面临的最大问题，即控制和掌握技术的人由于生理和心理的不断变化，其对技术的控制力度和方式也会改变，这种变化的不确定性增加了技术滥用的可能，从而导致使用者在技术应用中受到莫测变化的影响和掣肘。
失控的技术则既存在上述人的变化所带来的失控的可能，同时也存在由于技术发展平台的限制，如人工智能的深度学习，其习得内容的正确与否和道德伦理衡量标准都存在不可控性，这种不可控将导致“人-机”关系失调进而带来利益损失。
2.2 伦理讨论
“人-机”关系伦理讨论观点主要有三：认为人工智能不能超越人类智慧的传统派;认为人工智能发展会威胁人类生存的谨慎派;以及认为人工智能最终能够达到甚至超越人类智能，提出“奇点理论”、“人机共存”的乐观派。谨慎派和乐观派的观点均基于人工智能技术超越人类智能的假设，而这一假设不仅强调要警惕人工智能对人类生存的威胁，也应着重于对技术的敬畏，以及对存在物的谨慎对待的态度。
人工智能技术发展至今进入瓶颈期，停滞正可以给人类以未雨绸缪的时机，在“人-机”关系问题上提前规划，防止出现科幻作品中的反噬危机，同时重新确立人类对非人存在物给予尊重和合理使用的观点。
3. 伦理和道德
人类社会的伦理道德涉及各方面，对于“人-机”关系而言则包含在人与自然界中其他存在物的关系之中。
3.1 人与非人存在物的关系
人类对非人存在物的态度将直接影响生存环境。诸如机器人，作为由人类创造的、自然界中新生的非人存在物，人类对其的态度不应仅局限于控制和为所欲为，而应更多地将其作为一个新的不同于人类的存在个体，对待的态度和方式也应与对待生物和自然环境、资源相近，理性、克制、尊重。
哈罗德·英尼斯和麦克卢汉的弱技术决定论认为，技术由人产生又反作用于人，技术与人类社会相互影响相互制约，从而推动历史进步。若持技术积极态度，自然可以利用人工智能为工作和生活带来便利，但这就使机器成为工作责任的承担者。如果不能协调“人-机”关系，合理利用技术便利，工作过载就会带来失误：人类过劳会出错和死亡，资源過度开发导致环境恶化，人工智能过载会程序崩溃，过犹不及。
3.2 无限权力与无限责任
相较于自然界中其他存在物，人类对技术产物拥有绝对的无限权力，而这种使用和控制的无限性，必然对应无限责任，即不论人工智能技术发展到何种阶段，人类都应全盘接受其后果。这就使协调“人-机”关系更加重要，任何非理性的技术使用和“人-机”关系处理都可能导致人类生存危机。人类不仅有发明和升级换代人工智能技术的责任，同时也具有合理使用和对待相关技术的责任，并通过塑造、传播、强调正确使用技术的观念促进相关意识培养。
4. 控制的潜在危机
人工智能技术中机器人的道德地位问题仍存在争论，机器人是否应该被列为具有承担责任和义务的价值主体属于哲学范畴，虽然从唯物主义的观点出发，人工智能无法理解人类社会情境，因不具有自主意识不能被称为“类人”，但模仿人类智慧和思维的行为也存在风险。其“智能”并非来源于思考，而是基于足够数量的样本，这就导致其处理问题时只能依赖事先编程而非自主判断。 人工智能技术在应用伦理上所面临的困境可以分为两个方向：一是技术的使用者未必能够造福人类，存在滥用和作恶的可能，如何预控这种倾向;二是智能习得的经验和演算能力，如果没有有效规划和限制，是否会导致威胁人类生存的“思路”和行为。
5. 普及“尊重”意识
普通受众对当下人工智能发展状况的了解仅限于新闻与娱乐内容，乃至于生活中的智能家居产品，这就使普及信息、引导观念态度变得十分重要，不仅媒体和学者要推动知识的普及和信息扩散，普通人也要以更加积极、好奇的心态主动学习。
5.1 大众传播引导
机器产生自发智能行为仿如杞人忧天，但在教育和宣传上仍要未雨绸缪，学术上的哲学和技术讨论要合情合理，而面向公众的介绍和傳播上就要考虑影响范围和效果，强调技术便捷以及技术失控的危害，强调合理使用，克制可能具有道德争议的使用行为，从而达到教育和引导目的。
在宣传上，既要科普，又要有一定震慑力。贾尼斯的警钟效果正适合这种情况，以强烈的恐惧诉求获得一般的“预防针”达不到的状态。由于不同程度的恐惧诉求唤起的紧张效果不同，反复强调不合理使用智能产品将导致失控，不失为最立竿见影的方法。诸如谷歌智能音响劝人自杀的新闻，可以作为恐吓式信息推广，从而令受众提高警惕，理性使用智能产品。同时由于第三人效果，成年人倾向于对青少年和老年人反复强调生产生活工具使用规范，这就完成了一个从大众传播到人际交互再到群体传播的过程，其中人际传播的恐怖渲染能力最强，从而达到警钟效果。
另一方面，不仅要做足宣传，也要增加信息量多角度传播。大众传播往往是全方位覆盖的，网络用语表达即“刷屏”，基于社会行为示范、价值塑造和环境认知上的效果，在各类媒体反复强调技术发展的不足，强调合理使用智能工具，强调尊重技术和非人存在物以及目前技术的缺陷，以期达到教育目的。
5.2 人际传播中的话语权
大众传播覆盖面广，但限于载体和技术，需要人际与群体传播的补充。在日常生活中具有话语权的受众就成为二级传播起点，不仅是意见领袖，在生活、社交网络中接触相关信息最多的人同样会成为具有影响力的传播者：既能带来认知和态度的变化，也体现在行动层面，潜移默化的长期行为，即合理使用智能产品的行为，其感染效果比信息传播更强。
5.3 主动习得
人类具有学习新知和自我纠正的能力，在主动学习相关知识时，会自发纠错，选择对自己有利的信息消化吸收。当信息源反复强调某些认知与行为可能损害利益时，人的思维也将基于趋利避害的本能自我修正，这个自我修正、自主习得的过程就使了解和使用人工智能技术，以及接受尊重技术的观点变得顺利，从而实现了自我劝服和自我意识观点重塑。这种自内而外的观点重塑将比自外部强力输入更柔和，减轻认知不协调导致的心理不适。
5.4 强调人的重要性
唯物主义强调以人为本，在宣传效果上强调以“人”为中心，与强调“尊重”人工智能的技术中心观点并不矛盾，技术的发展终究围绕造福人类行进。社会与技术的相互作用决定了只有强调人的需求，科学研究才能够在合理有效的框架之内进行;而人类尊重技术的客观存在性，尊重自然界中的客观规律，将使技术的应用更加符合道德和伦理要求，避免技术失控和“人造”智能的反噬。
而同时，也只有通过强调人类的利益得失，才能够从心理上减少道德距离感，带着同理心思考可能的结果，产生心理贴近感，达到劝服目的。
参考文献：
[1]陈一鸣，周杰，陈旭.“人与机器”的争论[J].中共四川省委党校学报，2020（04）：11-16.
[2]叶娟丽，徐琴.去中心化与集中化：人工智能时代的权力悖论[J].上海大学学报（社会科学版），2019，36（06）：1-12.
[3]谢洪明，陈亮，杨英楠.如何认识人工智能的伦理冲突？——研究回顾与展望[J].外国经济与管理，2019，41（10）：109-124.
[4]沈国松.对传播技术决定论的解读与思考——兼论从新技术LBS到新媒体LBC[J].中国报业，2016（10）：22-23.
[5]赵晶旭，舒成利，王尧，高山行.人工智能风险的契约观及契约化治理机制研究[J/OL].科学学研究：1-17[2021-02-25].https：//doi.org/10.16192/j.cnki.1003-2053.20210201.001