论文部分内容阅读
进入新时代，以习近平同志为核心的党中央高度重视加强互联网内容建设，建立起了网络综合治理体系，营造了更加清朗的网络空间。党的十九大报告要求，提高新闻舆论传播力、引导力、影响力、公信力。“四力”是媒体忠实履行新闻舆论工作职责使命的保证，是主流媒体政治价值和社会价值的体现。其中，引导力通常被理解为新闻媒体生产与传播原创内容，或转发优质内容，引领群众认知、形成社会共识的能力。除此以外，主流媒体是否有通过其他途径，实现有效引导的可能性？在提升引导力方面，互联网给我们提供了什么样的现实条件和创新机遇？
抓住内容建设两端，提升新闻舆论引导力
内容建设既包括“建”，也包括“管”。网上内容建设一端是“顶部的优质内容”，即不断利用新技术、新形式、新渠道生产并传播符合广大人民群众利益和社会长远发展的高品质内容；另一端是“底部的底线管理”，即要及时滤除和屏蔽不良信息、发现并纠正错误观点。如今，很多大型网络平台都愿意将其内容数据库称作“内容池”，池水清不清，不仅取决于注入了多少清水，还取决于截掉了多少浊水流入、开辟了多少污水治理方式。
相对于大众传播时代的“管”，在大数据、云计算、人工智能兴起的时代，内容风险管控存在很多难点。
第一，内容类型杂。大众传播时代，报纸的内容无非是文字与图片，广播是音频，电视是视频和音频。在网络时代，特别是在移动互联网传播条件下，全媒体传播形态让内容类型复杂多样，生成了大量非结构数据，不仅对人工审核是一大难题，对“人工 机器”审核也构成挑战。例如，在视频的审核中，从按时间长度进行抽帧，发展为按场景变化比例进行抽帧，从理论设计到实践技术都需要改变。而要综合考虑文字、图片、音频、视频以及相关联内容的审核，无疑难上加难。无论是传统媒体机构，还是新兴网络平台，都面临难题。
第二，内容数量大。数据即新闻、信息流即新闻已经成为一种新现象，需要审核的内容数量激增。市场调研机构IDC预计，全球数据总量年增长率维持在50%左右，到2020年，全球数据总量将达到40ZB，相当于28.6亿个美国国会图书馆藏书的信息量。根据工信部副部长陈肇雄在“2018中国国际大数据产业博览会”开幕式上透露的数字，预计到2020年，我国数据总量全球占比将达20%。面对如此海量的信息内容，审核压力巨大。
第三，内容主体多。围绕不同生产者，出现了用户生产内容（UGC）、专业生产内容（PGC）、职业生产内容（OGC）、机器生产内容（MGC）。依托于网络平台提供的空间与技术，内容生产者队伍不断扩大，内容平台类型多样。微信公众号数量4000万个，抖音每日活跃用户接近7000万，每月活跃用户超过3亿，用户的“生产消费者”（prosumer）身份越来越明显，政府机构、商业机构、社会组织、个人在各种平台上竞技，生态多样复杂。内容生产和内容平台主体资质、责任的认定都更加复杂。
第四，效果预判难。以前报纸行业会强调版面也是语言，可以体现出报纸的立场、态度和情感。如今，特别是智能算法推荐技术引入后，不同类别信息根据个人特征有无数种排列组合结果，单条信息在审核时可能并不存在明显问题，但是多条信息组合后，就会显露出倾向，影响个人对社会的判断与认知，而效果难以预料。
这些难点和问题，使得内容管理成为网上内容建设关键一环，地位越来越重要，不仅新闻媒体要担起责任，所有的信息聚合和分发平台也不能回避对于内容安全的责任，各网络平台内容的风险管理被放到了责任清单上史无前例的高度。
内容风险管控平台应具备四个特质
“希望有一个权威、公正、专业的第三方机构为内容风险管理提供服务”——在人民网举办的一次研讨会上，这一呼声成为各网络平台的共识。但是，应由什么样的第三方机构来提供内容风险管理服务？各方认识却并不相同。归纳各方讨论，一个真正科学的内容风险管控平台应该具有四种特质。
一是“政策密集型”特质。近年来，我国互联网内容建设与管理不断完善，出台了一系列针对网络内容建设与管理的政策法规。政策密集出台，意味着“互联网内容安全”已经成为国家和社会关注的重点。这使得内容专业审核具有了重要的政治意义。内容专业审核机构就像党和政府行政管理之外的“另一只手”，可以从信息的源头把控好政治方向、舆论导向和价值取向，配合主管部门进行网络内容安全建设。同时，从日常和微观层面上看，虽然意识形态是动态的，但对意识形态的管理在长线和宏观上都必须保持一致，所以，内容专业审核机构要通过内容风险管控水平，体现出自身对于政策的深入理解和动态把控能力。能不能准确地把握中央和各部门的政策，也是内容专业审核机构“政策密集型”特质的表现。
二是“技术密集型”特质。在目前条件下，人工已經难以单独承担并完成网络内容审核的工作。借助大数据、智能算法等技术，互联网信息传播的效率和精准度大大提升。但每一种技术架构、每一行代码、每一个界面，都代表着选择，都意味着判断，都承载着价值。比如，用大数据进行用户画像、精准推送，本身就包含这样的价值观念——“用户偏好的就是好的”，“平台的打开率比一切都重要”。短视频平台上，“精选”的内容能获得更多关注，然而什么样的视频可以被“精选”，同样隐含着产品开发者的价值选择和利益诉求。技术越来越成为价值表达的手段。技术引发的问题要善于通过技术的手段加以解决。在内容审核与风险管理上，技术可以发挥很大的作用。一些网络平台正在努力发展、完善技术审核系统，理论上，已经可以依靠技术手段识别并控制90%以上的内容风险。有理由相信，人工智能等技术的发展和运用将会极大提升内容风险管理的能力和水平。
三是“管理密集型”特质。对网络内容审核要做到“一把尺子量到底”。这需要统一标准、统一思想，形成统一操作。因此，对于内容风险管理平台，加强团队内部管理是保持内容持久安全的核心要素。但严格审核不是机械、死板的操作，要在审核过程中重视处理好效率、效果、效益三者之间的关系，使其相互促进。通过不断完善内部管理机制、培养能力超群的审核人才队伍，可以极大提升内容审核的效率，最终帮助网络平台降低内容风险、提升整体效益。 四是“人才密集型”特质。人工智能可以通过算法建立各种模型来自动、高效地发现并处置内容问题与风险。但客观上看，其发展水平尚处于“弱智能”阶段，以目前机器学习水平还无法满足爆炸式增长、情况多变的互联网内容审核需求，尤其是涉及时政、财经、文史等深度内容，需要专业人士的深度介入，才能确保不出问题。因此，人工干预、人机结合是当前仍无法替代的一种审核模式。这赋予了内容风险管理行业“人才密集”的特征。
内容风险管理平台应秉持五个原则
内容风险管理平台是一个新事物，需要主流媒体积极尝试、共同探索，更需要各级主管部门的深入指导和具体支持。而作为合作双方的主流媒体和互联网内容平台，特别需要重视遵守一些基本原则，可以概括为“两个不变”和“三个有利于”。
一个“不变”，是各内容平台对于自己内容的调性标准和最终责任不变。第三方内容审核，本质上只是一种基于合约的劳务服务，内容平台不能指望通过一份商业委托合同，就把内容把关的责任甩出去。第二个“不变”，是内容平台是否拥有合法资质的法律地位不变。如果一个内容平台没有相应的业务资质，不可能通过与主流媒体的内容审核合作，就使自己的业务合法化。
而作为第三方内容风险管理平台，主流媒体应该成为主流价值的传递者与捍卫者，牢记新闻舆论工作职责使命，切实通过内容审核业务，弘扬社会主义核心价值观，但是，同时也要始终牢记：作为“第三方”，始终只是接受了服务外包，既不能包揽内容平台的终审责任，也不能与没有资质的内容平台共享自己的资质。
三个“有利于”，之一是内容风险管理平台要有利于行业主管部门信息传达和贯彻落实。内容风险管控平台应成为主管部门和平台、网民之间的沟通者，通过细化、量化审核标准，将主管部门要求落实到位；之二是要有利于整个行業的内容风险控制水平提高和规范发展。互联网内容风险管理不是一家企业的独奏，而是多领域企业的合唱，通过内容风险管理平台的建设、标准制定、技术研发，加强互联网企业合作，共同为净化网络环境贡献力量；之三是要有利于各平台降低内容审核的成本，丰富内容供给。平台化旨在将专业的事情交给专业机构来处理，不仅提高效率，降低成本，还要让更多网站更放心地投入内容生产，通过精准的辨别激浊扬清，通过不漏判、不错判更好地鼓励网站进行内容生产传播，实现更丰富的正能量总供给。
积极尝试建设内容风险管理平台
人民网是“网上的人民日报”。在报社编委会和相关主管部门的指导下，人民网正在尝试将内容审核业务作为在新时代、新条件下延伸业务范围，扩大影响力、提升引导力的创新尝试。
一是积极建设“内容审核云平台”。搭建审核平台，吸引其他网络媒体和互联网平台入驻，通过平台对自身和外部内容进行集中审核、统一管理，实现审核操作标准化和智能化，利用集约效应，提高审核效率，降低相关网络媒体和平台内容风险管理成本。
二是完善技术平台和评价体系。习近平总书记在网络安全和信息化工作座谈会上讲话指出，网上信息管理，网站应负主体责任，政府行政管理部门要加强监管。要把总书记的指示落到实处，就要从源头上厘清责任，将网上信息管理细化为量化指标，便于评价。
三是推行绩效考核与培训机制。结合“管理密集型”和“人员密集型”两大特质，不断完善审核团队人员的绩效考核方式，调动每个人的积极性，做到人人尽责；规范人员管理，加强日常培训，设立审核员、审核师、高级审核师等职称序列，不断提高业务能力与岗位认同。
四是充分利用智能化手段。海量内容信息需要借助技术手段进行初步审核，网上内容信息的多样性和复杂性又需要人力审核的及时介入，为此，平台需要加强对大数据、云计算等技术应用的研发，形成“AI 人工”审核机制，满足内容审核的广泛性和特殊性要求。
五是组建高级专家团队对“精”“专”内容进行审核。为了准确判断和处置网上少量而重要的深度、专业类内容，平台还聘请业内和学界资深专家牵头，与相关管理机构、行业主管部委、专业研究机构建立常态沟通机制，针对审核中的疑点、难点内容进行专业的终极把关。
人民网希望通过不断尝试并落实以上措施，真正建立起切实有效、服务社会的内容风险管理平台，为主流价值护航，提升舆论引导力，为营造天朗气清的网络空间作出更大贡献。
（作者为人民网党委书记、总裁）
抓住内容建设两端，提升新闻舆论引导力
内容建设既包括“建”，也包括“管”。网上内容建设一端是“顶部的优质内容”，即不断利用新技术、新形式、新渠道生产并传播符合广大人民群众利益和社会长远发展的高品质内容；另一端是“底部的底线管理”，即要及时滤除和屏蔽不良信息、发现并纠正错误观点。如今，很多大型网络平台都愿意将其内容数据库称作“内容池”，池水清不清，不仅取决于注入了多少清水，还取决于截掉了多少浊水流入、开辟了多少污水治理方式。
相对于大众传播时代的“管”，在大数据、云计算、人工智能兴起的时代，内容风险管控存在很多难点。
第一，内容类型杂。大众传播时代，报纸的内容无非是文字与图片，广播是音频，电视是视频和音频。在网络时代，特别是在移动互联网传播条件下，全媒体传播形态让内容类型复杂多样，生成了大量非结构数据，不仅对人工审核是一大难题，对“人工 机器”审核也构成挑战。例如，在视频的审核中，从按时间长度进行抽帧，发展为按场景变化比例进行抽帧，从理论设计到实践技术都需要改变。而要综合考虑文字、图片、音频、视频以及相关联内容的审核，无疑难上加难。无论是传统媒体机构，还是新兴网络平台，都面临难题。
第二，内容数量大。数据即新闻、信息流即新闻已经成为一种新现象，需要审核的内容数量激增。市场调研机构IDC预计，全球数据总量年增长率维持在50%左右，到2020年，全球数据总量将达到40ZB，相当于28.6亿个美国国会图书馆藏书的信息量。根据工信部副部长陈肇雄在“2018中国国际大数据产业博览会”开幕式上透露的数字，预计到2020年，我国数据总量全球占比将达20%。面对如此海量的信息内容，审核压力巨大。
第三，内容主体多。围绕不同生产者，出现了用户生产内容（UGC）、专业生产内容（PGC）、职业生产内容（OGC）、机器生产内容（MGC）。依托于网络平台提供的空间与技术，内容生产者队伍不断扩大，内容平台类型多样。微信公众号数量4000万个，抖音每日活跃用户接近7000万，每月活跃用户超过3亿，用户的“生产消费者”（prosumer）身份越来越明显，政府机构、商业机构、社会组织、个人在各种平台上竞技，生态多样复杂。内容生产和内容平台主体资质、责任的认定都更加复杂。
第四，效果预判难。以前报纸行业会强调版面也是语言，可以体现出报纸的立场、态度和情感。如今，特别是智能算法推荐技术引入后，不同类别信息根据个人特征有无数种排列组合结果，单条信息在审核时可能并不存在明显问题，但是多条信息组合后，就会显露出倾向，影响个人对社会的判断与认知，而效果难以预料。
这些难点和问题，使得内容管理成为网上内容建设关键一环，地位越来越重要，不仅新闻媒体要担起责任，所有的信息聚合和分发平台也不能回避对于内容安全的责任，各网络平台内容的风险管理被放到了责任清单上史无前例的高度。
内容风险管控平台应具备四个特质
“希望有一个权威、公正、专业的第三方机构为内容风险管理提供服务”——在人民网举办的一次研讨会上，这一呼声成为各网络平台的共识。但是，应由什么样的第三方机构来提供内容风险管理服务？各方认识却并不相同。归纳各方讨论，一个真正科学的内容风险管控平台应该具有四种特质。
一是“政策密集型”特质。近年来，我国互联网内容建设与管理不断完善，出台了一系列针对网络内容建设与管理的政策法规。政策密集出台，意味着“互联网内容安全”已经成为国家和社会关注的重点。这使得内容专业审核具有了重要的政治意义。内容专业审核机构就像党和政府行政管理之外的“另一只手”，可以从信息的源头把控好政治方向、舆论导向和价值取向，配合主管部门进行网络内容安全建设。同时，从日常和微观层面上看，虽然意识形态是动态的，但对意识形态的管理在长线和宏观上都必须保持一致，所以，内容专业审核机构要通过内容风险管控水平，体现出自身对于政策的深入理解和动态把控能力。能不能准确地把握中央和各部门的政策，也是内容专业审核机构“政策密集型”特质的表现。
二是“技术密集型”特质。在目前条件下，人工已經难以单独承担并完成网络内容审核的工作。借助大数据、智能算法等技术，互联网信息传播的效率和精准度大大提升。但每一种技术架构、每一行代码、每一个界面，都代表着选择，都意味着判断，都承载着价值。比如，用大数据进行用户画像、精准推送，本身就包含这样的价值观念——“用户偏好的就是好的”，“平台的打开率比一切都重要”。短视频平台上，“精选”的内容能获得更多关注，然而什么样的视频可以被“精选”，同样隐含着产品开发者的价值选择和利益诉求。技术越来越成为价值表达的手段。技术引发的问题要善于通过技术的手段加以解决。在内容审核与风险管理上，技术可以发挥很大的作用。一些网络平台正在努力发展、完善技术审核系统，理论上，已经可以依靠技术手段识别并控制90%以上的内容风险。有理由相信，人工智能等技术的发展和运用将会极大提升内容风险管理的能力和水平。
三是“管理密集型”特质。对网络内容审核要做到“一把尺子量到底”。这需要统一标准、统一思想，形成统一操作。因此，对于内容风险管理平台，加强团队内部管理是保持内容持久安全的核心要素。但严格审核不是机械、死板的操作，要在审核过程中重视处理好效率、效果、效益三者之间的关系，使其相互促进。通过不断完善内部管理机制、培养能力超群的审核人才队伍，可以极大提升内容审核的效率，最终帮助网络平台降低内容风险、提升整体效益。 四是“人才密集型”特质。人工智能可以通过算法建立各种模型来自动、高效地发现并处置内容问题与风险。但客观上看，其发展水平尚处于“弱智能”阶段，以目前机器学习水平还无法满足爆炸式增长、情况多变的互联网内容审核需求，尤其是涉及时政、财经、文史等深度内容，需要专业人士的深度介入，才能确保不出问题。因此，人工干预、人机结合是当前仍无法替代的一种审核模式。这赋予了内容风险管理行业“人才密集”的特征。
内容风险管理平台应秉持五个原则
内容风险管理平台是一个新事物，需要主流媒体积极尝试、共同探索，更需要各级主管部门的深入指导和具体支持。而作为合作双方的主流媒体和互联网内容平台，特别需要重视遵守一些基本原则，可以概括为“两个不变”和“三个有利于”。
一个“不变”，是各内容平台对于自己内容的调性标准和最终责任不变。第三方内容审核，本质上只是一种基于合约的劳务服务，内容平台不能指望通过一份商业委托合同，就把内容把关的责任甩出去。第二个“不变”，是内容平台是否拥有合法资质的法律地位不变。如果一个内容平台没有相应的业务资质，不可能通过与主流媒体的内容审核合作，就使自己的业务合法化。
而作为第三方内容风险管理平台，主流媒体应该成为主流价值的传递者与捍卫者，牢记新闻舆论工作职责使命，切实通过内容审核业务，弘扬社会主义核心价值观，但是，同时也要始终牢记：作为“第三方”，始终只是接受了服务外包，既不能包揽内容平台的终审责任，也不能与没有资质的内容平台共享自己的资质。
三个“有利于”，之一是内容风险管理平台要有利于行业主管部门信息传达和贯彻落实。内容风险管控平台应成为主管部门和平台、网民之间的沟通者，通过细化、量化审核标准，将主管部门要求落实到位；之二是要有利于整个行業的内容风险控制水平提高和规范发展。互联网内容风险管理不是一家企业的独奏，而是多领域企业的合唱，通过内容风险管理平台的建设、标准制定、技术研发，加强互联网企业合作，共同为净化网络环境贡献力量；之三是要有利于各平台降低内容审核的成本，丰富内容供给。平台化旨在将专业的事情交给专业机构来处理，不仅提高效率，降低成本，还要让更多网站更放心地投入内容生产，通过精准的辨别激浊扬清，通过不漏判、不错判更好地鼓励网站进行内容生产传播，实现更丰富的正能量总供给。
积极尝试建设内容风险管理平台
人民网是“网上的人民日报”。在报社编委会和相关主管部门的指导下，人民网正在尝试将内容审核业务作为在新时代、新条件下延伸业务范围，扩大影响力、提升引导力的创新尝试。
一是积极建设“内容审核云平台”。搭建审核平台，吸引其他网络媒体和互联网平台入驻，通过平台对自身和外部内容进行集中审核、统一管理，实现审核操作标准化和智能化，利用集约效应，提高审核效率，降低相关网络媒体和平台内容风险管理成本。
二是完善技术平台和评价体系。习近平总书记在网络安全和信息化工作座谈会上讲话指出，网上信息管理，网站应负主体责任，政府行政管理部门要加强监管。要把总书记的指示落到实处，就要从源头上厘清责任，将网上信息管理细化为量化指标，便于评价。
三是推行绩效考核与培训机制。结合“管理密集型”和“人员密集型”两大特质，不断完善审核团队人员的绩效考核方式，调动每个人的积极性，做到人人尽责；规范人员管理，加强日常培训，设立审核员、审核师、高级审核师等职称序列，不断提高业务能力与岗位认同。
四是充分利用智能化手段。海量内容信息需要借助技术手段进行初步审核，网上内容信息的多样性和复杂性又需要人力审核的及时介入，为此，平台需要加强对大数据、云计算等技术应用的研发，形成“AI 人工”审核机制，满足内容审核的广泛性和特殊性要求。
五是组建高级专家团队对“精”“专”内容进行审核。为了准确判断和处置网上少量而重要的深度、专业类内容，平台还聘请业内和学界资深专家牵头，与相关管理机构、行业主管部委、专业研究机构建立常态沟通机制，针对审核中的疑点、难点内容进行专业的终极把关。
人民网希望通过不断尝试并落实以上措施，真正建立起切实有效、服务社会的内容风险管理平台，为主流价值护航，提升舆论引导力，为营造天朗气清的网络空间作出更大贡献。
（作者为人民网党委书记、总裁）