论文部分内容阅读
从2018年下半年到2020年3月，犯罪分子通过社交平台大规模传播、销售性犯罪视频，这就是引发社会热议的韩国“N号房”事件，其中受害者包括大量未成年女童。继“蓝鲸事件”“儿童邪典片”等事件后，未成年人的网络保护问题再一次成为全球关注的焦点。
近几年，我国未成年人用网人数激增、首次触网年龄持续走低。互联网极大丰富了未成年人的学习生活，但他们的网络安全难以保障，且未成年人容易受网络不良内容的影响，造成道德观念混乱，不利于健全的心理与人格发展，甚至可能诱发他们的违法和犯罪行为。《2018年全国未成年人互联网使用情况研究报告》表明：15.6%的未成年人曾有过网上讽刺、谩骂、恶意骚扰和个人信息被公开等经历。30.3%的未成年人曾在上網过程中接触到暴力、赌博、吸毒、色情等不良信息。《未成年人权益保护创新发展白皮书（2009-2019）》显示，近七成未成年人犯罪案件中存在未成年人不正常接触网络不良信息的问题。利用网络侵害未成年人的犯罪数量一直在增加，犯罪分子通过网络更容易选择和接触犯罪目标，对未成年人进行诱惑和威胁后，再通过网络扩散，增加了未成年人遭受二次伤害的风险。而由于网络侵害隐蔽性更强，调查取证困难，增加了相关部门打击、处罚的难度。
网络分类分级管理势在必行
在网络空间确认未成年人身份、实施重点保护已成为我国社会各界的广泛共识，目前相关的探索与行动已逐步开展，相关部门和各界人士正合力净化未成年人网络环境，规范未成年人网络秩序，保护未成年人网络权益。
保护未成年人网络权益，立法为先。面对互联网生态提出的新问题、新挑战，我国加快了未成年人网络权益保护立法进程，保护力度不断加强、保护措施更加全面。
2017年6月1日，《中华人民共和国网络安全法》提出设立未成年人网络保护专款，国家支持研发有利于未成年人健康成长的网络产品和服务，严厉惩治利用网络危害未成年人身心健康的活动。2019年10月1日，《儿童个人信息网络保护规定》要求对“儿童个人信息”专门实施特殊保护。2020年3月1日，《网络信息内容生态治理规定》明确规定在网络生态多元共治的理念之下，设立专款专项，用于帮助网络信息内容生产者和内容服务平台设立未成年人专栏、专区、专用模式。《中华人民共和国未成年人保护法（修订草案）》增设“网络保护”专章，明确了网络产品和服务提供者应当对用户进行分类，并设置相应的时间管理、权限管理、消费管理等，预防和干预未成年人沉迷网络。
群力群策，保护未成年人网络安全。社会各界也纷纷对网络信息分类分级管理献计献策，并积极探索实践措施。中华人民共和国国家互联网信息办公室统筹指导视频平台上线“青少年防沉迷系统”， 其中的青少年模式可对青少年用户的使用时段、服务功能、在线时长进行限制，并向他们重点推荐寓教于乐的优质内容。如腾讯公司建立“腾讯110”服务，推出成长守护平台、健康系统和主动服务工程等防沉迷体系，联动社会和产业力量，丰富网络治理工具箱。目前，这一体系已覆盖98%的腾讯游戏活跃用户。
全国政协委员、公安部原副部长陈智敏认为，行政监管仍有疏漏，执法部门难以有针对性的监管，需要加强对侵害未成年人权益行为的打击。广州市政协副主席于欣伟呼吁制定按年龄和内容分级的健康网络游戏的规范和标准，把关技术，在内容审查的基础上，实现分类指导和分级运营。启明星辰信息技术集团股份有限公司首席执行官严望佳提出运用技术防护手段营造健康网络环境的观点，采用大数据对未成年人网络行为进行精准画像，预测潜在网络沉迷用户群，并通报监护人或相关监管部门，做到提前预警和干预。腾讯董事会主席马化腾主张建立“一站式”未成年人网络使用管理平台，控制未成年人的上网时长。
网络分级分类监管措施要切实有效
明确各方责任，强化监督机制。司法机关、政府部门、企业、社会组织、学校和家庭共同推动，形成全社会共治的局面，可有效遏制未成年人网络侵害。
互联网信息部门统筹协调全国未成年人网络保护工作，敦促教育、电信、公安、文化、监管、媒体等有关部门依据各自职责做好市场准入、内容审核、教育引导、打击犯罪等工作;落实已有未成年人网络保护的相关法规和制度，建立可操作、可执行、可督查、可追溯的未成年人网络监管机制，完善奖励、举报、投诉规则，借用公众的力量实施有效监管，让青少年网络模式发挥实效。
学校和家庭要加强未成年人网络素养教育，引导未成年人正确使用互联网。家长要履行未成年人网络监护和监督责任，加强网络安全意识，了解孩子使用的互联网服务、网络来往对象，积极参与“家长监护工程”。如发现孩子浏览网络不良信息或进行不良在线活动，家长要积极进行教育和引导，并向互联网企业和监管部门举报。
互联网企业要着眼长远，将未成年人保护放在最高优先级，制定保护措施，加强网络监管，发现问题要及时干预，建设青少年与网络有害信息之间的防火墙。但目前，我国部分企业对未成年人网络安全并不重视。最近，中国消费者协会对50款游戏进行体验后发现，只有41款游戏启用了实名制，17款游戏在登录时强制用户实名验证，不少游戏的实名验证方式形同虚设。
在未成年人有效识别、隐私保护、内容分级等关键领域，进行技术突破，研发针对未成年人网络保护的技术与工具。目前，相关部门建立了“防沉迷系统”，但针对防沉迷模式的各类“破解”系统也迅速上线。保护与侵害的技术博弈一直在进行，导致未成年人网络保护实效性降低。互联网企业要切实履行社会责任，加大防沉迷技术研发，创新技术手段，提高绕开防沉迷系统的技术门槛和时间成本。利用人脸、视频、语音等技术提高对未成年人上网的识别精准度，使未成年人上网只能以自己的身份实名认证。
互联网行业要针对未成年人的操作习惯、网络行为等方面搭建大数据体系，运用人工智能等技术主动发现未成年用户，建立全系统、全程的实时监管和干预机制，让防沉迷系统更加科学、高效。如腾讯公司为有效识别未成年人，不断进行技术迭代，接入“公安实名校验”，引入金融级别的“人脸识别”技术，结合用户画像和大数据分析，进行“小号识别与打击”。
防沉迷系统等未成年人网络保护措施在要求用户提供真实身份信息进行注册时，存在身份信息泄露的风险。互联网企业需在技术上平衡未成年人身份确认与隐私保护之间的关系，制定相关判断标准，区分影响未成年人身心健康的不良信息和适宜未成年人接触的、具有正向价值的信息，开发自动分类分级的智能化技术平台，降低风险内容识别成本，提高“适龄提示”的针对性和有效性。
疏堵结合，关键在疏，大力建设和繁荣健康的网络内容。实施未成年人网络内容分类后，若只禁止未成年人接触互联网不良内容，但优质内容缺位，那么分类分级管理机制便没有意义。在青少年防沉迷系统上线后，多数主流互联网视频平台构建了寓教于乐的优质内容池，其中包含课程教学、书法绘画、亲子教育、传统文化、生活技能等内容。短视频平台发挥教育、知识方面的优势，构建以“正能量+知识学习”为核心的内容池，建立集安全性、丰富性、有用性、趣味性于一体的青少年模式，向青少年推送展示祖国大好河山、风土人情、生产劳动的精品内容。但当前适合未成年人的优质内容开发力度仍不够，社会应从更广的品类和维度上为未成年人提供更丰富的网络内容，以青少年喜闻乐见的形式，制作集知识性、娱乐性、趣味性于一体的优质内容，让网络空间逐渐成为传播正能量的阵地。
推进网络信息内容分类分级管理、针对未成年人实施网络保护是社会共识，但要务实推进、取得实效并不容易。我们应在机制上突出监督作用，奖优罚劣，形成正向驱动;技术上，加强大数据和人工智能技术开发，有效“堵”住不良信息传播渠道;内容上，政府要加强投入、积极引导，全社会共同建设未成年人专属内容，形成“疏”为主、“堵”为底的未成年人网络信息内容分类分级管理体系。
（作者系中国人民公安大学信息技术与网络安全学院院长）
责任编辑：孙雨萱
近几年，我国未成年人用网人数激增、首次触网年龄持续走低。互联网极大丰富了未成年人的学习生活，但他们的网络安全难以保障，且未成年人容易受网络不良内容的影响，造成道德观念混乱，不利于健全的心理与人格发展，甚至可能诱发他们的违法和犯罪行为。《2018年全国未成年人互联网使用情况研究报告》表明：15.6%的未成年人曾有过网上讽刺、谩骂、恶意骚扰和个人信息被公开等经历。30.3%的未成年人曾在上網过程中接触到暴力、赌博、吸毒、色情等不良信息。《未成年人权益保护创新发展白皮书（2009-2019）》显示，近七成未成年人犯罪案件中存在未成年人不正常接触网络不良信息的问题。利用网络侵害未成年人的犯罪数量一直在增加，犯罪分子通过网络更容易选择和接触犯罪目标，对未成年人进行诱惑和威胁后，再通过网络扩散，增加了未成年人遭受二次伤害的风险。而由于网络侵害隐蔽性更强，调查取证困难，增加了相关部门打击、处罚的难度。
网络分类分级管理势在必行
在网络空间确认未成年人身份、实施重点保护已成为我国社会各界的广泛共识，目前相关的探索与行动已逐步开展，相关部门和各界人士正合力净化未成年人网络环境，规范未成年人网络秩序，保护未成年人网络权益。
保护未成年人网络权益，立法为先。面对互联网生态提出的新问题、新挑战，我国加快了未成年人网络权益保护立法进程，保护力度不断加强、保护措施更加全面。
2017年6月1日，《中华人民共和国网络安全法》提出设立未成年人网络保护专款，国家支持研发有利于未成年人健康成长的网络产品和服务，严厉惩治利用网络危害未成年人身心健康的活动。2019年10月1日，《儿童个人信息网络保护规定》要求对“儿童个人信息”专门实施特殊保护。2020年3月1日，《网络信息内容生态治理规定》明确规定在网络生态多元共治的理念之下，设立专款专项，用于帮助网络信息内容生产者和内容服务平台设立未成年人专栏、专区、专用模式。《中华人民共和国未成年人保护法（修订草案）》增设“网络保护”专章，明确了网络产品和服务提供者应当对用户进行分类，并设置相应的时间管理、权限管理、消费管理等，预防和干预未成年人沉迷网络。
群力群策，保护未成年人网络安全。社会各界也纷纷对网络信息分类分级管理献计献策，并积极探索实践措施。中华人民共和国国家互联网信息办公室统筹指导视频平台上线“青少年防沉迷系统”， 其中的青少年模式可对青少年用户的使用时段、服务功能、在线时长进行限制，并向他们重点推荐寓教于乐的优质内容。如腾讯公司建立“腾讯110”服务，推出成长守护平台、健康系统和主动服务工程等防沉迷体系，联动社会和产业力量，丰富网络治理工具箱。目前，这一体系已覆盖98%的腾讯游戏活跃用户。
全国政协委员、公安部原副部长陈智敏认为，行政监管仍有疏漏，执法部门难以有针对性的监管，需要加强对侵害未成年人权益行为的打击。广州市政协副主席于欣伟呼吁制定按年龄和内容分级的健康网络游戏的规范和标准，把关技术，在内容审查的基础上，实现分类指导和分级运营。启明星辰信息技术集团股份有限公司首席执行官严望佳提出运用技术防护手段营造健康网络环境的观点，采用大数据对未成年人网络行为进行精准画像，预测潜在网络沉迷用户群，并通报监护人或相关监管部门，做到提前预警和干预。腾讯董事会主席马化腾主张建立“一站式”未成年人网络使用管理平台，控制未成年人的上网时长。
网络分级分类监管措施要切实有效
明确各方责任，强化监督机制。司法机关、政府部门、企业、社会组织、学校和家庭共同推动，形成全社会共治的局面，可有效遏制未成年人网络侵害。
互联网信息部门统筹协调全国未成年人网络保护工作，敦促教育、电信、公安、文化、监管、媒体等有关部门依据各自职责做好市场准入、内容审核、教育引导、打击犯罪等工作;落实已有未成年人网络保护的相关法规和制度，建立可操作、可执行、可督查、可追溯的未成年人网络监管机制，完善奖励、举报、投诉规则，借用公众的力量实施有效监管，让青少年网络模式发挥实效。
学校和家庭要加强未成年人网络素养教育，引导未成年人正确使用互联网。家长要履行未成年人网络监护和监督责任，加强网络安全意识，了解孩子使用的互联网服务、网络来往对象，积极参与“家长监护工程”。如发现孩子浏览网络不良信息或进行不良在线活动，家长要积极进行教育和引导，并向互联网企业和监管部门举报。
互联网企业要着眼长远，将未成年人保护放在最高优先级，制定保护措施，加强网络监管，发现问题要及时干预，建设青少年与网络有害信息之间的防火墙。但目前，我国部分企业对未成年人网络安全并不重视。最近，中国消费者协会对50款游戏进行体验后发现，只有41款游戏启用了实名制，17款游戏在登录时强制用户实名验证，不少游戏的实名验证方式形同虚设。
在未成年人有效识别、隐私保护、内容分级等关键领域，进行技术突破，研发针对未成年人网络保护的技术与工具。目前，相关部门建立了“防沉迷系统”，但针对防沉迷模式的各类“破解”系统也迅速上线。保护与侵害的技术博弈一直在进行，导致未成年人网络保护实效性降低。互联网企业要切实履行社会责任，加大防沉迷技术研发，创新技术手段，提高绕开防沉迷系统的技术门槛和时间成本。利用人脸、视频、语音等技术提高对未成年人上网的识别精准度，使未成年人上网只能以自己的身份实名认证。
互联网行业要针对未成年人的操作习惯、网络行为等方面搭建大数据体系，运用人工智能等技术主动发现未成年用户，建立全系统、全程的实时监管和干预机制，让防沉迷系统更加科学、高效。如腾讯公司为有效识别未成年人，不断进行技术迭代，接入“公安实名校验”，引入金融级别的“人脸识别”技术，结合用户画像和大数据分析，进行“小号识别与打击”。
防沉迷系统等未成年人网络保护措施在要求用户提供真实身份信息进行注册时，存在身份信息泄露的风险。互联网企业需在技术上平衡未成年人身份确认与隐私保护之间的关系，制定相关判断标准，区分影响未成年人身心健康的不良信息和适宜未成年人接触的、具有正向价值的信息，开发自动分类分级的智能化技术平台，降低风险内容识别成本，提高“适龄提示”的针对性和有效性。
疏堵结合，关键在疏，大力建设和繁荣健康的网络内容。实施未成年人网络内容分类后，若只禁止未成年人接触互联网不良内容，但优质内容缺位，那么分类分级管理机制便没有意义。在青少年防沉迷系统上线后，多数主流互联网视频平台构建了寓教于乐的优质内容池，其中包含课程教学、书法绘画、亲子教育、传统文化、生活技能等内容。短视频平台发挥教育、知识方面的优势，构建以“正能量+知识学习”为核心的内容池，建立集安全性、丰富性、有用性、趣味性于一体的青少年模式，向青少年推送展示祖国大好河山、风土人情、生产劳动的精品内容。但当前适合未成年人的优质内容开发力度仍不够，社会应从更广的品类和维度上为未成年人提供更丰富的网络内容，以青少年喜闻乐见的形式，制作集知识性、娱乐性、趣味性于一体的优质内容，让网络空间逐渐成为传播正能量的阵地。
推进网络信息内容分类分级管理、针对未成年人实施网络保护是社会共识，但要务实推进、取得实效并不容易。我们应在机制上突出监督作用，奖优罚劣，形成正向驱动;技术上，加强大数据和人工智能技术开发，有效“堵”住不良信息传播渠道;内容上，政府要加强投入、积极引导，全社会共同建设未成年人专属内容，形成“疏”为主、“堵”为底的未成年人网络信息内容分类分级管理体系。
（作者系中国人民公安大学信息技术与网络安全学院院长）
责任编辑：孙雨萱