2023年10月16日,国务院总理李强签署第766号国务院令,公布《未成年人网络保护条例》(以下简称“《条例》”),自2024年1月1日起施行。本次《条例》正式发布距草案首次面向公众征求意见已时隔七年,在我国网络空间监管的法律框架初步形成,《中华人民共和国未成年人保护法(以下简称“《未成年人保护法》”)》新增“网络保护”专章的立法背景下,《条例》适时出台,对于构建未成年人网络空间治理规则体系、营造有利于未成年人身心健康的网络环境、保障未成年人合法权益,具有重要意义。
一、分类压实主体责任,统筹共建治理体系
(一)统筹协同,构建多层次的治理体系
未成年人网络保护是一项需要多方协作的综合治理工程,明确各相关方的职责和分工是有效推进未成年人网络保护工作的前提。为此,《条例》构建了一个以社会主义核心价值观为引领,适应未成年人身心健康发展特点和网络空间监管规律的全方位、多层次的治理机制。即由国家网信部门作为统筹协调部门,国家新闻出版、电影、教育、电信、公安、民政、文化和旅游、卫生健康、市场监督管理、广播电视等有关部门、人民政府及有关部门各司其职做好各领域的监管实施,共产主义青年团、妇女联合会等人民团体、有关社会组织、基层群众性自治组织等作为协助支撑机构,家庭、学校和其他教育机构作为教育引导者,网络相关行业组织作为自律规范者,新闻媒体以及其他组织和个人作为监督引导者,共同落实未成年人网络保护工作。
(二)突出重点,强化主体责任
为强化未成年人网络保护工作的治理效能,《条例》在全方位、多层次的治理机制基础之上,突出治理工作的重点,对手机等智能终端产品制造者及销售者,网络游戏、社交、直播、音视频等网络产品和服务提供者,未成年人用户数量巨大或对未成年人群体具有显著影响的网络平台提供者以及涉及处理未成年人个人信息的个人信息处理者等四类主体进行重点监管。例如:
针对手机等智能终端产品制造者,要求在产品出厂前安装未成年人网络保护软件,或者采用显著方式告知用户安装渠道和方法,智能终端产品销售者在产品销售前应当采用显著方式告知用户安装未成年人网络保护软件的情况以及安装渠道和方法;
针对网络游戏、社交、直播、音视频等网络产品和服务提供者,要求设置未成年人模式和消费限制,制止不良网络行为,防止网络沉迷,并以醒目便捷的方式为监护人履行监护职责提供时间管理、权限管理、消费管理等功能;
针对未成年人用户数量巨大或者对未成年人群体具有显著影响的网络平台提供者,要求建立健全未成年人网络保护合规制度体系、制定专门的未成年人保护平台规则、定期开展未成年人网络保护影响评估、提供未成年人模式或者未成年人专区、对严重侵害未成年人身心健康或者侵犯未成年人其他合法权益的平台内产品或者服务进行处置、发布专门的未成年人网络保护社会责任报告;
针对个人信息处理者,《条例》第四章以专章的形式,系统地提出了未成年人个人信息网络保护要求,与《个人信息保护法》等共同构建了未成年人个人信息保护的蓝图。
二、百虑一致,多元措施强化未成年人权益保护
《条例》第三章至第五章全面承接《未成年人保护法》“网络保护”专章要求,聚焦未成年人网络权益保护的痛点,明确网络空间参与者在网络信息内容规范、个人信息网络保护、网络沉迷防治三方面的义务。
(一)网络信息内容规范
第一,根据网络信息内容的危害程度,明确分类治理的基本思路。
对于淫秽、色情、暴力、邪教、迷信、赌博、引诱自残自杀、恐怖主义、分裂主义、极端主义等危害未成年人身心健康的网络信息内容采取绝对禁止性治理措施,任何组织和个人不得制作、复制、发布、传播,网络产品和服务提供者若发现上述内容在其平台内传播,应当及时采取删除、屏蔽、断开链接等处置措施。
对于可能引发或者诱导未成年人模仿不安全行为、实施违反社会公德行为、产生极端情绪、养成不良嗜好等可能影响未成年人身心健康的信息,采取相对限制性治理措施,即要求在信息展示前予以显著提示,不得在首页首屏、弹窗、热搜等处于产品或者服务醒目位置、易引起用户关注的重点环节呈现,不得在专门以未成年人为服务对象的网络产品和服务中制作、复制、发布、传播上述信息。网络产品和服务提供者若发现上述信息未做显著提示的,应当要求作出提示,否则将对该信息作出传输限制。
第二,回应网络欺凌等社会热点问题。《条例》一方面明确禁止任何组织和个人对未成年人实施侮辱、诽谤、威胁或者恶意损害形象等网络欺凌行为,另一方面通过压实网络产品和服务提供者的主体责任,要求:1)建立健全网络欺凌行为的预警预防、识别监测和处置机制,设置便利未成年人及其监护人保存遭受网络欺凌记录、行使通知权利的功能、渠道,提供便利未成年人设置屏蔽陌生用户、本人发布信息可见范围、禁止转载或者评论本人发布信息、禁止向本人发送信息等网络欺凌信息防护选项;2)建立健全网络欺凌信息特征库,优化相关算法模型,采用人工智能、大数据等技术手段和人工审核相结合的方式加强对网络欺凌信息的识别监测,实现网络欺凌行为的智能化治理。
(二)个人信息网络保护
《条例》顺应国际趋势,以专章形式对未成年人个人信息网络保护予以规定,由此构建了以《未成年人保护法》《网络安全法》《个人信息保护法》为引领,以《条例》为核心,以《儿童个人信息网络保护规定》等规范为补充的三层次的我国未成年人个人信息保护规则体系。
一方面,《条例》聚焦共性,重申既有规则在未成年人个人信息网络保护领域的适用,如信息发布、即时通讯服务提供者对未成年人用户的真实身份信息核验义务,个人信息处理者处理个人信息时对必要原则的遵循,网络服务提供者提示并阻断私密信息传输扩散义务等。
另一方面,《条例》关注未成年人群体的特殊性,在承接既有规定的基础上,就未成年人个人信息保护作出细化安排,为企业实操提供指引。例如,《条例》第34条明确个人信息处理者拒绝未成年人或者其监护人行使权利的请求的,应当以书面形式告知申请人并说明理由;第35条规定发生个人信息安全事件时,应按照国家规定同时告知受影响的未成年人及其监护人;第36条规定了企业对于工作人员访问未成年人个人信息的审批及记录要求。
值得关注,《条例》第37条要求个人信息处理者应每年就未成年人个人信息处理情况进行合规审计,并将审计情况及时报告网信等部门。网信办今年8月发布的《个人信息保护合规审计管理办法(征求意见稿)》中明确,处理超过100万人个人信息的企业,应每年至少开展一次个人信息保护合规审计;其他企业则应每二年至少开展一次个人信息保护合规审计。《条例》对未成年人个人信息处理年度合规审计的要求未区分个人信息处理者类型,可以理解是对于涉及处理未成年人个人信息的企业未来制定合规审计制度提出了新的要求。
(三)网络沉迷防治
未成年人处在成长成才的关键时期,其安全、合理使用网络的意识和能力不强,《条例》坚持问题导向,并立足实践经验从制度层面对此予以回应。
第一,《条例》自下而上,全方位就各主体的责任进行明确。具体而言,承接《未成年人保护法》规定,《条例》细化补充了学校、监护人对未成年人加强教育、引导的责任,并进一步明确网络产品和服务提供者应当建立健全防沉迷制度,并每年向社会公布防沉迷工作情况。此外,教育、卫生健康、市场监督管理等部门依据各自职责进行监督管理,新闻出版、教育、卫生健康、文化和旅游、广播电视、网信等部门定期开展宣传与监督检查,卫生健康、教育等部门就未成年人沉迷网络相关问题开展研究,国家新闻出版部门牵头组织开展未成年人沉迷网络游戏防治工作。
第二,针对网络游戏、网络直播等网络沉迷重灾区,《条例》进行强化规制,系统整合此前散见于各规范的要求。《条例》规定网络游戏、网络直播、网络音视频、网络社交等网络服务提供者应:1)依法设置未成年人模式,并以醒目便捷的方式为监护人履行监护职责提供时间管理、权限管理、消费管理等功能;2)合理限制不同年龄阶段未成年人在使用其服务中的单次消费数额和单日累计消费数额;3)采取措施预防、制止未成年人参与应援集资、投票打榜、刷量控评等宣传流量至上等不良价值倾向的网络活动。其中,针对网络游戏沉迷,《条例》在细化《未成年人保护法》关于真实身份验证及适龄提示要求的基础上,进一步提出网络产品和服务提供者不得为未成年人提供游戏账号租售服务等。
第三,《条例》回应社会关切,强调防治手段的正当性。《条例》强调严禁任何组织和个人以虐待、胁迫等侵害未成年人身心健康的方式加以干预,旨在避免过去曾出现的以“防治未成年人网络沉迷”为名,实则通过人身自由限制等方式侵害未成年人身心健康等现象的再次发生。
三、共建良好生态,严格法律责任
《条例》以“最有利于未成年人原则”贯穿始终,一方面,《条例》明确要求规范未成年人外部网络环境、提升未成年人自身网络素养,构建未成年人权益保护良好生态;另一方面,《条例》设定了严格的法律责任,从法律惩戒层面建立未成年人网络保护的底线保障。
《条例》强调通过学校素质教育,监护人的教育、示范、引导、监督,公益性上网服务的建设,以及未成年人网络保护软件、其他未成年人专用产品服务的研发、生产与使用等方式,为未成年人提供安全、健康的上网环境,培养未成年人良好的上网习惯。与此同时,《条例》鼓励加强未成年人网络保护相关的科学研究及人才培养、开展国际交流与合作,对在未成年人网络保护工作中作出突出贡献的组织和个人给予表彰和奖励,正向激励社会各界参与贡献未成年人网络保护工作,共建未成人网络保护良好生态。
在法律责任方面,《条例》涵盖政府部门、学校、社区、图书馆、文化馆、青少年宫、监护人、网络产品和服务提供者、个人信息处理者、智能终端产品制造者和销售者等全方面的责任主体,并对单位主体普遍以“双罚”(即单位+负有责任的领导(主管)人员和直接责任人员)进行规制。与此同时,《条例》设定了多种处罚手段,除常见行政处罚(包括最高可能处以高达5000万元或者上一年度营业额百分之五的罚款)外,还规定了禁业等处罚形式。例如,网络产品和服务提供者如违反《条例》,受到关闭网站、吊销相关业务许可证或者吊销营业执照处罚的,5年内不得重新申请相关许可,其直接负责的主管人员和其他直接责任人员5年内不得从事同类网络产品和服务业务。
结语
《条例》是我国出台的第一部专门性的未成年人网络保护综合立法,回应了未成年人在网络世界所面临的现实风险,统筹政府、社会、学校、家庭等治理主体的力量,压实智能终端制造者和销售者、网络产品和服务提供者、个人信息处理者以及重要互联网平台运营者等参与主体的责任,围绕网络信息内容规范、个人信息保护、网络防沉迷三个重要领域展开治理,力求为未成年人提供安全、健康、有益的网络环境,保障互联网时代未成年人的身心健康和全面发展。