前言
前段时间，武汉一名小学生在校被撞身亡，其母亲因在接受采访时衣着精致、表现冷静克制而被网民侮辱谩骂攻击后坠楼身亡，网络暴力侵犯个人权益再度成为热点话题。
早在2008年，我国出现的首例“网络暴力案”便曾轰动一时，该案中，某女子在自杀前记录丈夫婚外情的“死亡博客”，在其死后被朋友披露并被网站转载，随后网友对该丈夫进行“人肉搜索”，并从线上谩骂发展至线下骚扰。该丈夫遂以侵犯名誉权诉至法院，以主张其合法权利[1]。
随着互联网技术的发展和网络基础设施的不断完善，截至2022年底，我国网民规模达到10.67亿，互联网普及率达75.6%[2]。民众在网络平台上自由发表言论、交流信息的同时也导致非理性的语言暴力冲突在网络滋生蔓延。近年来，在网络上针对个人进行“人肉搜索”，集中发布侮辱谩骂、造谣诽谤、侵犯隐私等信息等行为更是屡见不鲜，不仅扰乱网络秩序，致使网络空间戾气横行，甚至造成个人“社会性死亡”、精神失常、抑郁自杀等严重后果。除前文提到的武汉母亲坠楼案外，典型案例还有2022年，15岁少年在历经坎坷成功寻亲后却因与亲生父母的矛盾而遭受网络谩骂，最终选择结束自己的生命[3]；2023年，23岁女孩仅因在社交平台上晒出一张染着粉色头发的自己与病床上爷爷的合照而被无端造谣、侮辱人格，患上抑郁症后不幸离世[4]。
在对于网络暴力的立法层面，2011年，国家互联网信息办公室[5]（下称“国家网信办”）发布《互联网信息服务管理办法（2011修订）》规定，互联网信息服务提供者不得制作、复制、发布、传播含有暴力、侮辱或者诽谤他人，侵害他人合法权益的内容的信息。《中华人民共和国网络安全法》（下称“《网络安全法》”）规定，任何个人和组织使用网络应当遵守公共秩序，尊重社会公德，不得利用网络从事侵害他人名誉、隐私和其他合法权益等活动。《中华人民共和国个人信息保护法》（下称“《个人信息保护法》”）明确，任何组织、个人不得侵害自然人的个人信息权益。
2022年起，针对网络暴力信息的网络环境治理监管更加密集且严格。2022年4月，国家网信办开展“清朗·网络暴力专项”治理行动，聚焦网络暴力高发、社会影响力大的重点18家网站平台，通过建立完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等措施，进行全链条治理[6]；同年11月，国家网信办发布《关于切实加强网络暴力治理的通知》，要求网站平台建立网暴预警、保护、防扩散等治理机制。2023年，国家网信办进一步开展“清朗”系列九项专项行动，聚焦“网络戾气、自媒体乱象、短视频信息内容导向不良、未成年人保护”等新问题。同时，为依法惩治网络暴力违法犯罪活动，有效维护公民人格权益和正常网络秩序，最高人民法院、最高人民检察院、公安部等机关于2023年出台多部司法解释[7]和若干典型案例[8]。
鉴于最近的网暴事件频发、造成了恶劣的社会影响，为出台更高阶的法规以作为防治和规制网络暴力的有力一环，国家网信办吸收《关于切实加强网络暴力治理的通知》的具体措施，于2023年7月7日发布《网络暴力信息治理规定（征求意见稿）》，强化网络暴力信息治理，营造良好网络生态，保障公民合法权益。征求意见稿总共七章三十一条，适用于中国境内的“网络暴力信息治理活动”，从一般规定（第二章）、网络暴力信息监测预警（第三章）、网络暴力信息处置（第四章）、保护机制（第五章）四大方面规定了网络信息服务提供者的义务，同时明确了监督管理和法律责任（第六章）。
《网络暴力信息治理规定（征求意见稿）》贯彻了《网络安全法》《个人信息保护法》《互联网信息服务管理办法》等上位法关于个人信息保护、信息内容治理的原则性要求，同时与《网络信息内容生态治理规定》《移动互联网应用程序信息服务管理规定》《互联网用户账号信息管理规定》《互联网论坛社区服务管理规定》《互联网群组信息服务管理规定》《互联网跟帖评论服务管理规定》等部门规章进行了全面衔接（各项法律文件的出台时间线如下图），将规范性文件《关于切实加强网络暴力治理的通知》加以系统化阐释，就网络暴力信息的特殊情况作出了具有针对性的规定，从法规层面细化了网络暴力治理的措施。
本文将分上下两篇对《网络暴力信息治理规定（征求意见稿）》进行解读，以期为企业合规实践带来参考。本文上篇将首先分析网络暴力信息的定义，介绍网络信息服务提供者对于防治网络暴力信息的一般义务，下篇将重点提示特殊义务。其中一般义务系基于网络暴力信息对现行规章等进行细化，而特殊义务为《网络暴力信息治理规定（征求意见稿）》新增内容，值得重点关注（具体如下表所示）。
一、网络暴力信息的界定
（一）什么是网络暴力？
对于“网络暴力”，法律法规尚无明确定义。有学者认为，网络暴力是指人们利用互联网手段，借助网络舆论的力量，对他人进行侮辱、诽谤、骚扰等肆意人身攻击的狂热行为[9]；个人或群体有意识地通过网络传播违法信息，以针对特定个人或群体反复、持续实施侵害的违法犯罪行为[10]。中国传媒大学人类命运共同体研究院指出，从形式上来看，网民发表在网络上的具有“诽谤性、诬蔑性、侵犯名誉、损害权益和煽动性”的言论、文字、图片、视频或各种信息形式整合在一起的内容，以及对他人或某个群体造成心理、精神甚至身体伤害的行为，都属于网络暴力的范畴[11]。
从现有相关法律法规的条文中可以进一步理解何为网络暴力。根据《关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》，网络暴力违法犯罪行为主要涉及：网络诽谤行为（在信息网络上制造、散布谣言，贬损他人人格、损害他人名誉），网络侮辱行为（在信息网络上采取肆意谩骂、恶毒攻击、披露隐私等方式，公然侮辱他人），侵犯公民个人信息行为（组织“人肉搜索”，在信息网络上违法收集并向不特定多数人发布公民个人信息），以及侵犯公民名誉权、隐私权等人格权的行为[12]。《网络生态治理规定（征求意见稿）》第二十二条指出，网络信息内容服务使用者不得利用网络和相关信息技术，实施侮辱、诽谤、威胁以及恶意泄露他人隐私、散布谣言、人肉搜索等网络侵权、网络暴力行为，侵害其他组织或者个人名誉权、财产权等合法权益[13]。《关于切实加强网络暴力治理的通知》中提到，网络暴力针对个人集中发布侮辱谩骂、造谣诽谤、侵犯隐私等违法信息及其他不友善信息，侵害他人合法权益，扰乱正常网络秩序。
综上，可以概括出“网络暴力”的以下特征：
（二）什么是网络暴力信息？
《网络暴力信息治理规定（征求意见稿）》将规制着眼点放在“网络暴力信息”，对此前发布的《关于切实加强网络暴力治理的通知》中“涉网暴内容”进行明确、细化，并首次对“网络暴力信息”这一概念进行了定义：即通过网络对个人集中发布的，侮辱谩骂、造谣诽谤、侵犯隐私，以及严重影响身心健康的道德绑架、贬低歧视、恶意揣测等违法和不良信息。
可以看出“网络暴力信息”的定义亦是围绕前文所述“网络暴力”的特征展开。但此定义较为宽泛，例如，对于如何认定相关信息是否属于“严重影响身心健康的道德绑架、贬低歧视、恶意揣测”、并使之与监督、批评等良性言论相区别，依然存在模糊之处，有待立法者进一步明确或在未来的实践中进行补充。除了期待规定更加细化外，网络信息服务提供者也可以参考相关法律法规及司法实践中对网络暴力行为的理解，以更精准地识别“网络暴力信息”。
此外，定义中明确网络暴力信息属于一种“违法和不良信息”，也体现了网络信息服务提供者不仅需要基于网络暴力信息的特点履行特殊保护义务，还应当遵守《网络信息生态内容治理规定》等法律法规中对于规制“违法和不良信息”的一般合规义务。
二、网络信息服务提供者的一般合规义务
《网络暴力信息治理规定（征求意见稿）》强调网络信息服务提供者在网络暴力防治中的角色和作用。通常在网络暴力案件中，网络信息服务提供者虽不是直接施暴方，但由于其信息传播扩散能力和社会影响力强，极大可能成为网络暴力的温床和推手，由此应当重点落实信息内容治理的义务，强化对于网络暴力防治的主体责任。
目前法律法规中尚未对“网络信息服务提供者”定义，与其类似的定义为《互联网用户账号信息管理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》中规定的“互联网信息服务提供者”，即向用户提供互联网信息发布和应用平台服务，包括但不限于互联网新闻信息服务、网络出版服务、搜索引擎、即时通讯、交互式信息服务、网络直播、应用软件下载等互联网服务的主体，因此，包含《互联网论坛社区服务管理规定》中的互联网论坛社区服务提供者、《网络信息内容生态治理规定》中的网络信息内容生产者和网络信息内容服务平台、《移动互联网应用程序信息服务管理规定》中的应用程序分发平台等各类主体。
（一）信息发布审核义务
《网络信息内容生态治理规定》总括性地要求网络信息内容服务平台加强信息内容的管理，不得传播违法信息、应当防范和抵制不良信息。而为了防止相关违法和不良信息在网络传播，首先应当健全信息审核相关制度，在各环节对违法和不良信息进行动态遏制。《网络暴力信息治理规定（征求意见稿）》第五条强调了网络信息服务提供者构建的网络暴力信息治理机制应包括信息发布审核制度。并在第十六条中重点规定了互联网新闻信息服务单位的审核义务，要求其坚持正确的舆论导向，加强信息内容真实性、合法性审核，不得渲染炒作网络暴力事件，新闻信息跟帖评论实行先审后发。
类似的，《网络信息内容生态治理规定》第九条要求网络信息内容服务平台健全信息发布审核等制度；《互联网论坛社区服务管理规定》第五条也要求互联网论坛社区服务提供者建立健全信息审核、公共信息实时巡查等信息安全管理制度；《移动互联网应用程序信息服务管理规定》第八条同样指出应用程序分发平台应当建立健全信息内容审核管理机制，建立完善包括信息审核在内的管理措施，配备与服务规模相适应的专业人员和技术能力。
因此，企业可以落实相应的配套措施以妥善履行信息发布审核义务，例如：明确“网络暴力信息”的界定方法；配备与服务规模相适应的专业审核人员，加强对于审核内容培训、提高专业素养，加深对于“网络暴力信息”的理解以更好识别相关信息；提升信息安全管理技术水平，通过技术手段自动发现用户拟发布的涉及网络暴力信息的内容，并及时进行处置。
（二） 用户账号信息管理义务
《网络暴力信息治理规定（征求意见稿）》第六条规定，网络信息服务提供者应当强化网络用户账号信息管理，防止假冒、仿冒、恶意关联网络暴力事件当事人进行违规注册或发布信息，协助当事人进行个人账号认证。企业可以参考《互联网用户账号信息管理规定》规定的互联网信息服务提供者的网络用户账号信息管理义务履行此义务，主要包括：
（三）平台规则制定义务
《网络暴力信息治理规定（征求意见稿）》第七条要求网络信息服务提供者将网络暴力信息规范纳入管理规则和用户协议中以约束用户，即制定和公开管理规则、平台公约，在用户协议中明确用户制作、复制、发布和传播网络暴力信息应承担的责任，并依法依约履行相应管理职责。
类似的，《网络信息内容生态治理规定》第十五条规定，网络信息内容服务平台应当制定并公开管理规则和平台公约，完善用户协议，明确用户相关权利义务，并依法依约履行相应管理职责；第九条要求网络信息内容服务平台制定网络信息内容生态治理细则，以落实各业务环节和场景下的规范。《互联网论坛社区服务管理规定》第六条也要求，互联网论坛社区服务提供者应当与用户签订协议，明确用户不得发布、传播法律法规规定禁止的信息，以及违反该义务的后果。
实践中，多数企业制定重点针对信息内容治理的平台/社区公约，并在禁止用户发布的信息中提到符合网络暴力信息特点的内容，例如“不得发布带有人身攻击、谩骂、侮辱和挑衅内容”[15]；也有企业在平台/社区公约中专门对“网络暴力”做出了规制[16]。此外，虽然《网络暴力信息治理规定（征求意见稿）》没有要求网络信息服务提供者单独制定关于网络暴力信息治理的细则，但实践中已有企业整合平台和用户对于网络暴力信息的责任，发布防网暴指南[17]等规则供用户参考，形成更为全面的网络暴力信息治理机制。
因此，企业可以通过在平台公约中设单章规定网络暴力防治的内容，或发布单独防止网络暴力指南或制度，履行平台规则制定义务，建议指出违反相关规则将承担的违约责任或法律后果，并明确平台相关的管理权利。
（四） 信息治理公告义务
《网络暴力信息治理规定（征求意见稿）》第八条规定，网络信息服务提供者应当定期发布网络暴力信息治理公告，并且需要将网络暴力信息治理的相关工作情况一并纳入网络信息内容生态治理工作年度报告中。《网络信息内容生态治理规定》第十七条规定了平台编制网络信息内容生态治理工作年度报告的义务，年度报告应当包括网络信息内容生态治理工作情况、网络信息内容生态治理负责人履职情况、社会评价情况等内容。
因此，企业应当及时公布相关公告，披露网络暴力治理工作情况，回应社会关切，引导网民理性发声，防范抵制网络暴力行为。目前主流平台大多会定期（多为周报）公布网络暴力的治理情况，内容主要包括拦截/清理涉嫌网络暴力内容的数量、处置违规账号的数量、用户开启一键防护的情况等（如下图）。
（五）安全评估义务
提示企业注意的是，《网络暴力信息治理规定（征求意见稿）》虽然没有提到安全评估义务，但是根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第三条规定，互联网信息服务提供者具有下列情形之一的，应当依法自行开展安全评估，并对评估结果负责：
因此，即使互联网信息服务提供者本身不属于上线具有“舆论属性或社会动员能力的信息服务”的情形，但如果发生网络暴力信息等违法有害信息的传播扩散，已有安全措施难以有效防控网络安全风险，那么也应当履行安全评估的义务。
注释：
[1] 参见中国法院网《网络暴力第一案宣判 王菲获赔精神抚慰金8千元》，https://www.chinacourt.org/article/detail/2008/12/id/337211.shtml，2023年7月16日访问。此案宣判后，北京市朝阳区人民法院向工业和信息化部发出司法建议函，建议针对网络暴力问题加强对互联网管理和网站经营的监管。
[2] 参见国家互联网信息办公室《数字中国发展报告（2022年）》。
[3] 参见澎湃新闻《刘学州被“遗弃”的一生》，https://www.thepaper.cn/newsDetail_forward_16432766，2023年7月10日访问。
[4] 参见澎湃新闻《粉色头发女孩遭遇网暴，媒体如何报道｜事件复盘》，https://www.thepaper.cn/newsDetail_forward_22614224，2023年7月10日访问。
[5] 国家互联网信息办公室与中央网络安全和信息化委员会办公室，一个机构两块牌子。
[6] 参见中央网信办部署开展“清朗·网络暴力专项治理行动” https://mp.weixin.qq.com/s/5TlwdWJDt7y0b8h7eowmcQ，2023年7月9日访问。本次行动聚焦网络暴力易发多发、社会影响力大的18家网站平台，包括微博、抖音、百度贴吧、知乎等。
[7] 包括《关于加强新时代检察机关网络法治工作的意见》《关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》。
[8] 例如公安部发布网络谣言打击专项政治行动10起典型案例，https://app.mps.gov.cn/gdnps/pc/content.jsp?id=9045590，2023年7月9日访问。
[9] 参见王秀平：《网络暴力成因及理性法律规制》，载《山东师范大学学报（人文社会科学版）》2010年4期。
[10] 参见敬力嘉、胡隽：《网络暴力法律规制的完善路径》，载《中国人民公安大学学报（社会科学版）》2021 年第 5 期
[11] 参见中国传媒大学人类命运共同体研究院：《网络暴力现象治理报告》https://icsf.cuc.edu.cn/2022/0701/c6046a194580/page.htm，2023年7月8日访问。
[12] 对于将网络暴力延伸至线下、借网络暴力事件实施恶意营销炒作行为，也受到法律规制。
[13] 虽然在正式出台的《网络信息内容生态治理规定》中，并未出现“网络暴力”的表述。第二十一条 网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用网络和相关信息技术实施侮辱、诽谤、威胁、散布谣言以及侵犯他人隐私等违法行为，损害他人合法权益。
[14] 2019年发布的《最高人民法院、最高人民检察院、公安部、司法部关于办理实施“软暴力”的刑事案件若干问题的意见》中指出：“软暴力”是指行为人为谋取不法利益或形成非法影响，对他人或者在有关场所进行滋扰、纠缠、哄闹、聚众造势等，足以使他人产生恐惧、恐慌进而形成心理强制，或者足以影响、限制人身自由、危及人身财产安全，影响正常生活、工作、生产、经营的违法犯罪手段。
[15] 例如《小米社区公约》“不得发布带有人身攻击、谩骂、侮辱和挑衅内容”；《小红书社区公约》“不要轻易利用影响力指控或发布煽动性话语”；《快手社区公约》“恶意煽动粉丝情绪或行为，通过评论、直播评论、私信、@他人、群组等方式攻击、诋毁、骚扰他人，一经发现此类行为，平台对发起者和参与者将会进行严格处罚”。
[16] 例如《知乎社区规范》中设“网络暴力”一节，要求不得发布具有「诽谤性、诬蔑性、侵犯名誉、损害权益和煽动性」这五个特点的言论、文字、图片，不得发布以暴力或者其他方法公然侮辱他人、捏造事实诽谤他人的内容。
[17] 目前已有包括抖音、微博、快手、腾讯、小红书等多家重点平台集中发布了防网暴指南手册。
[18] 具有舆论属性或社会动员能力的互联网信息服务，包括下列情形：（1）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（2）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。