反网暴新规落地,平台如何构建预警机制?“吃瓜群众”如何避免成为“帮凶”?
8月1日起,由国家互联网信息办公室、公安部、文化和旅游部、国家广播电视总局联合印发的《网络暴力信息治理规定》(以下简称《规定》)正式施行,引发社会广泛关注。
日前,法治网研究院邀请了北京互联网法院综合审判三庭一级法官王红霞,上海市普陀区人民法院刑事审判庭副庭长谭佳怡,北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括,中国政法大学数据法治研究院教授、博士生导师张凌寒,中国传媒大学人类命运共同体研究院副院长、博士生导师王四新,《法治日报》律师专家库成员、北京德和衡律师事务所高级合伙人马丽红律师等,围绕相关话题展开一场深入研讨。
法治网研究院:此次《规定》的正式施行,引发社会广泛关注。您认为,其传递的是一种什么信号?
王红霞:网络暴力信息治理是网络空间治理的重要领域,《规定》作为我国首部以部门规章形式公布的反网络暴力专门立法,开启了网络暴力信息治理法治化新篇章,对于推进网络空间治理现代化意义重大。
《规定》从平台责任与义务的法定化、强化未成年人等特殊群体权益保护、完善用户权益保护处置措施等多个方面,全面构建了网络暴力信息治理的法律体系,体现了国家对于网络暴力零容忍的态度,以及坚决治理好网络暴力的决心,将有效遏制网络暴力的蔓延,为广大公民构造一个清朗的网络空间。
谭佳怡:在互联网与日常生活紧密相连的今天,《规定》的实施传递了国家对网络环境进行严格规范和积极治理的信号。《规定》明文规定了网络信息服务提供者的责任,要求其建立和健全预防预警机制,对用户进行真实身份信息认证,加强账号信息管理等,同时特别强调了对特殊群体合法权益的保护。
我认为,《规定》的出台标志着网络暴力信息治理机制迈向了动态调控的新模式,为司法治理提供了强有力的规则支撑,彰显了国家致力营造良好网络生态,保障公民合法权益,维护社会公共利益的坚定决心。
王四新:首先,《规定》表明了国家层面坚决打击网络暴力的决心。当前,网络暴力呈愈演愈烈之势,不仅对公民的人身权利、人格尊严造成越来越大的损害,而且严重影响网络生态以及网络文明建设。在这种情况下,《规定》的出台再次表明了国家层面坚决遏制网络暴力乱象、强化网络暴力信息治理的决心和策略。
其次,《规定》体现了治理网络暴力需要多方协调、共同努力。《规定》所确立的网络暴力信息治理坚持源头防范、防控结合、标本兼治、协同共治的原则,充分说明了治理网暴需要社会各界齐心携手、共同发力。
最后,《规定》展现了我们国家的网络暴力治理将坚定不移走法治化的道路。我们既要严格处罚实施网络暴力的各种行为,也要确保网络空间应该享有的表达权,不能因为治理网络暴力就随意侵犯公民合法权益。任何情况下,治理网络暴力都应该在法治的框架下进行。
马丽红:天下苦网暴久矣。据统计,目前我国网民规模已超10亿人,互联网普及率达76.4%,网络空间已与个体生活密不可分,然而网络中仍有不少人存在“网络乃法外之地”的错觉,导致网络暴力现象频发,已经严重扰乱了网络社会公共秩序和良好的社会风尚,尤其在“饭圈”文化盛行的领域,网络暴力更会成为攻击竞争对手的武器。
《规定》的出台为匡正网络风气、整治网络暴力提供了扎实的制度基础。值得注意的是,《规定》中规定公安机关对于网信、文化和旅游、广播电视等部门移送的涉网络暴力信息违法犯罪线索,应当及时进行审查,并对符合立案条件的及时立案侦查、调查。这一点非常重要,因为侮辱、诽谤罪在我们国家属于刑事自诉案件,只有严重危害社会秩序和国家利益的,才会由人民检察院提起公诉。而因遭受网暴的普通人存在取证难等问题,使得长期以来网暴治理在刑事领域较为薄弱。《规定》有望通过公安机关的介入,使得网暴治理走入强监管轨道,从而对肆意网暴者起到有效的震慑作用。
法治网研究院:《规定》明确,网络信息服务提供者应当履行网络信息内容管理主体责任,建立完善网络暴力信息治理机制,健全用户注册、账号管理、个人信息保护、监测预警等制度平台。网络上尤其关注网络暴力监测预警机制的构建,这一向被视为是一个难点。对于构建这种网络暴力信息监测预警制度或者预警模型,您有什么建议?
吴沈括:构建网络暴力信息监测预警机制的核心目标是实现“事前预防”,即在舆论发酵之前及时响应,以减少网络暴力的形成或扩散,从而避免更为恶劣的后果。针对网络暴力预警制度,可以从以下几个方面入手:首先,建立人工与人工智能结合的多层次内容审核系统,对网络信息进行实时监测,以迅速准确地发现潜在的暴力信息。其次,完善用户举报机制和反馈系统,鼓励用户主动报告网络暴力行为,并建立高效的处理和响应机制。最后,推动跨平台的信息共享机制,以提高信息流转效率和预警准确性,确保预警的全面覆盖。
张凌寒:构建网络暴力信息监测预警制度是一项系统性工程,需要综合考虑技术、社会、法律等多方面因素。从技术方面,可以利用人工智能大模型、大数据分析等技术手段,考量言论的频率、情感倾向、影响力等多个维度,对网络言论进行实时动态的监控和分析,综合评判网络暴力的风险与传播机制,并及时发出预警;从社会方面,除了较为容易识别的侮辱谩骂、造谣诽谤、侵犯隐私等违法信息外,还需要结合言论的具体社会影响,对指责嘲讽、贬低歧视等不良信息也加以有效识别和规制;从法律方面,既要考虑对网络暴力高效治理与有效预防,也要考虑网络暴力治理与言论表达自由之间的平衡,确保监测预警机制的建立和运行符合相关法律法规。
王红霞:构建符合自身特点的网络暴力信息监测预警制度,网络信息服务提供者可以从以下方面着手:一是细化网络暴力信息分类标准规则;二是建立健全“两库”,即网络暴力信息特征库和典型案例样本库;三是充分利用好人工智能、大数据等技术手段,注重与人工审核相结合,有效提升识别、监测和预警能力;四是加强重点领域的管理和审核,如加强对网络直播、短视频等服务的内容审核、跟帖评论信息内容的管理,以及网络论坛社区和网络群组的管理;五是及时做好社会回应、用户提示,严格落实好报告、报警等要求。
法治网研究院:网络暴力事件的发酵,不少时候离不开“吃瓜群众”推波助澜的作用,甚至一些“吃瓜群众”在客观上成了网络暴力的“帮凶”。对于这些“吃瓜群众”,您有什么提醒?
谭佳怡:每个网民都应该认识到,网络不是法外之地,网络空间同样要受到法律监管。互联网的传播速度快、传播范围广,一些言辞一旦通过网络传播,短时间内就可掀起轩然大波,给社会、给他人造成十分严重的影响。“两高”在2013年已经下发了《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》,明确了相关诽谤、寻衅滋事、敲诈勒索、非法经营等行为的定罪量刑问题。
广大网民一方面需提高自身法律意识,另一方面面对网络事件应保持理性和克制,不轻信未经证实的信息,不传播不实言论,避免无意中成为网络暴力的“帮凶”。
王红霞:互联网不是法外之地,“吃瓜群众”要做到理性“吃瓜”,绝不能人云亦云、跟风炒作,这既是对他人人格权益的尊重,也是对自身合法权益的保护。
“吃瓜群众”应当牢记,法律明确禁止本人实施或组织他人实施“制作、复制、发布、传播涉网络暴力违法信息”的行为,以及“借网络暴力事件实施蹭炒热度、推广引流”的行为,还禁止“明知他人从事涉网络暴力信息违法犯罪活动的,为其提供数据、技术、流量、资金等支持和协助”的行为。同时,“吃瓜群众”还应当自觉“防范和抵制”以上法律禁止的行为。若违反了以上的禁止性规定,将可能承担行政处罚、民事赔偿及刑事责任等。
张凌寒:对于广大网民,我的提醒是:首先是冷静辨识、理性参与,不轻信、不传播未经证实的信息,不轻易被情绪化或极端化的言论所影响,避免无意中成为网络暴力的推手。
其次是尊重他人、严于律己,网络言论自由并不意味着可以无视他人的感受和权利,应当意识到自己不以为意的指责嘲讽、贬低歧视等不良信息都可能会成为刺向其他人的“利刃”。
最后是知法守法、传播正能量,要认识到网络不是法外之地,为自己的言行负责,在发现网络暴力行为时积极向平台或有关部门举报,在网络空间中传播积极、健康的内容,共同维护网络环境的清朗。
吴沈括:许多“吃瓜群众”将网络视为发泄情绪和缓解压力的平台,认为在虚拟身份的掩护下可以肆意发表观点,从而用恶意评论表达负面情绪。然而,这些人未意识到自己的行为可能成为网络暴力的帮凶,也可能基于“法不责众”的心理,认为即便参与网络暴力也不会受到法律制裁。对此,首先,提醒广大网民保持理性,避免因一时兴奋或好奇心而传播恶意不实信息。其次,在关注网络热点事件时,应审视自己言行对事件的影响,避免带入个人情绪或偏见。最后,建议学习并遵守相关道德规范和法律规定,不传播未经证实的消息,为网络环境的健康发展贡献积极力量。
专家简介
王红霞 北京互联网法院综合审判三庭一级法官
谭佳怡 上海市普陀区人民法院刑事审判庭副庭长、审判员
吴沈括 北京师范大学法学院博士生导师、互联网发展研究院院长助理
张凌寒 中国政法大学数据法治研究院教授、博士生导师
王四新 中国传媒大学人类命运共同体研究院副院长、博士生导师
马丽红 《法治日报》律师专家库成员、北京德和衡律师事务所高级合伙人
编辑|朱苗
审核|常畅