整治网暴等网络不良行为乱象，需要行政监管、互联网平台、网民等多方主体共同参与。我们应该合力净化网络生态，营造积极健康、清朗有序的网络环境。

陈磊

首都经济贸易大学法学院诉讼与司法制度研究中心主任

这几天，网名为“春游哥哥”的汶川地震幸存女孩遭遇网络暴力一事持续发酵。她公开的私信记录显示，部分网友对其进行了言语侮辱及恶意骚扰。

近年来，网络在人们的生活中发挥着越来越大的作用。在给人们带来便利的同时，网络也带来了网络暴力这一让无数人闻之色变的“洪水猛兽”。随着网络暴力行为危害的加大，治理网络暴力愈发受到人们的关注。

3月28日上午，国务院新闻办公室举行新闻发布会。会上，国家互联网信息办公室有关负责人介绍了2023年“清朗”系列专项行动的相关情况，其中包括“清朗·网络戾气整治”这一与网络暴力治理有关的专项行动。

网络暴力的危害究竟有多大？如何更好地认定网络暴力行为？应该采取何种措施治理网络暴力？记者针对上述问题采访了有关专家。

网络暴力危害巨大

“一般来说，个人或群体有意识地通过网络传播攻击性言论，以针对某一明确的个人或团体反复、持续实施侵害的行为，就是网络暴力行为。”首都经济贸易大学法学院诉讼与司法制度研究中心主任陈磊指出，“网络暴力的侵害形式主要包括威胁、骚扰、侮辱和社会性孤立等，行为通常伴有侵犯他人名誉、披露他人隐私等。”

类似汶川地震幸存女孩遭遇的网络暴力事件并非孤例。近年来，刘学州事件、粉发女孩事件等均涉及网络暴力。这些事件造成了极其不良的后果，引起了社会的广泛关注。

其中的部分网暴受害者或陷入长期的消沉与自我怀疑，或成为抑郁症等严重心理疾病的受害者，有些甚至选择了结束自己的生命。

面对网络暴力带来的危害，科学认定、有效治理网络暴力势在必行。

在日前举行的新闻发布会上，国家互联网信息办公室有关负责人表示，近年来，国家网信办持续开展“清朗”系列专项行动，重拳整治包括网络暴力在内的网络生态突出问题，压紧压实网站平台主体责任，积极回应人民群众关心关切，有力维护了网民的合法权益。

其中，“清朗·网络戾气整治”专项行动主要从严管评论区信息内容，督促网站平台加强评论区管理等方面发力，努力铲除网络暴力等网络生态突出问题的滋生土壤。据了解，2022年开展的13项“清朗”系列专项行动，累计清理违法和不良信息5430余万条，处置账号680余万个，下架App、小程序2890余款，解散关闭群组、贴吧等26万个，关闭网站超过7300家，在治理网络暴力，尽可能地减轻甚至避免网络暴力带来的危害上取得了一定的成效。

人工智能助力认定网络暴力

要治理网络暴力，首先要准确、高效地认定网络暴力行为。

相对于传统语言暴力行为，网络暴力行为因为采用了虚拟化、模糊化的互联网语言而更加难以识别，其与正常的调侃、玩笑、戏谑等行为较难区分。与此同时，由于网络传播的特点，网络暴力的传播速度远远快于传统语言暴力，其传播范围也远远广于传统语言暴力。因此，仅仅采取传统的人工识别方式认定网络暴力，不仅费时费力、效率低下，而且容易因为识别者的主观原因出现误判甚至错判，总体效果不够令人满意。

“社交平台、短视频平台等公共网络空间，已经成为网络暴力行为的高发地。互联网因其虚拟化、零成本、低代价等特点，对网络暴力的产生起到了巨大的推波助澜作用，也给网络暴力的认定带来了极大的困难。”北京理工大学网络与安全研究所所长闫怀志表示，“在认定网络暴力行为上，人工智能技术可以发挥很大作用。”

据介绍，采用人工智能识别技术，能够有效地在公共网络空间中将各种恶意语言、图片、视频等网络暴力“源头”识别出来。这种识别基于人工智能技术的先进算法，相比于人工识别，具有更加高效、准确、客观等优势。

“人工智能技术对于遏制网暴的最大作用，在于其强大的自然语言理解能力。”闫怀志指出。针对评论、弹幕等典型的非结构化语言数据，人工智能可以利用情绪解析、文本观点提取、词法分析、文本相似度识别等技术，实现对网暴的全量、多维度、快速分析，并进一步在此基础上，弄清楚相关受众在看待相关话题时的想法、情绪与核心观点，从而阻断网暴传播链的环节，最大限度地降低网暴带来的负面影响和危害。

“必须指出的是，人工智能识别技术不能完全代替人工识别，应该把二者结合起来，发挥各自的优势，确保网络暴力行为的认定准确可靠。”闫怀志说。如果仅仅依靠人工智能识别技术，可能会因为其机械性、固定性等缺陷，造成一些令人啼笑皆非的认定错误，陷入过犹不及的境地。

双管齐下治理网络暴力

有效制止网络暴力行为，除了技术手段，还需要法律的参与。

网络平台可普及评论智能过滤、评论或私信动态关闭、识别屏蔽恶意用户等功能，有效遏制网络暴力问题。同时，还可以利用人工智能识别技术，在对评论进行大数据模型匹配和校验后，向违规发言者做出言论提醒，及时制止网络暴力行为。

记者了解到，针对网暴治理，国内多个网络平台正在展开行动。

北京爱奇艺科技有限公司有关人士向记者介绍，他们上线了私信防范网暴的功能，可以便利地使用一键举报网络暴力行为、关闭消息功能，以减少网络暴力内容对用户造成的负面影响。该公司还积极引导用户发布正向内容，对存在潜在网络暴力内容的信息做出提示，引导发布者进行善意的表达，助力营造健康的网络环境。

“网络暴力行为实施者依其行为的恶劣程度，可能要承担民事、行政和刑事责任。”陈磊指出。根据我国民法典的相关规定，网络暴力实施者造成他人损害的，应承担侵权责任；如果其行为较为恶劣或者情节较为严重，则需要承担相应的行政责任；如果其以肉体暴力或者其他极端方法进行网络暴力，情节特别严重的，就需要承担相应的刑事责任。

陈磊进一步指出，任何个人和组织使用网络都应当遵守宪法法律，遵循公共秩序和社会公德，不得利用网络从事侵害他人合法权益等活动。整治网络暴力等网络不良行为乱象，需要行政监管、互联网平台、网民等多方主体共同参与。我们应该合力净化网络生态，营造积极健康、清朗有序的网络环境。

文/李诏宇

供图/视觉中国

编辑/倪家宁