北京青年报
治理网络暴力需要更多技术响应
工人日报 2023-07-12 07:15

7月7日,国家互联网信息办公室起草了《网络暴力信息治理规定(征求意见稿)》。7月8日新华网的报道显示,近年来,各大互联网平台上的网暴现象明显增多,而发动网暴、跟风讨伐的成本较低,导致用户发布攻击内容较多。

毫无疑问,公众苦网暴久矣。近年来,网暴引发的悲剧不少,其中,有的是个人、自媒体账号或组织为了流量等利益刻意为之,有的是人们在不以为意状态下攻击他人形成的规模效应,还有的是“法不责众”心理驱使下的跟风讨伐、地域黑、群体黑等。

每一起网暴事件,看起来似乎都是“新闻上的故事”,但它其实离我们很近,不少人甚至也曾在有意或无意中充当了导致“雪崩”发生的“一片片雪花”。

治理网暴,现在已有民法典、刑法、治安管理处罚法、网络安全法、个人信息保护法等一系列法律,也有《互联网信息服务管理办法》《电信条例》等行政法规。上个月,最高法、最高检、公安部还联合出台《关于依法惩治网络暴力违法犯罪的指导意见(征求意见稿)》。这些规定和要求的重点大多是在末端治理,即网暴发生后如何规制和救济。现实中,追责的难度依然较大,比如定性难——侮辱、诽谤的认定标准,受害与网暴的关联性,精神伤害程度认定,等等。

在此背景下,此番国家网信办的征求意见稿主要聚焦平台方的作为、责任和义务,更加强调源头治理和过程治理。这也意味着,源头治理+过程治理+末端治理,形成了更完整的治理链条,织密了治理之网,其效果值得期待。

网暴发生在网络空间,网络平台是技术和服务的提供方,离网暴最近,有技术能力去对网暴进行监测预警、发现识别和及时处置,这也是平台应承担的社会责任和法律责任。

近年来,有关平台也为此做了一些技术尝试。比如,跟帖留言显示用户IP地址所在省、评论框设置友善发言提示、为遭受网暴的受害者提供便捷求助渠道,等等。要有效遏制网暴,平台还应在技术响应上多一些探索。比如,一些直播平台对诸如“斗狠PK”“打色情擦边球”等涉嫌违法违规的主播或内容进行断播、封号,采用的技术多为“机审+人工巡检”,即通过“热度阈值”“以图比图”“声纹识别转文字”等,及时发现异常情况并介入处置。在治理网暴上,此类技术也应该派上用场。上述征求意见稿明确指出,平台应当建立健全网络暴力信息分类标准和典型案例样本库,区分舆论监督和善意批评,增强识别准确性;应当建立健全网络暴力信息预警模型,及时发现预警网络暴力风险等,这对平台提出了现实又迫切的要求。

网暴是一场没有旁观者、没有局外人的精神霸凌,遏制网暴的一招一式,关乎整个互联网的秩序,也关乎每一个人的权益甚至安危。平台多一些技术响应,网暴治理才有望取得更大成效。施暴者的一个点赞、一条评论,都可能成为一把插向他人心头的利刃——这必须成为过去式!

文/吴迪

编辑/倪家宁

最新评论