AI批量造谣来势汹汹,斩断利益链条刻不容缓
北京青年报客户端 2024-07-21 07:30

近期,多地公安机关发布了多起利用AI工具实施造谣的相关案件。上海市公安局城市轨道和公交总队发布警情通报:两名营销人员为博取关注造谣地铁站发生持刀伤人的情况,被上海警方依法处以行政拘留。其中一人使用AI软件生成视频技术,编造了地铁行凶的虚假视频等不实信息发布到网上,造成恶劣社会影响。

信息时代,各种资讯满天飞,有些事情本身就真假难辨,容易混淆视听。谣言往往具有传播速度快、影响范围广的特点,一旦形成规模,就会对社会秩序和社会稳定造成威胁。使用AI技术让造谣更加便捷和高效,并提升了谣言的数量级和传播力,进一步加剧了谣言的危害性。去年,上海发生一起女童走失事件,一个造谣团伙以“标题党”“震惊体”方式,恶意编造炒作“女孩父亲系继父”“女孩被带往温州”等系列谣言。该团伙利用AI工具等生成谣言内容,通过114个账号矩阵,在6天内发布268篇文章,多篇文章点击量超过100万次。

鉴于自媒体造谣严重伤害了网络生态,监管部门依法加大了对网络谣言的打击力度。今年4月,中央网信办部署在全国范围内开展为期两个月的“清朗·整治‘自媒体’无底线博流量”专项行动,整治的重点之一是“摆拍发布涉及国内外时事、社会民生等领域虚假事件信息。拼凑剪接网络视频图片,篡改事件发生的时间、地点、人物等要素,以假乱真欺骗公众”。

不得不说,目前网络造谣的成本还是太低了。据央视报道,江西南昌一家MCN机构使用AI技术,最高峰一天生成4000至7000篇谣言,最高的一条收入700元,初步估算每天收入1万元以上,但相关责任人仅仅被处以行政拘留5日。

《刑法》第291条规定:“编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。”据此,对网络造谣(及故意或恶意传谣)行为,除治安处罚外,情节严重的应追究刑事责任,切实提高其造谣成本,方能以儆效尤。

AI造谣呈现出门槛低、批量化、识别难等特点,亟待加强监管,斩断背后利益链条。线下的惩处力度固然要加强,线上的技术监管和追踪也要更新迭代。利用AI技术批量造谣往往涉及大量的网络活动和数据传输,相关部门应加强对网络空间的监管和追踪,及时发现和处置谣言信息。

对于涉及的网络平台,也应追究其监管责任。用技术解决技术,用魔法打败魔法,在大数据和新技术面前,识别利用AI炮制的垃圾信息,并没有那么困难。如果平台未能有效监管和清理谣言信息,应依法对其进行处罚,并责令其加强内容审核和管理。此外,网络平台、媒体机构等应加强自律,遵守法律法规,不传播未经证实的信息。各行业之间也应加强合作,共同打击利用AI批量造谣的行为。

“造谣一张嘴,辟谣跑断腿。”当前也亟须通过教育和宣传,帮助公众提高对谣言的识别能力,做到理性看待网络信息,避免被谣言误导。尤其是看到耸人听闻的信息时,不妨多留个心眼,让子弹再飞一会儿,切莫落入信息陷阱之中,甚至盲目跟风转发评论,有意无意助纣为虐。

文/胡欣红

图源/视觉中国

编辑/王涵

相关阅读
有图未必有真相 AI造谣要警惕
公安部网安局 2024-08-04
网传“女子电动车被查后猝死” 发布者利用AI工具编造谣言被行拘
央视新闻客户端 2024-07-24
AI让造谣更简单谣言更“科学”?记者调查AI谣言乱象
法治日报 2024-07-17
一品牌营销人员使用AI软件编造地铁行凶的虚假视频 被上海警方拘留
北京青年报客户端 2024-06-20
“一天造谣7000条”,人工智能技术不能这么用
工人日报 2024-06-19
有图未必是真相!揭开利用AI技术编造谣言真相
​央视新闻 2024-06-14
“AI造谣生意经”调查:用低成本工具快速创作 引流赚返款补贴
南方都市报 2024-05-13
无中生有蹭热点,面对“AI造谣”,警方如何治理?
法治日报 2024-04-27
最新评论