有图未必有真相 AI造谣要警惕
公安部网安局 2024-08-04 11:53

近年来,以大数据、人工智能(AI)等为代表的信息技术日新月异。与此同时,利用AI工具合成技术编造谣言,甚至生成逼近真实的图片、音视频,颠覆了“有图就有真相”的常规认知,让人难辨真假。网警带你了解AI工具造谣背后的真相!

【AI造谣的定义】

AI造谣指的是利用人工智能技术生成虚假信息,‌包括文字、‌图片、‌音视频等,‌以此来制造网络谣言。

【AI造谣典型案例】

案例一:利用AI软件编造

“山体滑坡致8人遇难”网络谣言

2024年1月23日,有网民在某平台发布文章称:“云南山体滑坡灾害 已致8人遇难”。经查,违法行为人杨某某为获取流量牟利,搜集网络上的相关信息后,利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息,并发布在网络平台上,造成不良社会影响。目前,公安机关已依法对杨某某进行行政处罚。

案例二:利用AI软件编造

“喜德县地震”网络谣言

2024年6月9日,有网民在某视频平台发布视频称:“5月27日,四川省凉山彝族自治州发生5.0级地震,震中位于喜德县,地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡,灾情严重”。经查,5月27日凉山发生5.0级地震,震中位于木里县,无人员伤亡,部分房屋受损,违法行为人罗某某为吸引眼球、获取流量,利用AI软件生成虚假地震灾情图片,并在某短视频平台散布不实信息。目前,公安机关已依法对罗某某进行行政处罚。

案例三:利用AI软件编造

“女子电动车被扣后猝死”网络谣言

2024年6月,某网络平台出现一条关于“执法与人性的碰撞:五旬妇女电动车被查扣猝死”的消息。该文章称:“澄城县一妇女为了照顾病重的父亲匆忙赶路,却遇到交警执法,在哀求无果、电动车被扣后,情绪瞬间崩溃,心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注,给当地造成极大的负面影响。经调查,田某利用AI工具,加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前,田某对自己通过AI软件编造谣言的情况供认不讳,公安机关依法对田某处以行政处罚。

以上案例均是通过AI软件合成的不实信息,不法分子‌为了赚取平台奖励或吸引流量,‌使用AI软件自动生成文章,‌并与实际图片进行嫁接,‌发布在网络平台上,‌造成不良社会影响,严重扰乱社会公共秩序。

编辑/王朝

相关阅读
想快速致富却被骗197万 投资指导实为电诈团伙工具人
央视新闻客户端 2024-10-22
声称能操控“摇号”入学?警惕“择校”骗局
央视网 2024-09-22
新疆伽师公安联合开展节前月饼安全专项检查
法治日报 2024-09-15
贷款不成反被骗!警惕“贷款”骗局
法治号 2024-09-03
网传“网红失踪,人身安全受威胁”系谣言
公安部网安局 2024-08-03
警惕!骗子披着“志愿者马甲”进村专门套取留守老人信息
央视新闻客户端 2024-08-03
持续16年!新疆叶城交警“迎来送往”万余公里 守护孩子们的求学之路
法治日报 2024-07-06
警惕“快递中奖”骗局 涉案资金上亿元超千人被骗
央视财经 2024-06-23
最新评论