用“AI换脸”合成淫秽视频收费供他人观看 安徽一男子被公诉
北京青年报客户端 2023-04-09 11:11

用“AI换脸技术”合成淫秽视频,收费供他人观看,甚至根据顾客的需要使用不同的女明星形象进行“私人定制”。还通过出售“换脸软件”非法获利。4月9日,据杭州市人民检察院消息,近日,80后安徽男子虞某因涉嫌制作、传播淫秽物品牟利罪被提起公诉。

虞某称,早在2020年“AI换脸”刚刚开始兴起的时候,他就对该项技术产生了兴趣,甚至还专门在网上购买了换脸软件的教程并通过自学掌握了这门技术。“换脸”剪辑开始有热度后,他想到了在网上推广该项技术及相关的软件并从中获利,于是虞某在国外的社交平台上注册账号并建公开群,通过在其他公开群打广告、发链接等方式,吸引更多对“AI换脸”技术感兴趣的人到他本人所建的群里来。

但一段时间过去了,虞某的公开群却始终没有什么关注度。偶然的一次机会,虞某在该国外平台上看到有些人会在群里发布一些淫秽信息来吸引他人关注,就也动起了歪脑筋。

虞某先是将原本“换脸软件资源群”的群名更改为“女神试看群”,后又通过互联网下载了部分淫秽视频,截取片段后发布在该公开群中,吸引、招揽观看者加入,当观看者达到一定人数后,虞某会发布群消息称,进入“内部群”可以收看完整版。虞某称,他会在“内部群”里放一些清晰度更高、时长更长的淫秽视频,而观看者想要进入“内部群”则要缴纳198元-498元不等的“会费”。

除此之外,虞某表示,“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的,根据顾客的需要还可以使用不同的女明星的形象,进行“私人定制”。也有不少人因为看了这些视频后对换脸技术产生了兴趣,向其咨询如何购买换脸软件。

一面通过“吸粉引流”,收取会费;一面又通过出售“换脸软件”,频频获利。虞某原本毫无起色的“生意”一下子打开了局面,短短几个月的时间里就收获了数万元。

截至案发,公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张,经鉴定,上述均系淫秽物品。

2023年3月28日,萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。

案件目前正在法院审理中。

检察官提醒,近年来,“AI换脸技术”频频被一些犯罪分子盯上,随之而来的犯罪手段也是花样百出、层出不穷。除了女明星外,部分不法分子还将“AI换脸技术”使用在普通人身上,由此制造一些所谓的遭泄露的“私密照片”,对当事人实施敲诈勒索。即便只是用“AI换脸技术”来搞笑或者制作恶搞照片,也有可能涉及侵犯肖像权、名誉权,造成严重后果的,还可能构成侮辱罪或者诽谤罪。这不是开玩笑!希望大家依法使用该项技术,一旦遇到类似本案中利用AI技术实施犯罪行为的,应第一时间固定证据,并及时向司法机关报案。

文/北京青年报记者 李铁柱
编辑/王朝

相关阅读
“骗子来电,声音容貌和我家人一模一样” 记者调查AI换脸拟声技术使用乱象
法治日报 2024-08-16
用AI技术“换脸”,哪些底线不能碰?
人民网 2024-07-11
用一张照片就能骗走你的钱?拆解“AI换脸”诈骗套路
央视新闻客户端 2024-06-17
“AI造谣生意经”调查:用低成本工具快速创作 引流赚返款补贴
南方都市报 2024-05-13
“AI去衣”是否涉及刑责?北京海淀法院一审开庭审理使用“AI去衣”软件制作淫秽物品案
北京青年报客户端 2024-04-19
“只要能看到脸的都能换” 滥用“AI换脸”技术伪造女明星涉黄视频 法院判了!
央视新闻 2024-03-21
随着Sora等模型的开放和应用,AI换脸等技术的门槛持续降低
解放日报 2024-02-21
“AI换脸”,便利背后有风险
人民日报 2023-12-05
最新评论