抖音划定AI创作“禁区”:假外国人将被严打
财联社 2024-03-30 09:30

抖音安全中心日前发布不当利用AI生成虚拟人物的治理公告,指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

抖音关于不当利用AI生成虚拟人物的治理公告

去年,抖音发布《关于人工智能生成内容的平台规范暨行业倡议》,明确平台不鼓励利用AI生成虚拟人物进行低质创作,将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

近期平台发现,站内仍有不当使用AI技术生成虚拟人物发布内容的账号,平台进行了严厉处置。

其中典型行为包括:

1、生成境外虚假人设,消费爱国心理、博取关注。用虚假外国人的形象,以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

2、生成俊男美女虚假形象,骗取互动,交友导流。直接称用户为“你”“娘”“妈妈”“老公”等,发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容,将用户导流至私人聊天工具,甚至进行诈骗。

3、生成精英人士虚假人设,发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容,低质吸粉,甚至引流到站外以卖课、入群等方式获利。

针对违规使用AI生成虚拟人物的行为,平台会对违规视频下架,对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置,并利用模型、技术识别能力等手段,进行长期系统的识别发现和处置。同时,平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索,将报警打击。

人工智能技术的快速发展,丰富了互联网内容生态,但也带来技术滥用的挑战。平台重申,创作者、主播、用户、商家、广告主等平台生态参与者,在抖音应用生成式人工智能技术时,须遵循以下规范:

1、发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景。

2、发布者需对人工智能生成内容产生的相应后果负责,无论内容是如何生成的。

3、虚拟人需在平台进行注册,虚拟人技术使用者需实名认证。

4、禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等。一经发现,平台将严格处罚。

5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现,平台将严格处罚。

治理违规内容是抖音的长期工作,平台号召广大用户共同监督,如发现不当使用人工智能生成内容的情况,可以在站内举报或发送详情至举报邮箱:feedback@douyin.com,平台将在第一时间核实处理。

抖音安全中心

2024年3月27日

编辑/范辉

相关阅读
北京互联网法院公布“服务保障新质生产力十大典型案例” 其中4起与AI相关
北京青年报客户端 2024-08-26
新知|能否取代真人?虚拟主播再掀波澜
北京青年报客户端 2024-07-11
门头沟大峪中学成立AI应用场景实践中心 英语特级教师3D虚拟人亮相
北京青年报客户端 2024-05-11
抖音:有账号不当使用AI技术 生成境外虚拟人设博取关注 平台进行严厉处置
北京青年报客户端 2024-03-27
抖音划定AI创作“禁区”,假外国人将被严打
北京青年报客户端 2024-03-26
情感AI“哄哄”出圈,研发者说:真诚远胜技巧、词汇和套路
澎湃新闻 2024-02-09
抖音严打灰黑产“养号”,“AIGC造假”等六种新型违法违规行径将被严惩
北京青年报客户端 2023-12-19
国内首个教育大模型“子曰”通过备案
北京青年报客户端 2023-11-06
最新评论