抖音划定AI创作“禁区”,假外国人将被严打
北京青年报客户端 2024-03-26 18:42

3月26日,抖音安全中心发布不当利用AI生成虚拟人物的治理公告,指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

随着人工智能技术的迅猛发展,AI生成内容已越来越多出现在互联网上,然而对AI技术的不当使用也频频引起社会关注。根据公告,此次抖音将重点治理利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容:

一是生成境外虚假人设,消费爱国心理、博取关注。用虚假外国人的形象,以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

二是生成俊男美女虚假形象,骗取互动,交友导流。直接称用户为“你”“娘”“妈妈”“老公”等,发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容,将用户导流至私人聊天工具,甚至进行诈骗。

三是生成精英人士虚假人设,发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容,低质吸粉,甚至引流到站外以卖课、入群等方式获利。

值得注意的是,除了封号等常规处罚手段,抖音此次在公告中特别提到了“平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索,将报警打击。”这种严厉的措辞在抖音过往的公告中并不常见,显示抖音此次治理的力度或将相当大。

文/北京青年报记者 温婧
编辑/田野

相关阅读
抖音新规严打“假揭黑真牟利” 禁止违规蹭热不当获利
北京青年报客户端 2024-09-01
抖音新规严打“假揭黑真牟利” 禁止违规蹭热不当获利
中国新闻网 2024-08-28
抖音直播打击色情低俗黑色产业链彰显平台治理信心
北京青年报客户端 2024-06-03
抖音划定AI创作“禁区”:假外国人将被严打
财联社 2024-03-30
抖音:有账号不当使用AI技术 生成境外虚拟人设博取关注 平台进行严厉处置
北京青年报客户端 2024-03-27
抖音限时上线群聊玩法 还可拍摄“AI合照”
北京青年报客户端 2024-01-30
2023抖音治理不实信息报告:“打标”与“新规”成年度关键词,封禁1.9万个账号
北京青年报客户端 2024-01-19
抖音严打灰黑产“养号”,“AIGC造假”等六种新型违法违规行径将被严惩
北京青年报客户端 2023-12-19
最新评论