9月2日，抖音电商安全与信任中心发布了关于加强治理AI内容滥用的公告。公告称，少数商家和达人滥用AI技术生成虚假内容，误导消费者购买商品，损害用户权益。典型案例包括仿冒名人声音带货、生成与现实不符的商品虚假宣传、篡改新闻视频推销无关商品，以及未声明AI生成内容。平台已对违规视频和账号采取下架、清退等措施，并强调AI应用必须合规，任何误用、滥用行为将被严厉打击。

根据公告，典型的违规行为包括，少数商家利用AI生成虚假商品展示和夸大宣传，误导消费者下单，造成财产损失；创作者通过AI合成虚拟人物，冒充名人或特定专业身份进行带货，损害用户信任；部分视频中出现AI生成的虚构测评与体验，制造虚假口碑，影响消费者理性判断；还有创作者未按规定声明AI生成内容。

例如，部分账号合成知名运动员亲属的声音，以“家里要盖新房”为文案博取流量，并在视频中挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接，误导消费者购买。另有创作者利用AI展示不符合农业常识的丰收场景，夸大种苗产量，以此吸引用户下单。此外，还有创作者用AI更改地方新闻报道画面，与所售商品毫无关联，却在视频中推销润肤露等产品。

针对上述行为，平台已及时采取治理措施，并重申相关合规要求。抖音电商明确，发布AI生成内容必须自主声明，不得利用AI生成误导性人物或事物视频，也不得发布与商品无关的虚假素材。

平台方面表示，人工智能应用需在合规前提下合理使用，任何滥用、误用导致消费者权益受损的行为都将受到严格治理。下一步，该平台将持续强化风险识别能力，推动人工智能技术合规应用，维护消费者合法权益，保障良好的电商交易环境。

文/北京青年报记者 温婧
编辑/张丽