为应对AI合成技术滥用风险，规范电商直播行业秩序，12月4日，北京青年报记者获悉，近日，北京市消费者协会（以下简称“北京消协”）联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台，正式签订全国首份《促进AI技术规范应用承诺书》（以下简称《承诺书》），从技术标识、内容审核、责任追溯等环节建立企业自律规范，提出六大具体举措，划定AI技术应用“合规红线”，压实平台企业主体责任，切实维护消费者合法权益。

AI合成技术应用侵害消费者权益 三大问题凸显

近年来，AI数字人直播、虚拟场景带货等新技术应用快速普及，在提升消费体验的同时，部分商家的违规操作也引发消费者广泛担忧。北京消协历时3个月，通过问卷调研、体验式调查、专家研讨等方式开展专项调查，锁定三大突出问题。

一是消费者知情权保障不足。3162份有效问卷显示，近九成受访者呼吁AI生成内容需显著标识；超六成认为AI数字人“缺乏真情实感”，近三成担忧其误导消费决策，“真假难辨”成为普遍困扰。

二是合成技术滥用滋生虚假消费风险。针对10个AI数字人直播带货样本的体验调查发现，5个未标注“AI生成”等提示信息，5个未及时回应互动，6个未提示私下交易风险。此外，部分网络直播中存在利用公众信任谋取不当利益的情况，网信部门近期已处置一批利用AI换脸仿冒公众人物开展直播营销的账号。

三是平台审核机制存在短板。专家研讨指出，部分电商平台尚未建立AI内容审核专项制度，缺乏对AI数字人、虚拟场景技术的有效管理规则和精准识别能力，导致消费者难辨信息真伪，消费决策风险增加。

划定“红线”《承诺书》推出六大举措

北京青年报记者了解到，针对上述问题，北京消协推出的《承诺书》以“标识透明、审核严格、责任可溯”为核心，提出六大具体措施，为AI技术在电商领域的合规应用划定“红线”。

《承诺书》中要求平台及商家坚守法律底线，严格遵守《消费者权益保护法》《电子商务法》《人工智能生成合成内容标识办法》等法律法规，始终将保障消费者合法权益作为AI技术应用的首要前提。在标识管理方面，商家和内容创作者利用AI生成数字人主播、虚拟场景时，需在显著位置清晰标注“AI生成”“拟真场景”等提示信息，鼓励使用平台统一AI标识功能主动声明，同时严禁通过AI换脸技术仿冒名人明星带货。

内容审核与传播环节，平台应采用技术监测与人工复核相结合的方式，对直播内容、场景进行全面排查，一旦发现未标识的疑似AI相关内容，将及时补充显著提示，经平台研判，确认违规的，将采取屏蔽链接等处置措施阻断违规传播。为引导主动合规，平台将为商家及内容创作者提供便捷的AI标识工具和清晰操作指引，降低合规成本。针对标识造假行为，将坚决抵制恶意删除、篡改、伪造或隐匿AI内容标识的行为，对违规账号及内容依法依规严肃处理，维护制度公信力。同时，《承诺书》明确要将AI内容标识要求纳入平台治理体系，加强对商家及内容创作者的合规培训，全面提升行业AI技术合规应用水平。

北京消协表示，签订《承诺书》是规范工作的第一步，后续将持续跟踪网络 AI技术应用动态，通过志愿者体验购物、追踪反馈等方式督促企业落实承诺，同时开展多渠道消费教育活动，普及AI技术常识，提升消费者辨别能力与防范意识，凝聚多方力量构建“技术合规、平台履责、消费安心”的网络消费环境。

文/北京青年报记者 王薇
编辑/汪浩舟