24小时直播、全年无休，还能和观众互动的AI主播，购买使用后却被平台判定违规，可以要求退货吗?

近日，深圳市南山区人民法院发布一相关案例。

案情简介

采购数字人克隆系统直播 使用过程问题颇多

根据公开案情，2023年12月，A公司与B公司签订了一份关于“数字人克隆系统”合同，约定A公司以2.8万元的价格向B公司购买一套数字人克隆系统用于直播，该系统将使用A公司的商标名称，合同有效期为一年。

合同约定，B公司仅提供数字人克隆系统和技术维护升级等，该数字人克隆系统不是直播产品或直播技术，如A公司后期在各大平台直播的过程中出现封号或违规的情况，由此导致的所有后果及损失与B公司无关。

合同签订后，A公司支付2.8万元货款，B公司将该系统安装到A公司的计算机上。然而，A公司在实际使用过程中发现，仅使用该系统进行数字人直播的，极易被平台判定为录播、低频互动等违规行为从而导致禁播，且该系统存在使用不流畅、效果不佳等情况。

双方后续就安装、调试和测试涉案软件等事项多次沟通，但A公司认为B公司多次远程操纵后该系统仍然无法正常使用，且该系统并未依照合同要求使用A公司商标，也未提供不联网的使用方法，A公司遂诉至深圳市南山区人民法院，请求判令与B公司解除合同，并返还合同款。

本案系买卖合同纠纷，A公司与B公司签订的采购合同系双方当事人的真实意思表示，内容不违反法律、行政法规的强制性规定，合法有效，双方均应全面遵照履行。

法院审理

A公司直播过程中出现违规 B公司均不负责

根据法院审理，A公司向B公司采购的数字人克隆系统，实际为使用声音驱动人物口型技术软件配合事先录制的真人视频，供平台直播或者配合直播使用。B公司已向A公司交付该数字人克隆系统软件，并通过远程操控帮助A公司进行安装、测试。A公司后续在使用过程中发现，使用该系统进行数字人直播时会被平台判定违规，且系统本身存在任务推送不稳定、互动功能较差等问题，因而要求解除合同并退款。但双方合同中已明确约定，B公司提供的是技术系统而非直播产品，A公司在直播过程中出现封号和违规情况等，B公司均不负责。系统一旦完成交付，A公司不能以未实际使用或使用后效果不好为由，要求解除合同或退款。因此，A公司在后期直播过程中出现的封号和违规情况，与B公司无关。

关于A公司提出的定制系统未使用其商标及B公司未提供不联网(单机版)使用方法的问题，B公司此前已回复A公司商标可以自行更换，并已发送不联网(单机版)的使用方法，且这些问题均可通过售后服务得到妥善解决。因此，该两项理由均不能成为A公司获得合同解除权并要求全额退款的正当理由。

综上，法院判决驳回A公司的全部诉讼请求。该判决已生效。

法官说法

使用数字人技术直播 需符合平台监管规则并在合理位置、区域进行显著标识

随着“数字人”技术的深入发展，声音驱动人物口型技术运用越发广泛，并为观众带来了前所未有的互动体验，但技术的更新迭代和创新设计必须在法律允许的范围内进行。“数字人”替代真人直播，不仅可能违反相关直播平台的监管规定，影响直播行业的健康发展，也可能带来深度伪造技术无序滥用等不良后果。

法官提醒，广大企业和个人在享受科技创新带来的便利时，要时刻保持警醒和理性。在签订相关合作协议时，双方当事人应当充分沟通、明确各自的权利与义务；在履行合同过程中，应当遵守诚实信用原则，全面履行合同约定的义务，避免陷入不必要的纠纷。同时，公司及个人使用深度合成的AI数字人技术配合或辅助直播时，应当符合直播平台相关监管规则，并在合理位置、区域进行显著标识，与自然人名义或形象进行明显区分，不得采用技术手段删除、篡改、隐匿区分AI数字人标识，不得使用数字人主播从事虚假宣传、诈骗等违法行为，以确保新兴技术合法合规使用，促进网络直播行业健康有序发展。

法条链接

《中华人民共和国民事诉讼法》

第六十七条　当事人对自己提出的主张，有责任提供证据。当事人及其诉讼代理人因客观原因不能自行收集的证据，或者人民法院认为审理案件需要的证据，人民法院应当调查收集。

人民法院应当按照法定程序，全面地、客观地审查核实证据。

文/吴灵珊 张琳岚 刘湘

编辑/倪家宁