充斥直播间带货的AI张文宏，气得真人张文宏想报警。不少网友反映，疑似知名医生张文宏在直播间售卖一种蛋白棒，家中老人信以为真、大量下单。就AI合成的带货视频，张文宏本人回应：假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞来的蝗虫一样害人；除了向平台方投诉，也曾考虑报案，但对方账号不断变化，像幽灵一般难以描述，只能寄希望于相关部门加强监管。

口型对得上，音色独一份，带货画面是动态的，产品介绍是娓娓道来的……在许多老年网友乃至年轻网友的眼中，张文宏带货的一幕是那么真实生动。其实在AI的操控下，伪造这样一个能说会道的张文宏，简直易如反掌。有业内团队介绍，只要提供一段约1分钟的当事人相关视频，就能做到面部特征抓取及音色模仿学习，生成相似度较高、质量较好的模型。依靠换脸技术，素人主播摇身一变成了张文宏；借助张文宏医生的知名度，原本不好卖的食品、保健品、垃圾产品顿时销量大增。

消费者因为信张文宏医生而买，张文宏医生的形象和公信力却被“AI张”卖了。不良商家冒充张文宏直播带货，涉嫌侵犯张文宏的肖像权、姓名权、名誉权，张文宏如果依法维权，漫长的时间、巨大的精力，对忙着争分夺秒治病救人的大夫而言简直不可能。此外，换脸名人带货还严重侵犯消费者知情权，涉嫌虚假宣传和诈骗。销售主播的脸都是假的，其大肆宣传的产品功效又能有几分保真？

如果说一个个AI张文宏像蝗虫一样害人，那更多的名人换脸则像蝗灾一样可怕。在假张文宏割韭菜事件引发关注前，还有假靳东迷倒一众大妈、假马云推荐情商图书、假雷军辣评世间百态、假于东来一边自夸一边带货……有数据显示，2023年基于AI的深度伪造欺诈增长了3000％。究竟有多少人因不能鉴别真假，被实实在在地骗走了时间、精力、情感、金钱，恐怕已经无从统计。“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。”换脸名人的网络“蝗灾”泛滥至此，监管的“杀虫剂”可不能再舍不得喷洒了。

技术本身向来没有好坏，是使用技术的人有好有坏。近年来，我国颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规，就是为了严格监管AI的规范使用。然而，随着AI技术的飞速发展及其应用场景的日益广泛，变脸名人的账号多而分散，虚假直播时间并不固定，运营者寻找着网络平台的隐蔽角落、惯于打一枪换一个地方，无不给监管带来了难度。不法分子能用AI仿冒名人来骗人，难道各平台就不能用AI来监测防范？是不愿，还是不能？监管部门要进一步明确界定AI合成的责任归属，督促网络平台的落实管理义务，同时不断提高技术识别能力、监管打击水平，实现对AI技术的向善指引。

AI不是幽灵，更不能成为游离在监管之外的幽灵。网友固然要提高警惕，但净化网络环境，不能全靠网友“火眼金睛”。

文/辛音

编辑/姬源