据中央人民广播电台报道,有网友向媒体反映,家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品,老人信以为真,不仅下了单还转发给了很多群。经核实,该视频中的“张文宏医生”不是张文宏本人,而是利用AI技术合成的。张文宏回应称,这样的卖货账号已出现多个,而且一直在变,他多次向平台投诉,但都收效甚微。
张文宏医生是家喻户晓的公众人物,在社会上具有很高的权威性和公信力。如网友所述,不少消费者看到“张文宏医生”在带货,出于对他的充分信任才下单购买,谁能想到,视频中侃侃而谈卖力推荐商品的“张文宏”其实是假的,是无良商家通过AI技术合成的。目前用语音合成来模仿他人声音,并且对上口型生成视频的技术已经十分成熟,甚至仅用一张照片就能生成此类视频。在这种情况下,一些对AI技术不甚了解的消费者,特别是一些老年人,确实很难分辨真假,很容易上当受骗。
随着智能时代的到来,AI带货渐成流行格式,一些人试图抓住这波行情,快速实现“泼天的富贵”。遗憾的是,一些人还没有抓稳这波行情,就开始走歪门邪道,利用AI技术合成张文宏来带货,就是其中之一例。无独有偶,近日广州互联网法院审结了一起由“AI换脸”视频合成模板引发的侵权纠纷,最终被侵权者获得了胜诉。
从法律的角度看,用AI技术合成公众人物并以此牟利,如此冒名顶替涉嫌虚假宣传、破坏名人肖像权等,难逃违法之嫌。从社会的角度看,如果这样的行为没有得到应有的惩戒,可能带来一定的从众效应,形成劣币驱逐良币的局面。
整治AI冒充名人实施带货、诈骗等行为,势在必行。这方面,制度规定也在不断完善。2022年11月,国家网信办、工信部、公安部颁行《互联网信息服务深度合成管理规定》,其中明确了深度合成技术的使用规范,规定不得利用深度合成服务侵犯他人合法权益,等等。然而,相关规定执行中出现了一些复杂的情况,如救济维权包括诉讼渠道不够顺畅,一些平台机制不完善、治理不给力,客观上让一些不法分子有机可乘,甚至有恃无恐。这些现实的短板亟待弥补。
AI冒充名人事件屡禁不止,监管亟待全面升级。平台须依法承担治理责任,尽心尽力当好守门人角色,不能对类似的行为疏于监管,更不能有意无意包庇纵容。对监管部门来说,不能指望单靠平台的自觉就能实现全面严格的治理,而应通过严厉的监管措施,向平台施加应有的压力,使之不敢麻痹大意。同时,监管部门、平台和有关方面应加强联动,积极升级技术防范与人工防范,并畅通投诉举报机制,简化诉讼流程,让被侵权者能更方便地维护自身合法权益。每个消费者也应提高网络素养,在各种消费场景中都要提升甄别意识,避免一不小心被“AI骗子”割韭菜。
张文宏“被AI带货”不是孤例,负面影响极大,也敲响了加强监管完善治理的警钟。只有监管实现全覆盖,不断提高综合治理水平,才能依法遏制公众人物“被AI”乱象,让网络空间更加风清气正。
文/南朔
图源/视觉中国
编辑/王涵