上传一些自己的照片，AI小程序就可以制作“数字分身”，做出的写真照片妆容发型堪比照相馆几百上千元拍摄的效果……近日，一款名为妙鸭的AI换脸软件火了，北京青年报记者体验发现，花费9.9元，还要再排队等到4小时15分钟才能得到自己制作的照片。

不过，一些用户表示，“看到至少要上传21张自己各个角度的照片就停住了，不会隐私泄露了吧？”同时，该软件的用户条款由于“授予开发公司以任何形式使用上传的内容”而被质疑“霸王条款”。虽然目前条款已修改，但是关于用户隐私的担忧，依然存在。

上线短短几天爆火

付费制作需排队超4小时

7月24日，北青报记者进入“妙鸭小程序”尝试制作ai照片，进入小程序后记者点击“制作数字分身”，随后应用要求用户上传一张正面照与20张多个角度、表情的照片，北青报记者确认生成后应用跳转至公众号，只需付费9.9元小程序就开始制造照片了。所有操作完成后，小程序页面显示前面有2592人正在制作，预计需要4小时15分才能制作成功。此外，不少用户还表示在使用这款ai应用时被系统告知服务器被挤爆了。

小程序介绍称，妙鸭是一款依据AI能力再度“生成”同一人照片的AIGC类应用，很多用户表示这款软件出图效果“非常强大”。95后女孩小佳也是其中一名用户，她对北青报记者说：“这和我以前使用的换脸软件真的不一样，其他软件制作的图片感觉很假，一点也不像自己，但这款应用制作的照片和我平时出去拍的写真几乎没有区别！这个ai应用的出图效果挺让我意外的，里面还有很多不同风格的模板可以使用，现在的ai换脸技术真是越来越厉害了。”但也有用户表示：“把我变老了，有些模板比较奇怪。”还有的家长表示：“小男孩的模板太少了，男孩进去，女孩出来？这不科学。”

随着妙鸭相机的持续走红，一些“李鬼”也开始蹭流量，很多网友反映他们在应用商店中下载了假的妙鸭相机。对此，妙鸭相机也发布了打假声明称：“近期网上出现多个假冒妙鸭相机的产品，仿照‘妙鸭相机’官方渠道的账号、软件和小程序，给消费者造成严重的信息安全隐患，同时也侵害我司合法权益，目前我们已经就此展开相关法律维权工作。”

一次性至少要上传21张照片

这真的安全吗？

北青报记者测试发现，这款小程序需要用户至少上传21张个人照片，包括1张“五官清晰的正面照片”和20张“多光线、多背景、多视角、多表情”的半身照，总共需要21张照片。

“花9.9献上自己的信息？……”“我前天也试了一下，只是第二步让提交20张图的时候就停止了，不知道后面还要钱的呀？我觉得20张图太多了，有点不妥。”“虽然这个妙鸭相机的价格不贵，但是我可不敢轻易上传自己的照片给AI。”不少用户表示，使用这款小程序，最担心的就是自己的隐私安全问题，这么多照片，怎么储存、怎么使用、怎么处理？都待解决。

此前有用户发现，妙鸭小程序的用户协议中显示：“为了使我方能够提供、确保和改进本服务(包括但不限于使用AI生成内容作为再训练数据等)，并且仅根据适用的《隐私政策》，除了本条款授予我方的任何其他权利外，您特此授予我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容。此处我方的‘使用’是指使用、托管、存储、修改、交流、发布或任何我方认为合适的使用方式。在您通过本服务向我方平台提交您的上传内容之前，您将确保您有必要的权利来授予我方许可。”

网友“狗头学长“表示，最近他看见这个AI换脸小程序在朋友圈很火，但是看了一下里面的授权条款其实是霸王条款，用户点击授权后，这个授权条款就相当于将用户的人脸信息交给应用了，虽然这类条款可以主张无效，但数据泄露是不可逆的。网友“catto”也表示，用户花费9.9元上传的照片，很有可能被一些商家训练成数据集转卖了，这就意味着商家可以随意生成用户的成人照片甚至视频、3D建模，任意用用户的脸做广告、做视频，更可怕的是不法分子还可能会拿到用户的照片进行诈骗。

在受到用户质疑后，7月20号，妙鸭官方表示已修改用户协议：“已经收到用户关于妙鸭用户协议的反馈，原协议内容有误，我们第一时间根据妙鸭的实际情况进行了修改。并承诺，用户上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。”

虽然协议已更改，但部分网友还是表示对此有所担忧。用户“zzz”表示，妙鸭相机很好用，但是用完以后她还是不放心，于是申请注销账号了，生怕哪天她的隐私被泄露。此外，还有一些在内测期间、以及协议修改之前使用过该应用的用户也表示不满。用户“花无缺”对此表示质疑：“应用现在改了协议，那之前在协议未修改时上传的照片安全吗？难道之前数据收集过了，现在才改吗？该应用是否已将其照片泄露出去了？”。还有的用户则表示，如何保证“自动删除”？

AI换脸软件层出不穷

隐私问题一直受到诟病

除了妙鸭换脸应用外，换脸软件“ZAO”也曾一时风光，但也因用户协议存在巨大的法律风险而陷入舆论风波。据悉，此前ZAO的用户协议第6条第1款规定，在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予‘ZAO’及其关联公司以及‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利"。

知名互联网学者刘兴亮表示，ZAO不光借此免费获得了上传资料中所包含肖像信息的使用权和转授权，还将侵权的风险转嫁给了用户，虽然网络上关于面部信息可用于刷脸支付属于过度解读，但也说明大数据时代人们的隐私保护意识在不断增强。迫于舆论压力，如今“ZA0”的用户协议已经有了调整。但关于隐私的质疑，则并没有销声匿迹。

同一时期，同为换脸应用的45AI写真应用也获得巨大流量。不过，这款应用在上线三天后发布通知称，他们这两天优先开发了一个重要功能：用户删除档案功能，现已和其他功能更新一起上线。据悉，此款应用在上线第一天就明确表示：平台不拥有用户上传的素材图片、利用用户上传数据训练出来的模型以及该数据生成的数据的著作权和所有权，用户可以随时选择在系统上删除，上述信息不予留存。虽然在技术上不难实现这一功能，不过这一问题目前还没有严格的监管措施。

人工智能服务数据有法可依

不得非法留存输入信息和使用记录

北青报记者了解到，7月13日，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，其中提到，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务；提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录；提供者应当依法及时受理和处理个人关于删除等其个人信息等的请求。

国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

陕西泽诚律师事务所的赵腾飞律师称，国家互联网信息办公室、工业和信息化部、公安部、市场监管总局联合制定的《App违法违规收集使用个人信息行为认定方法》中，此类应用若过度收集用户信息问题，涉嫌违反必要原则。从妙鸭相机最初版本用户协议来看，用户授权之后会给APP方极大权限使用自己的肖像等人身信息。由于用户同意了这种授权，当此类应用将用户照片用于营利或者其他商用，将会损害使用者权益。对于类似过度要求授权无关信息等行为，可以向相关监管部门投诉举报。

赵律师也表示，妙鸭新协议相较原协议对用户信息及隐私有了一定的保护，但是需要运营商严格遵守，不能用作其他用途，同时要及时删除无关信息。如果运营商擅自使用，根据民法典人格权编的相关规定，构成侵犯他人肖像权。

【版权声明】本文著作权（含信息网络传播权）归属北京青年报社所有，未经授权不得转载

实习记者 张慧婧

文/北京青年报记者 温婧
编辑/樊宏伟