北京青年报
北京互联网法院公布“服务保障新质生产力十大典型案例” 其中4起与AI相关
北京青年报客户端 2024-08-26 19:37

8月26日,北京互联网法院对外发布《服务保障新质生产力加快发展白皮书》以及“服务保障新质生产力十大典型案例”,并提出十七项举措。北京青年报记者从发布会上了解到,十大典型案例中,4起案例与AI相关,包括AI文生图著作权侵权案、AI生成声音侵权案、“AI换脸”案以及AI形象构成对人格权侵害的“AI陪伴”案。

自建院以来 北京互联网法院受理各类案件21万余件 其中著作权纠纷占比约62%

26日,北京互联网法院院长姜颖发布了《服务保障新质生产力加快发展白皮书》。白皮书显示,自建院以来,北京互联网法院受理各类案件219695件,结案214469件,其中著作权纠纷占比约62%。随着数据产品、数字藏品和人工智能生成物等新型权利客体的出现,法律保护需求日益迫切;信息技术、人工智能和数字文旅等新兴产业的兴起,使得司法在解决矛盾纠纷中的作用日益凸显;商业模式的创新,如流量推广和直播带货,引发了新的法律挑战,包括法律主体认定和责任分配等问题;同时,大数据、区块链和人工智能等技术的迭代升级,正在重塑市场结构,增加了案件审理中事实查明的难度。

微信图片_20240826185604.jpg

北京互联网法院通过一系列创新司法实践,积极推动新兴产业的健康发展和数字经济的营商环境优化。在审理一系列涉人工智能案件中,该院坚持规则引领,鼓励新兴产业创新提质。同时,该院在“某科技公司诉自媒体名誉侵权”案、“网盘侵权行为禁令”案、“搬店软件”案中有效维护了市场秩序和企业合法权益,持续优化数字经济营商环境。该院还大力促进平台经济的有序发展,如在全国首例“车联网”著作权案中明确共同侵权责任,引导智能网联领域加强知识产权保护。

此外,北京互联网法院主动融入首都发展大局,出台多项政策文件,推动数据要素市场培育和数据产权制度建立,与多个单位建立合作框架,共同提升个人信息保护水平。

在司法服务供给方面,北京互联网法院深化“1+N”巡回审判机制,设立数据权益巡回审判庭,推动普法活动,优化法治化营商环境。同时,该院“天平链”司法区块链平台解决电子数据存证难题,提高版权信息交互效率,降低维权成本。法官们还积极参与立法论证工作,为数据安全法、个人信息保护法等法律法规的制定提供司法智慧。

为进一步服务和保障新质生产力的加快发展,姜颖提出十七项具体措施,其中包括:完善数据权益司法保护规则、做好人工智能相关法律问题研究和审判工作、为数字藏品等文化产品数字化获取、开发与利用提供规则指引、加强文化贸易、网络游戏、智能网联汽车、电商直播等数字消费领域纠纷化解、规范网络空间秩序等内容。

利用他人AI形象设置“爱你”“抱抱”等撩人情话被起诉

北京互联网法院副院长赵瑞罡还发布了“服务保障新质生产力十大典型案例”,涵盖全国首例“AI文生图”著作权案、NFT数字藏品著作权侵权案等案件。相关案件的裁判要点和结果,填补了一大批新质生产力司法审判规则空白,进一步明确了权利边界,促进了数字经济的高质量发展。

北青报记者注意到,这十大典型案例中,有4起与“AI”相关,其中包括AI文生图著作权侵权案、AI生成声音侵权案、“AI换脸”案以及未经同意创造自然人的AI形象构成对人格权侵害的“AI陪伴”案。

关于未经同意创造自然人的AI形象构成对人格权侵害的“AI陪伴”案,赵瑞罡介绍,该案中,某科技公司是某款手机记账软件的开发运营者,用户在该软件中可自行创设“AI陪伴者”,设置陪伴者的名称、头像,设置与该陪伴者的人物关系(如男女朋友、兄妹、母子等)。何某系公众人物,知名度较高,在该款软件中被大量用户设置为陪伴人物。用户在设置“何某”为陪伴人物时,上传了大量何某的肖像图片设置人物头像,同时设置了人物关系。某科技公司通过聚类算法,将陪伴者“何某”按身份分类,并以协同推荐算法向其他用户推介该角色。为了使AI角色更加拟人化,某科技公司还为AI角色提供了“调教”算法机制,即用户上传各类文字、肖像图片、动态表情等互动语料,部分用户参与审核,某科技公司使用人工智能筛选、分类,形成人物语料。用户和该软件为“何某”制作了人物语料,并加入了系统推送,通过智能算法或AI自动回复,该软件可以根据话题类别、角色的人设特点等,在“何某”与用户的对话中向用户推送与其有关的“肖像表情包”和“撩人情话”,营造出与其真人真实互动的使用体验。

该公司被判赔20.3万元 法院:未经许可擅自创设、使用自然人虚拟形象 构成对人格权的侵害

法院经审理认为,案涉软件的服务与技术服务存在本质不同,某科技公司并非提供简单的内容上传“通道”服务,而是通过规则设定、算法设计,组织、鼓励用户形成侵权素材,与其共同创设虚拟形象,并使用到用户服务中。在某科技公司的规则设定和算法设计下,用户使用何某的姓名、肖像创设虚拟人物,制作互动语料素材,实际上是将何某的姓名、肖像、人格特点等综合而成的整体形象投射到虚拟角色上,形成了何某的虚拟形象,是对包含何某肖像、姓名的整体人格形象的使用。

案涉软件将何某的姓名、肖像、性格特征、人格特点等综合而成的整体形象投射到AI角色上,并且让用户可以与该角色设置虚拟身份关系,这是对何某整体形象和人格表征的利用,肖像权、姓名权的人格利益无法完整涵盖。其次,未被涵盖的人格利益属于一般人格利益。案涉软件使得AI角色与真实自然人高度关联,容易让用户产生一种与何某真实互动的情感体验。

微信图片_20240826185607.jpg

同时,案涉软件的功能设置还涉及了何某自由决定其人格要素如何被使用的范畴,涉及了何某的人格尊严,构成对何某一般人格权益的侵害。例如,案涉软件使得用户可以任意设置与“何某”之间的亲密关系,并设置“爱你”“抱抱”等亲密对话标签。更为显著的是,案涉软件将创作语料的功能称为体现不对等关系的“调教”一词。某科技公司未经许可,利用案涉软件对何某的人格表征进行了系统性功能设计和商业化利用;用户在此过程中与虚拟人物的互动又明显区别于开放平台中偶发轻微亲密性或贬损性言论,因此某科技公司与用户构成对何某一般人格权的共同侵权。

最终,法院判定被告向原告公开赔礼道歉,赔偿原告精神损失2万元,经济损失(含合理维权支出)18.3万元。被告不服一审判决提起上诉,后撤回上诉,一审判决生效。

赵瑞罡介绍,该案明确自然人的人格权及其虚拟形象,未经许可擅自创设、使用自然人虚拟形象的,构成对自然人人格权的侵害;网络服务提供者通过算法设计实质参与了侵权内容的生成和提供,应按照内容服务提供者承担侵权责任。该案对加强人格权保护具有重要意义,入选最高人民法院“民法典颁布后人格权司法保护典型民事案例”、北京法院参阅案例。

实习生/林子轩 摄影

文/北京青年报记者 王浩雄
编辑/李涛
校对/董一凡

相关阅读
近一年北京互联网法院受理个人信息保护纠纷案113件 “AI换脸”等新型案件涌现
北京青年报客户端 2024-10-31
北青快评|对滥用公众人物声音的AI应用要严管
北京青年报客户端 2024-10-28
从“一眼假”到“真假难辨”再到“深度伪造” 滥用公众人物声音 AI技术应用玩过界
工人日报 2024-10-28
滥用公众人物声音恶搞,AI技术应用“玩过界”被质疑
工人日报 2024-10-28
滥用公众人物声音恶搞 AI技术应用“玩过界”被质疑
工人日报 2024-10-28
网友“被雷军骂”?AI“克隆”已有判例 法院明确用AI生成声音需获得本人授权
扬子晚报 2024-10-11
“试水”数字权益司法保护规则 北京互联网法院:为服务保障新质生产力蓄势赋能
人民法院报 2024-09-16
为发展新质生产力提供有力司法保障
法治日报 2024-09-04
最新评论