9月10日上午，北京互联网法院召开涉人工智能案件审理情况新闻发布会。北京青年报记者在发布会上获悉，当前涉人工智能案件增长较快，纠纷类型也日益复杂化和多元化。同时涉人工智能案件不再局限于互联网行业，而是向文娱、金融、广告营销等传统产业领域广泛渗透。发布会上公布的8起相关典型案例中，不乏个别商家为营销，利用AI模拟名人声音从而误导消费者的现象；还有利用AI将微信群友照片恶搞成各种低俗画面，被当事人起诉的情况。
北京互联网法院副院长赵长新表示，当技术应用与人格权益发生冲突时，数字时代的司法应当优先维护个人的人格尊严，在个案中准确界定人格权的内涵与外延，筑牢数字化人格权益保护防线。
数据：涉人工智能案件增长较快 覆盖产业领域持续扩展
北京互联网法院副院长赵长新介绍，北京互联网法院集中管辖北京市辖区内应当由基层人民法院审理的11类特定类型的涉互联网一审民事、行政案件。成立七年来，该院共受理各类案件253356件，审结245468件。其中，涉人工智能案件增长较快，纠纷类型也日益复杂化和多元化，主要涉及著作权权属、侵权、网络侵权责任、网络服务合同等案由。
赵长新表示，随着人工智能赋能千行百业，涉人工智能案件不再局限于互联网行业，而是向文娱、金融、广告营销等传统产业领域广泛渗透，新兴与传统场景复合、技术交叉、利益交织，司法裁判对于市场行为的示范引领作用不断增强。
“应用人工智能技术的产品和服务快速出新，AI幻觉、算法黑箱等问题的不确定性可能使模型开发者、服务提供者和用户等市场主体面临新型、复合性法律风险。”赵长新表示，司法需有效识别技术运作逻辑与市场行为本质，在裁判中确立与技术发展相适应的责任框架，为市场主体明确创新行为的法律预期，激励市场主体守正创新。
他认为，涉人工智能案件司法裁判不仅是对个案技术与法律层面的裁判，更承载着对科技伦理、创新激励与权益保护进行平衡的价值引导功能，深刻影响着技术发展方向与社会伦理规范的形成。
有商家为营销利用AI模拟名人声音“带货” 误导消费者
发布会上，公布了8起典型案例，有些企业为了促销，AI模拟名人声音“带货”，消费者难以辨别真假，被当事人告上法庭。
据介绍，李某某在教育、育儿领域具有一定知名度和社会影响力。2024年，李某某发现某文化传媒有限公司在其运营的某网络平台店铺中，通过使用自己的公开演讲、授课视频，并配以与声音高度近似的AI合成声音，对其销售多本的家庭教育类图书进行宣传推介。
李某某认为该公司未经许可使用自己的肖像和通过AI合成的声音制作宣传产品，利用自己人格形象、专业背景和社会影响力吸引关注，从而误导消费者，增加交易机会，该行为严重侵犯自己的肖像权和声音权。同时认为该公司作为图书销售者，与视频发布者（某带货主播）之间为委托关系，共同完成销售活动，公司对主播发布的视频具有审查义务和能力，对涉案视频的发布应当承担赔礼道歉、赔偿损失等侵权责任。
北京互联网法院经审理认为，涉案视频使用李某某的肖像以及AI合成声音，与李某某本人的声音在音色、语调、发音风格上具有高度一致性，结合李某某在教育、育儿领域的知名度，涉案视频对家庭教育类书籍进行宣传推介，更易使观看涉案视频的公众将视频中的相关内容与李某某之间建立联系。涉案推介视频在未经过当事人授权下大幅使用李某某肖像、合成模拟声音，是对李某某肖像权和声音权益的侵犯。
同时，某文化传媒有限公司与视频发布者（某带货主播）依照平台规则和服务相关约定达成委托推广关系，共同为了推介该公司书籍的目的发布涉案视频、获取相应收益，且公司基于平台规则和管理权限，具备对涉案视频进行审核管理的能力，但在案证据表明该公司未尽到其应有审查注意义务，故该公司应与视频发布者就侵权视频发布承担连带责任。
最终，北京互联网法院判决文化传媒公司向李某某赔礼道歉、赔偿经济损失及维权合理支出，驳回李某某其他诉讼请求。宣判后，双方均未提起上诉，该判决已生效。
北京互联网法院副院长孙铭溪表示，随着生成式人工智能技术的迅猛发展，名人声音被“克隆”冒用越来越真假难辨，造成声音侵权现象泛滥，消费者极易被误导。该案明确，利用AI深度合成技术合成的自然人声音，只要能够使一般社会公众或相关领域公众根据其音色、语调、发音风格等识别出特定自然人，即具有可识别性，应纳入该自然人声音权益的保护范围。同时，在商家委托视频发布者带货的法律关系中，作为委托方和实际获益者的平台商家，对其关联带货达人发布的推广内容负有合理审查义务，商家不能仅以“被动合作”“未参与制作”为由免责，未尽到审核注意义务的，需与带货达人承担连带责任，进而为规范电商推广行为、压实商家主体责任、治理AI“声替”乱象提供规范指引，推动人工智能与深度合成技术向上向善发展。
AI恶搞微信群友形象照群发后还私信 法院：公开道歉并赔偿
AI普及化的今天，大部分人都会选用AI拍下家人、朋友甚至宠物的画面进行AI合成改造，融入一些奇思妙想的元素。北青报记者注意到，典型案例中除了侵犯肖像权、著作权、声音权益外，还有一起“AI恶搞”案。
据介绍，程某与孙某同为摄影交流微信群成员，孙某未经程某同意，使用AI软件将程某用作微信头像的肖像照片生成衣着暴露的动漫风格图片，并发送至该摄影交流微信群内，后程某多次制止，孙某仍继续使用涉案AI软件将程某的上述微信头像肖像照片AI生成衣着暴露且身体畸形的动漫风格图片并微信私信对方。
程某认为孙某群发和私信的上述被诉侵权图片，能够识别出为程某本人形象，且图片带有严重的性暗示和丑化性质，使得自身社会评价降低，构成对自己肖像权、名誉权及一般人格权的侵害。程某据此要求孙某赔礼道歉，并赔偿精神损失和经济损失。
法院经审理认为，孙某发布于微信群内的被诉侵权图片系擅自利用程某微信头像肖像照片AI生成，与程某微信头像肖像照片所呈现的自然人外部形象在脸型、姿势、造型等方面均具有高度的对应关系，微信群成员能够通过上述人物体貌及群聊的前后语境识别出被诉侵权图片的人物外部形象所对应的主体为程某，因此孙某的群发行为构成对原告肖像权的侵害。另外，程某通过微信头像展示的个人肖像照片是其网络虚拟身份的标识，孙某利用AI软件生成的上述被诉侵权图片将程某穿着得体的微信头像肖像照片生成为胸部暴露的图片，引发了微信群内针对程某的不当讨论，客观上导致了他人对其的低俗化评价，构成对程某肖像权、名誉权的侵害。此外，孙某利用AI软件将程某微信头像肖像照片生成人物腿部为木头状，甚至存在三只手臂的图片，图片中的人物体型明显不符合人类基本身体结构，亦将人物的胸部进行了暴露展示，将上述图片私信程某，势必会造成其心理屈辱，侵害了对方的人格尊严，构成对程某一般人格权的侵害。
最终，法院判决孙某向程某公开赔礼道歉，赔偿精神损失。宣判后，双方均未提起上诉，该判决已生效。
孙铭溪表示，该案中，法院认定行为人未经许可利用AI软件恶搞、丑化他人肖像构成对他人人格权的侵害，强调生成式人工智能技术的使用者应当遵守法律、行政法规，尊重社会公德和伦理道德，尊重他人合法权益，不得危害他人身心健康，明确了普通网络用户使用生成式人工智能技术的行为边界，对人工智能时代下加强自然人人格权保护具有典型意义。
北京互联网法院：司法机关要加强人工智能监管协同合作 形成监管合力
赵长新介绍，北京互联网法院坚持以裁判树规则、促治理、助发展，依法妥善审理人工智能案件，推动司法理念的守正与创新，确保人工智能技术向上、向善。
赵长新表示，结合案件审理中发现的类案问题，北京互联网法院对预防化解涉人工智能案件纠纷提出四点建议，对于网络用户而言，要提升法律意识与数字素养，明确自身行为边界，依法维护自身合法权益。人工智能技术开发者更应严格遵守技术伦理规范，确保数据和基础模型来源合法。人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务，积极完善管理机制，强化人工智能服务提供者主体责任。司法机关及时将案件审理中的问题反馈网信、工信、公安、市场监管、知识产权等相关部门，加强人工智能监管协同合作，形成监管合力。
文/北京青年报记者 王浩雄
编辑/汪浩舟
