网信办、工信部、公安部去年11月联合发布的《互联网信息服务深度合成管理规定》自2023年1月10日起施行。这是我国首部专门针对人工智能特定技术制定的部门规章，旨在加强互联网信息服务深度合成的管理，具有示范效应，意义重大。

依法对深度合成服务使用者进行真实身份信息认证

据网信办介绍，深度合成服务在满足用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。出台《规定》，能够划定深度合成服务的“底线”和“红线”，维护网络空间良好生态。

北青报记者注意到，其中一条规定，深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

另外，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。

网信办在对该《规定》解读时提到，本次对深度合成服务提供者主体责任进行了明确规定。一是不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事法律、行政法规禁止的活动。二是建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。三是制定和公开管理规则、平台公约，完善服务协议，落实真实身份信息认证制度。四是加强深度合成内容管理，采取技术或者人工方式对输入数据和合成结果进行审核，建立健全用于识别违法和不良信息的特征库，记录并留存相关网络日志。五是建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。

瑞莱智慧AI治理研究院副院长张伟强表示，近年来，深度合成技术被滥用现象逐步显现。以舆论影响为切口，其影响力逐步扩大到国家安全、社会安全、军事安全，以及公众名誉安全、财产安全等领域，引发各界关注。例如，深度伪造政治人物、军事将领音视频，引发政治风波、涣散军心民心；深度伪造专家学者音视频，造成公共卫生、金融财经等领域的社会恐慌；深度伪造个人不雅音视频实施敲诈勒索，或采用表情驱动方式破解活体验证盗取公众财物。

早在2019年，国家网信办就印发《网络信息内容生态治理规定》，提出相关主体“不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动”；并在与文旅部、广电总局联合印发的《网络音视频信息服务管理规定》中，针对音视频信息服务做出类似规定。两份法规提及的新技术、新应用，实际上就是指深度合成技术应用。随着该技术应用的影响力逐步扩大，此次专门制定法规予以规范，对维护国家安全和社会公共利益，保护公民、法人和其他组织合法权益都非常及时、必要。

人脸、人声识别应当告知并取得被编辑的个人同意

其中还提到，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

同时，深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。

深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。

深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。

网信办表示，《规定》明确，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照服务提供者履行备案和变更、注销备案手续。完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

本次发布的规定还明确了深度合成服务提供者和技术支持者的数据和技术管理规范：一是加强训练数据管理。采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定；提供人脸、人声等生物识别信息显著编辑功能的，应当提示使用者依法告知被编辑的个人，并取得其单独同意。二是加强技术管理。定期审核、评估、验证生成合成类算法机制机理；提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估。

张伟强表示，本次规定形成监管机制、技术治理两个闭环，管理举措科学务实。

一是监管机制闭环：压实服务提供者主体责任。《规定》对三种角色提出管理要求：深度合成服务提供者、技术支持者和服务使用者。其中，服务提供者承担主体责任。一是建章立制，要求建立健全服务前(如用户注册、科技伦理审查等)、服务中(如数据安全、个信保护等)、服务后(如应急处置、辟谣等)的全流程管理制度，并公开相关规则、公约。二是认证备案，要求做好使用者真实身份认证、违法和不良信息记录保存、依照算法管理规定开展算法备案。三是审查审核，要求开展科技伦理审查、输入数据和合成结果审核、信息发布审核等。四是辟谣举报，通过建立辟谣机制、提供举报入口，给深合技术滥用受害者提供救济通道。

二是技术治理闭环：注重源头治理、过程管理、安全评估和用户感受。从技术视角看，《规定》一是注重源头治理，要求加强训练数据管理和个人信息保护。尤其是涉及人脸、人声等个人生物信息时，必须依法取得单独同意，这延续了上位法《个人信息保护法》的相关要求。二是注重过程管理，要求对算法机制机理进行审核，尤其要求开展定期审核、评估和验证，这符合人工智能技术持续演进、变化的客观规律。此外，还要求建立积累用于识别违法和不良信息的特征库。三是注重安全评估，凡涉及生物识别信息以及特殊物体、场景等非生物识别信息的，应当自行或委托专业机构开展安全评估。四是注重用户感受，强调因治理需要添加的标识应不影响用户使用。

深度合成可能导致公众混淆或者误认的 应进行显著标识

《规定》提到，深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；（四）沉浸式拟真场景等生成或者编辑服务；（五）其他具有生成或者显著改变信息内容功能的服务。

深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。

网信办表示，《规定》明确了深度合成服务提供者的标识要求：一是深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依法依规保存日志信息。二是提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况，避免公众混淆或者误认；提供非上述深度合成服务的，应当提供显著标识功能，并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

张伟强表示，《规定》作为部门规章，一些治理条款具有原则性，属于定性要求。在具体落地过程中，需要进一步细化的机制规范，以及配套的技术保障能力。例如，针对文本生成、语音生成、视频生成、沉浸式拟真等深度合成应用场景，均要求进行显著标识，但需要标识位置合理、不影响用户使用。实践中，深度合成细分应用场景千差万别，如何做到既显著标识、又用户无感，需要做好深入调研，制定可行方案。又如，深度合成服务提供者和技术支持者应当自行或委托专业机构开展安全评估。深度合成是最新发展的前沿人工智能技术，目前，有能力开展安全评估的机构、企业为数不多。如何通过评估机制的构建和推动，发挥好这些专业机构、科技企业的作用，共建共治、向上向善，也是《规定》后续执行过程中需要重点考虑的事项。

【版权声明】本文著作权（含信息网络传播权）归属北京青年报社所有，未经授权不得转载

文/北京青年报记者 温婧
编辑/樊宏伟