人工智能治理又迎重磅动态。

近日，美国总统拜登签署一项具有里程碑意义的行政命令——《关于安全、可靠和可信地开发和使用人工智能的行政命令》(以下简称“行政命令”)。该行政命令提出依据八项指导原则和优先事项推进人工智能的开发和使用，包括：人工智能制定新的安全标准，保护美国人隐私，促进公平和公民权利，维护消费者、病人及学生权益，支持工人，促进创新和竞争，提升美国在海外的领导力，确保政府负责任且有效地使用人工智能。

今年以来，美国在AI治理方面屡有行动。7月和9月，白宫已经先后两次获得共计十五家领先人工智能公司的自愿承诺，这些企业保证将在遵守安全、可靠和可信原则的基础上负责任地开发人工智能。

受访专家认为，美国的AI行政监管命令如果可以切实落地，有利于全球人工智能产业在安全可信轨道上发展。同时也有专家表示，本质上来看，该行政命令存在扩大影响力，以标准划定“生态圈”的倾向。

提出AI安全新标准

人工智能在给公众和产业带来无限的想象，也带来了欺诈、歧视、偏见的风险。

在监管方面，此次行政命令提到，会将安全、负责任地管理人工智能的开发和使用视为最紧迫的任务，在联邦政府范围内推进协调一致的方法来实现这一目标。

行政命令提出人工智能安全新标准。具体来看，要求人工智能开发人员与美国政府分享安全测试结果和其他关键信息；任何开发与国家安全、国家经济安全或国家公共健康安全构成严重风险的基础模型公司，必须在模型训练时通知政府，并和联邦政府共享所有红队安全测试结果。各个相关方应开发标准、工具和测试，以帮助确保人工智能系统安全、可靠。同时为避免美国公民受到人工智能驱动的欺诈和诈骗，要建立监测人工智能生成的内容和验证官方内容的标准和最佳实践。

此次行政命令对于采取额外措施应对国家紧急状态与重大恶意网络攻击相关活动也作了规定。如美国经销商需向商务部提供额外的记录保存和报告等。“这些制度设计反映的是美国对于所谓风险和威胁的处置思路，一方面是强化对于产业链、供应链的管控。另一方面，通过信息披露、情报共享，实现安全和风险的溯源管制。”吴沈括说道。

在推动产业创新和竞争方面，行政命令指出要通过相关措施继续在创新和竞争方面保持领先。通过国家AI研究资源试点促进美国各地AI发展；为小型开发者和企业家提供技术援助和资源，帮助小型企业推进AI商业化；通过现代化和精简签证标准等，为相关领域高技能移民和非移民的带来便利。

在对外经济贸易大学数字经济与法律创新研究中心执行主任张欣看来，美国此举旨在维护其国内人工智能行业公平竞争。“由于大模型等新型训练方式需要耗费大量成本，监管层面需要更加关注中小公司进入人工智能产业的难度，构建良性的竞争生态。OpenAI在大模型领域的成功表明，与巨头型人工智能企业相比，中小企业可能更具灵活性和创新性，因此在研发和部署方面可能更具活力。从这一意义来看，通过监管举措营造公平的竞争环境也有助于整个人工智能产业的创新与发展。”

强化技术研发、产业链、供应链控制

行政命令对于人工智能发展过程中的一些焦点问题也进行了回应。

人工智能产品研发、使用过程都与数据密切相关，行政命令关切美国人的隐私保护。在立法层面，总统呼吁国会通过两党的数据隐私立法，对公民，尤其是儿童的隐私进行妥善保护。技术层面，美国政府表示将支持隐私保护技术的开发和使用，同时要评估各个机构如何收集和使用商业信息。

“隐私保护一直是美国、欧盟和中国关于个人信息和数据保护立法的重点关切，美国的数据隐私立法从数据治理、个人信息保护和人工智能监管的角度分别推进。”中国政法大学数据法治研究院教授张凌寒说道。

吴沈括指出，美国国家安全和个人数据保护法案自2019年美国国会议员提出以来，一直处于悬而未决的状态。一个很大的原因在于，美国宪法框架下，联邦立法机关只拥有包括国家安全事项在内的五个方面立法权限。所以，美联邦隐私立法推进的困难和障碍在于美国宪法体制的制约，首当其冲要解决的是立法权限合法性问题。

AI的训练数据版权问题和生成内容知识产权认定问题不仅是美国相关产业面临的问题，也是世界各国亟待解决的问题。OpenAI、Anthropic等AI企业，就先后因输入和输出端的数据问题被告上了法庭。

该行政命令对于人工智能发展过程中的“软肋”——版权问题也做出了回应。

“目前美国版权局的既往案例并不承认赋予AI著作权，但是对于训练数据是否侵害知识产权的相关案件仍在审理之中，这取决于如何平衡原创者的知识产权和AI产业发展之间的利益。”张凌寒说道。

行政命令要求相关部门在规定时间内对专利商标、版权等问题做出回应。具体在版权方面，美国版权局需要在规定时间内，向总统汇报包括人工智能生成物的保护范围，以及人工智能训练中受版权保护的作品的处理情况。同时多个相关部门负责人要在规定时间内制定培训、分析和评估计划，减轻AI相关的知识产权风险。

“AI版权问题也是美国谋求人工智能产业发展优势的一个重要工具。一方面，凭借先发优势，美国强化知识产权优势，实现对AI产业的战略管控，尤其是AI研发。另一方面，美国试图通过明确知识产权相关规则为人工智能的治理注入美式知识产权规则，进一步强化其技术优势。”吴沈括说道。

行政命令的诸多措施，将如何影响人工智能产业竞争？

“这次颁布的法令很大程度上是美方试图维持和强化其在人工智能产业发展领域霸权地位的重要制度设计。从核心的文本要点来讲，反映的是其对于技术研发、产业链、供应链的强化控制。同时提高对所谓的风险情形、威胁情形的处置管控能力，强化其产业模式和产业优势的既有地位。可以预见，美国后续会进一步强化和推广美式人工智能产业发展模式和产业标准，试图进一步影响、塑造全球人工智能产业地图。”吴沈括在接受21记者采访时表示。

在张凌寒看来，美国的AI行政监管命令如果可以切实落地，有利于全球人工智能产业在安全可信轨道上发展。“作为世界上人工智能产业最为发达的国家能够出台这样的监管命令，相信意味着世界范围内的人工智能监管进入了一个密集出台和统筹协调的阶段。结合上周联合国开始推进人工智能全球治理机构的相关工作，相信美国的行政监管命令将有助于在世界范围内逐步形成对于人工监管的整体框架。”

全球AI治理“竞速”

除了对国内人工智能监管和发展提出要求，美国也将目光投向了国土之外的地方。

“美国此次的行政命令体现了其在全球人工智能治理层面发挥影响力的战略和举措。”张欣指出。行政令提到，国内推进人工智能治理议程的同时，美国希望增加国家合作并发挥国际影响力，比如加入英国AI安全峰会以及联合国人工智能治理的议题。

《2022全球人工智能创新指数报告》显示，美国和中国同处人工智能创新的第一梯队。值得关注的是，10月18日，我国中央网信办发布《全球人工智能治理倡议》(以下简称“《倡议》”)从发展、安全和治理三个板块出发，为全球人工智能治理提出了11项主张。同样关注全球治理，中美两个AI大国思路有何异同？

“目前，中美两国针对AI带来的风险存在相当多的共识，应对AI给经济和社会带来的风险的监管手段也日趋一致。此外，中美的政策目标，都是推进全球人工智能治理体系的协作机制。”张凌寒指出。

在她看来，两国在AI全球监管方式上存在分歧。“美国希望能建立领导地位并通过G7、G20,英国的AI SAFETY，广岛进程等地区协作方式发挥作用，中国则明确提出希望能够在联合国框架下建立全球人工智能监管体系。”

“中美治理思路的本质存在不同。”吴沈括认为，美方的治理思路，体现的依然是一种“小院高墙”的竞争策略，即通过提高壁垒，维系自身优势，并且强化对于产业生态的管控，以标准划定“生态圈”。美方规则落地过程中，对人工智能产业链、供应链的管控会进一步加强，关联生态的封闭性和排他性也会进一步强化。

而从我国的《倡议》和此前的《生成式人工智能服务管理暂行办法》来看，中方更加强调一个开放、公平、共享、共治的治理思路，特点是能够容纳更多的主体参与到人工智能治理进程当中，实现各方诉求的体现和保障。

“全球人工智能治理格局在经历迅速的变迁与发展。我国应在《倡议》的指导之下积极贡献中国智慧。”张欣指出。

事实上，全球AI治理竞速已经进入白热化，超越国家和地区的人工智能治理框架似乎也在逐步形成。

10月26日，联合国成立了一个新的AI咨询机构，期望为国际社会加强对AI的治理提供支持。这一机构汇集了来自政府、私营部门、研究界、公民社会和学术界的专家，当前任务包括就风险和挑战建立全球科学共识，为利用AI实现可持续发展目标提供助力，以及加强 AI方面的国际合作。

在美国发布行政令的同日，七国集团发布《开发先进人工智能系统组织的国际行为准则(The International Guiding Principles for Organizations Developing Advanced AI Systems)》，呼吁公司应定期评估其模型的风险，并关注可能对民主价值观或社会构成威胁的系统。

今天，首届AI安全峰会将在英国举办，全球27个国家以及联合国、欧盟等国际组织将派团参加，微软、谷歌、OpenAI等公司代表也将到场。据悉，会议旨在讨论人工智能带来的风险，以及如何通过国际协调行动减轻AI风险等。关于AI全球治理框架的讨论，值得期待。

编辑/樊宏伟