美国设立AI安全委员会:奥特曼、黄仁勋在列,小扎、马斯克未入选
澎湃新闻 2024-04-28 21:06

微软和OpenAI等科技巨头的CEO加入美国AI(人工智能)安全委员会。

当地时间4月26日,美国国土安全部(DHS)宣布成立AI安全委员会,以指导美国关键基础设施安全地使用AI。该委员会的22名成员中包含不少AI领域的业界和学界巨头,例如OpenAI的CEO萨姆·奥特曼(Sam Altman)、英伟达CEO黄仁勋、微软CEO萨蒂亚·纳德拉(Satya Nadella)以及斯坦福大学教授李飞飞。

美国国土安全部部长马约卡斯(Alejandro Mayorkas)在媒体电话会上表示,该委员会将针对如何在16个关键的基础设施领域中有效部署AI提供建议,这16个基础设施领域包括“国防、能源运输、信息技术和金融服务,还有食品和农业等等”。

除了提供可行的建议外,该委员会的成立将使关键的基础设施社区和AI领导者“能够共享AI带来的安全风险信息”。

马约卡斯指出,该委员会的任务是“制定负责任地使用AI并防御该技术的实用建议、指南和最佳实践”。不过,马约卡斯没有详细说明DHS与该委员会实施其任务的具体方式,称将在未来发布对委员会目标进行更全面解释的公告。

马约卡斯还强调,AI可以成为“一种极其强大的力量”:“AI可以被用来提高所有关键基础设施所提供服务的效率和质量。与此同时,我们也认识到,其错误使用可能带来极强的破坏性影响。”

AI安全委员会的成员名单涵盖与AI相关方面,包括美国政界人士、科技巨头代表、基础设施代表、知名学者和意见领袖。在业界巨头这方面,除了微软、英伟达和OpenAI以外,谷歌母公司Alphabet、亚马逊AWS、Anthropic、达美航空、IBM、Adobe和AMD的CEO也出现在名单中。

DHS表示,美国拜登总统指导马约卡斯成立了这个由22人组成的委员会,该委员会将于今年五月首次召开会议,并将每季度举行一次会议。

不过,令人意外的是,在AI热潮中同样表现出众的Meta公司CEO马克·扎克伯格(Mark Zuckerberg)和一向公开倡导AI安全性的埃隆·马斯克(Elon Musk)都没有出现在委员会成员名单中。

对于进入委员会一事,多位代表作出了回应。纳德拉表示:“AI是我们这个时代最具变革性的技术,我们必须确保其安全且负责任地被部署。微软很荣幸能参与这一重要工作,并期待分享我们迄今为止的学习成果以及未来的计划。”AMD的CEO苏姿丰称,“AI的广泛使用有潜力改善我们日常生活的各个方面。我们必须跨公私部门合作,采取协作和负责任的方式,确保我们将AI的巨大力量用于良好目的。”

去年10月,拜登签署了全面行政命令,要求美国商务部为AI模型的安全、安保和测试标准以及AI生成内容水印规则的制定提供便利。今年2月,美国商务部宣布,包括OpenAI、Alphabet旗下谷歌、微软公司、Meta等巨头在内的知名美国AI企业将参与美国政府主导的一项工作,旨在制定AI技术的联邦标准。(澎湃新闻记者 胡含嫣)

编辑/田野

相关阅读
黄仁勋、苏姿丰、纳德拉、小扎都来了,AI巨头在一起讨论了什么?
第一财经 2024-10-16
美国白宫成立AI数据中心基础设施工作组,黄仁勋:行业需要政企合作
澎湃新闻 2024-09-13
黄仁勋在担心什么?
第一财经 2024-06-21
马斯克撤回对OpenAI和奥特曼的起诉,前一天刚反对苹果接入GPT
澎湃新闻 2024-06-12
OpenAI成立新的安全委员会,对AI安全的关注点转向了吗?
第一财经 2024-05-30
马斯克新动向:60亿美元
上海证券报 2024-05-28
黄仁勋:AI不会让工作岗位消失,有些情况机器根本无法理解
澎湃新闻 2024-04-29
黄仁勋亲自交付首台DGX H200系统 OpenAI最先受益
​第一财经 2024-04-25
最新评论