美国政府制定AI标准迈第一步:编写AI测试指导方针
财联社 2023-12-21 14:04

在今年10月美国总统拜登签署首个人工智能监管行政命令后,美东时间周二,拜登政府表示,该政府正在迈出第一步,为安全部署生成式人工智能以及如何测试和保护系统编写关键标准和指导。

拜登政府迈出制定AI标准第一步

今年10月末,美国总统拜登签署了一项“具有里程碑意义的”行政命令,推出白宫首个有关生成式人工智能的监管规定。根据行政命令,美国多个政府机构需制定标准,防止人工智能造成化学、生物、辐射、核和网络安全风险。

美东时间周二,美国商务部国家标准与技术研究院(NIST)表示,将在2月2日之前向人工智能企业和公众征求意见,以进行关键的AI测试,该测试对确保人工智能系统安全至关重要。

NIST声称,他们正在制定评估、测试人工智能的指导方针,推进制定人工智能行业标准,并为评估人工智能系统提供测试环境。

美国商务部长吉娜·雷蒙多(Gina Raimondo)表示,NIST的最新举措正是由拜登10月的行政命令所推动的,旨在制定“围绕人工智能安全、保障和信任的行业标准,使美国能够继续在负责任地开发和使用这一迅速发展的技术方面引领世界。”

NIST正制定AI“红队”测试指南

NIST正在制定的测试指南中,包括所谓的“红队”测试——NIST将考虑,“红队”测试在哪些方面对人工智能风险评估和管理最有利,并为此制定最佳实践。

“红队”测试是网络安全测试中的一项重要测试环节。它指的是由专家团队模拟真实世界的对手,以测试和增强系统的安全性。

今年8月,美国首次在一次重大网络安全会议期间公开进行人工智能“红队”测试活动。该活动主要由AI行业组织AI Village、SeedAI、Humane Intelligence等参与。

白宫表示,在8月的活动中,数千名参与者测试了他们是否“可以让这些系统产生不良输出,或让这些系统以其他方式失败,目的是更好地了解这些系统所带来的风险”。该活动“展示了外部红队如何成为识别新型人工智能风险的有效工具”。

编辑/范辉

相关阅读
AI界大新闻!“ChatGPT之父”制定全球AI基建计划:先在美国砸几百亿美元
财联社 2024-09-04
针对半导体、量子计算和人工智能领域!美推新规限制对华高科技行业投资
环球时报 2024-06-24
美国参议院建议拨款320亿美元支持AI,透露了哪些监管风向?
21世纪经济报道 2024-05-18
美国设立AI安全委员会:奥特曼、黄仁勋在列,小扎、马斯克未入选
澎湃新闻 2024-04-28
“假拜登来电”风波未平 美国政府将AIGC语音电话纳入法律规管
财联社 2024-02-09
离开OpenAI、没有目标 他们说2024年AI可能并不具划时代意义
第一财经 2024-02-02
OpenAI:董事会将拥有是否发布新AI大模型的决定权
第一财经 2023-12-23
日本政府拟成立AI安全问题组织 聚焦其在军事应用中的风险
财联社 2023-12-18
最新评论