在今年10月美国总统拜登签署首个人工智能监管行政命令后，美东时间周二，拜登政府表示，该政府正在迈出第一步，为安全部署生成式人工智能以及如何测试和保护系统编写关键标准和指导。

拜登政府迈出制定AI标准第一步

今年10月末，美国总统拜登签署了一项“具有里程碑意义的”行政命令，推出白宫首个有关生成式人工智能的监管规定。根据行政命令，美国多个政府机构需制定标准，防止人工智能造成化学、生物、辐射、核和网络安全风险。

美东时间周二，美国商务部国家标准与技术研究院（NIST）表示，将在2月2日之前向人工智能企业和公众征求意见，以进行关键的AI测试，该测试对确保人工智能系统安全至关重要。

NIST声称，他们正在制定评估、测试人工智能的指导方针，推进制定人工智能行业标准，并为评估人工智能系统提供测试环境。

美国商务部长吉娜·雷蒙多（Gina Raimondo）表示，NIST的最新举措正是由拜登10月的行政命令所推动的，旨在制定“围绕人工智能安全、保障和信任的行业标准，使美国能够继续在负责任地开发和使用这一迅速发展的技术方面引领世界。”

NIST正制定AI“红队”测试指南

NIST正在制定的测试指南中，包括所谓的“红队”测试——NIST将考虑，“红队”测试在哪些方面对人工智能风险评估和管理最有利，并为此制定最佳实践。

“红队”测试是网络安全测试中的一项重要测试环节。它指的是由专家团队模拟真实世界的对手，以测试和增强系统的安全性。

今年8月，美国首次在一次重大网络安全会议期间公开进行人工智能“红队”测试活动。该活动主要由AI行业组织AI Village、SeedAI、Humane Intelligence等参与。

白宫表示，在8月的活动中，数千名参与者测试了他们是否“可以让这些系统产生不良输出，或让这些系统以其他方式失败，目的是更好地了解这些系统所带来的风险”。该活动“展示了外部红队如何成为识别新型人工智能风险的有效工具”。

编辑/范辉