拜登政府启动AI安全监管标准制订

本周二，美东时间，得以观测到，在上个月有“里程碑式”标签的行政命令签署后，美国总统Biden正在领导一场关于生成式人工智能的政策改革。该行动从早在四季度就开始实施，其目的就是为了保证机器学习系统能精准处理安全问题。

美国商务部的国家标准与技术研究院（NIST）宣布，即将于2月2日起，启动人工智能的关键性测试工作，这对于保护人工智能系统的安全性具有巨大的现实意义。

NIST强调，正在积极拟定评估和检测AI系统的具体指南，以推动人工智能领域的标准化进程，同时为评估人工智能系统提供完善的测试环境。针对人工智能行业的潜在风险，美国商务部长Gina Raimondo表示，全新的NIST措施正受到Biden总统10月份行政命令的催化作用影响，致力于打造“涵盖范围广泛，关乎人工智能安全、保障及信任的行业标准，以此加强美国在负责任运营和使用这项快速进化技术方面的全球领导地位。”

据悉，NIST目前计划制定包含“红队”测试策略在内的专项指导方针，即由专家团队模拟对手环境，对人工智能系统的安全性能进行全面检验。“红队”测试作为网络安全测试中的核心环节，其重要性不言而喻。8月份，在一次重量级的网络安全会议上，美国首次公开展示了人工智能的“红队”测试过程，吸引了大量AI行业组织如AI Village、SeedAI和Humane Intelligence等参与其中。

据白宫披露，该次测试的参与人次高达数千人，大家通过尝试主动攻击系统来找出可能存在的安全隐患，并探讨了如何改进以提升整体防御水平。此次测试也证实了“外部红队在发现新颖的人工智能风险方面的显著优势”。