美国人工智能受政府监管,OpenAI与甲骨文签署协议

随着美国人工智能产业逐渐接受政府的指引，OpenAI与甲骨文周四联手美国人工智能安全研究所。这一研究所直属美国商务部国家标准与技术研究所，它有权限在各企业发布新模型前或发布后获取模型使用权。OpenAI和甲骨文表示，他们已承诺将新模型的测试权交予研究所，通过检测后正式公布。OpenAI的CEO奥尔特曼对此表示欣慰，他认为与研究所的合作是对公司模型进行预发布测试的好机会。OpenAI的CSO Jason Kwon也强调，他们深信研究所在确保美国AI业界负责任地发展人工智能方面起着至关重要的作用，期待与研究所共同打造全球可供参考的管理框架。

美国人工智能安全研究所成立于2023年，仅在拜登发布美国历史上首个人工智能行政命令几天后。它是白宫评估、指导和研究人工智能的核心机构。研究所所长伊丽莎白·凯利表示，与OpenAI和甲骨文的协议仅仅是个开端，标志着研究所管理人工智能未来的重要里程碑。

本周三，加利福尼亚州议会通过了一项备受争议的人工智能安全法案，强制要求企业对成本或计算能力达到一定规模的人工智能模型进行安全测试，并提供其他保障措施。这可能促使许多科技公司更积极地寻求监管的认可，以争取更大的创新空间。

此外，OpenAI因安全问题屡遭诟病。据前雇员丹尼尔·科科塔吉洛透露，近几个月来，公司出现了持续且稳定的离职潮，关注人工智能长期风险的OpenAI员工中有一半已经离开。这可能表明OpenAI内部对新模型安全性的忽视引发了员工的强烈不满。这无疑引起了美国政府部门的高度重视，此次与美国人工智能安全研究所的合作，或许正是OpenAI消除外界疑虑的最佳方式之一。