全球AI科学家呼吁合作应对人工智能风险

西方及中国前沿的AI科学家强烈警示，应对科技潜力巨大且充满潜在风险的人工智能，亟需全球范围内的深度协同。

近期，诸多国际知名学者齐聚首都北京，秉持关怀意识，为人工智能的未来划定基线，诸如生物武器制造及网络入侵等均被纳入其中。

在此份声明中，学者们强调必须联手建立起立体的人工智能安全防线，预防可能在人类寿命周期内带来无法承受的风险。人们须要团结协作，以规避未知技术可能引发的灾难后果。

参与签名的包括荣获图灵奖，被誉为人工智能领域导师的 Geoffrey Hinton 和 Yoshua Bengio；加州大学伯克利分校计算机科学名誉教授 Stuart Russell；以及中国最卓越的计算机科学家之一姚期智。

此番声明系于北京举办的人工智能安全国际对话后发布，多名中国相关机构官员亦受邀参会。

专家学者呼吁科技企业与相关部门为保障人工智能安全通力合作，特别是在荟萃世界两大科技强国中国及美国的基础上。

近几月来，众多国际顶尖AI企业已与中国的AI专家展开密集交流。

2023年11月，在英国召开的人工智能安全高峰论坛上，除中国外，共有28个国家和领军AI企业共同立下誓言，致力于消除先进人工智能所带来的潜在生存危机。

当前，专家学者正在深入探讨与通用人工智能（AGI）发展过程中的潜在威胁。

Bengio阐明：讨论重心在于需设立任何强大人工智能不能逾越的底线，以及借由世界各国政府在研发及推行人工智能时作出规定的准则。

声明强调，无论何种人工智能系统，未经人授权，不得自行复制或提升其功能，或者实现不当操作加强自我势力。

科学家进一步指出，任何系统不应极大地拓展设计大规模破坏性武器、违反生化武器公约，或是独立发起网络攻击的能耐，从而导致惨重的经济损失或相同程度的伤害。