《国际人工智能安全报告》发布首份关键更新

蒙特利尔2025年10月17日 /美通社/ -- 《国际人工智能安全报告》首次关键更新已发布，就先进人工智能的能力与风险提供了最新信息。

该报告由图灵奖得主、计算机科学家Yoshua Bengio总体负责，汇集了100多位国际专家，并得到30多个国家以及包括欧盟、经合组织和联合国在内的国际组织的支持。

鉴于人工智能领域发展过于迅速，单一年度报告难以全面覆盖，因此推出了《关键更新》，以提供篇幅更短、重点更突出的关键发展动态报告。 这将确保决策者能够及时获取最新文献综述，为基于证据的政策制定提供依据。

首个《关键更新》涵盖能力提升和风险影响：

人工智能模型在复杂问题解决能力上持续提升：例如，领先的系统现已能完成一组现实世界软件工程问题中超60%的任务。 到2025年初，他们只能解决约40%的相关问题，而在2024年初他们尚无法解决任何问题。 （事实上，自《关键更新》文本最终确定以来，性能已提高到70％以上。）

行业参与者已经采取了新的预防性保障措施：多家主要人工智能开发商在无法完全排除其新模型可能被用于协助开发化学、生物、放射和核风险的情况下，主动为最新模型增加了额外安全措施后发布。

人工智能模型在评估过程中日益表现出策略性行为，给监管带来挑战：人工智能模型越来越可能意识到自己正在接受评估，并据此调整输出结果，这对开发人员和测试人员在部署新模型之前准确评估新模型能力的能力提出了重大质疑。

该报告主席、蒙特利尔大学全职教授、LawZero科学总监兼Mila - Quebec AI Institute科学顾问Yoshua Bengio表示：

“自九个月前发布第一份《国际人工智能安全报告》以来，人工智能能力保持着快速而稳定的发展势头。 我们对人工智能风险和安全措施的集体认知必须与时俱进，这一点至关重要。 本次《关键更新》为全球决策者提供了基于证据的最新信息概览，助其掌握最前沿的科学资讯，从而确保治理工作具有前瞻性和科学性。 它还发挥了衔接作用，为将于2026年初在印度举办的人工智能影响力峰会前发布的综合报告做好准备。”

审核编辑 黄宇