黄铁军：AI安全要同等重视，否则人类面临巨大风险

以“促进数码融合天行备份”为主题的2023（第22届）中国网络大会18日在北京开幕。

北京大学计算机学院教授黄铁军以“人工智能巨大模型的现状和展望”为主题发表了主题演讲。

黄铁军认为，大型模型有3个典型特征，规模大，参数要达到100亿，普遍性，人工智能模型什么都能做。当出现性，模型训练达到一定程度时，会突然出现意想不到的能力。

黄铁军指出，今天的chatgpt具有强大的智能，影响力深远。未来3年，除了语言之外，巨大模型还将迅速扩展视觉，听觉，身体，行动等普遍智能，其影响将更大。

在谈及ai风险时，黄铁军表示：“简单的系统无法控制复杂的系统。如果人工智能智能水平超过人类，人类就不可能完全控制。”“人工智能的发展和人工智能风险管理，确实要同时重视，才能迎来光明的未来。”

黄哲说，未来10年：智力革命已经开始，产业革命解放体力，电力革命解决能源流通，是全新生态的构建，开放资源开放生态最终会取得胜利。未来20年：chatgpt是数据驱动的静态智能，未来是时空环境驱动的体积智能。智能载体不是今天的人工神经网络，而是像大脑一样的脉冲神经网络。超人“电子大脑”：如果不同等重视结构模仿脑、功能脑脑、性能超脑脑、ai的安全，人类将面临巨大的危险。