生成式AI应优先在 “错误不敏感” 型领域应用

在 ChatGPT 证明了大模型的颠覆性作用之后，众多 AI 厂商、以及各应用领域厂商都在寻求将 AI 技术用在各行各业的实际生产中以提升效率的方案。但生成式 AI（GAI）的成果目前还是毁誉参半，一方面 C 端用户利用 GAI 来创造的画作、诗歌等作品日渐精美；但另一方面，GAI 在企业级、生产级的应用中还未取得大规模的落地。

对此，悉尼科技大学副校长、杰出教授、澳大利亚人工智能理事会理事长，IJCAI-PRICAI-2024 大会主席 张成奇认为，应用生成式人工智能系统应优先选择 “错误不敏感” 的领域，取得结果后，再向其他领域拓展。此外，大模型的下一步便是发展与其他系统、服务领域相结合的轻量化模型，在不同领域实际落地。

本期开源访谈我们邀请到张成奇教授，一起聊聊在他眼中，未来 AI 的发展趋势，以及我们该如何应对的相关问题。

OSCHINA：请您介绍下自己的研究经历，以及当前主要的研究方向。

张成奇：

我从 1982 年读硕士研究生时开始研究专家系统，然后分布式专家系统，再之后研究数据挖掘。

OSCHINA：数据挖掘与应用是多年来的研究热点，当下有哪些新的需求迸发，技术层面如何应对这些新的需求？

张成奇：

数据挖掘可以应用在非常多的领域。我们的研究应用包括社会保障，银行，税务，设备租赁，网上欺凌，健康管理等。

新的需求包括大数据，多模态，实时性，高精度等。技术层面包括很多新的技术与计算架构。比如：图处理，云计算， 人工智能技术，大模型等等。

OSCHINA：人工智能技术大致经历了怎样的发展脉络？有哪些关键发展节点？又在哪些领域和应用中取得了最显著的进步？

张成奇：

人工智能技术发展脉络可以粗略的分为以下几个阶段：

基于推理的通用问题求解；基于知识的专家系统；基于深度学习的感知系统；基于 GPT 的通用认知系统。

在 2022 年前，人工智能分为三大学派：基于知识的认知系统研究；基于深度学习的感知系统研究；基于控制论的行为系统研究。

只有基于深度学习的感知系统研究取得了巨大的成就。自从 GPT 系统出现，认知系统有了巨大的飞跃。

OSCHINA：您认为要如何促进人工智能在各个领域的合作和转化？

张成奇：

优先选择 “错误不敏感” 的领域（见下一问题）应用生成式人工智能系统。快速取得成果后，再向其他领域拓展。现在很多龙头企业都在关注生成式人工智能系统的靓丽表现。现在的关键是要有轻量级模型可以商用。一旦有了标杆似的应用案例，很多企业都会与学界合作。

OSCHINA：预测未来十年内，AI 的发展可能会有哪些重大变革？随着 AI 越来越智能，可能会给人类社会带来什么样的风险和危机？

张成奇：

我认为 AI 的发展有以下几个趋势：

一．生成式人工智能系统会变得越来越智能。

二．轻量化模型会大量涌现。

轻量化模型与其它系统结合，提高其它系统的智能能力，比如，与机器人结合，与元宇宙结合等。

轻量化模型会与服务领域结合。与制造业结合，与养老结合；与旅游结合，等等。

三． 生成式人工智能系统不负责系统的正确性及可靠性，所以，生成式人工智能系统的测试系统会不断涌现。

四：因为生成式人工智能系统的特点（正确性及可靠性无法保证），如何应用生成式人工智能系统也会得到关注。我建议把应用领域用 “错误敏感度” 来定义。在错误敏感度非常高的领域要慎用，或者有人类专家审查后再用。比如医疗诊断，法律判案。在错误敏感度中性的领域要根据错误率决定。比如：股票交易。如果错误率低于 50%，就可以用。在错误敏感度非常低（或者无法判定对错的）领域，尽管用。比如，作诗，绘画，讲故事等，尽管生成式系统会 “一本正经的胡说八道” 也没关系。研究人员就是在每个领域判定 “错误敏感度 “。

OSCHINA：不久前，马斯克、史蒂夫等人呼吁暂停训练比 GPT-4 更加强大的 AI 系统，您怎么看待这件此事？

张成奇：

自从 GPT-3 与 GPT-4 有了知识涌现的能力，让人们担心人工智能系统有失控的风险。所以提醒人们注意风险。我认为是很有必要的。但是人工智能系统与核能系统类似，是双刃剑。不能因为有风险，就停止研究。我们要关注的是如何趋利避害。

一直以来，学界的研究与业界应用都是相互影响的。AI 迅猛发展的当下，学界也出现了许多新的研究成果。今年 7 月 4 日到 6 日，IJCAI YES 大会将在上海举办。 2023 IJCAI YES 官网：https://ijcai.org.cn/。明年（2024 年）7 月 13 日到 19 日，IJCAI-PRICAI-2024 将在上海举办。蒋会有越来越多的研究聚焦于生成式人工智能研究，

OSCHINA：您为历年来 IJCAI 大会的举办做了很多台前幕后的工作，可以聊聊为什么会倾注很多心血在这个大会上，这几年的大会经历让您印象最深的是什么吗？

张成奇：

我是从 2011 年开始为 IJCAI 服务。前六年主要是为 IJCAI-2017 做筹备工作。近六年主要是为 IJCAI 做筹款工作。IJCAI 历史悠久，为全世界的人工智能发展做出了不可磨灭的贡献。大部分的人工智能的获奖者都在 IJCAI 大会上做特约报告，或是 IJCAI 的获奖者。我很自豪能为 IJCAI 做出自己的贡献。

对我个人而言，印象最深的是为 IJCAI 的两项筹款记录：

1. 公司单笔赞助 IJCAI-2019 15 万美元。

2. 全世界有 17 所大学现金赞助 IJCAI-2017。

我希望有人能在其它世界人工智能顶会的筹款方面破了上述记录。这两项纪录也标志着 IJCAI 在世界范围内的影响力。作为 IJCAI-PRICAI-2024（2024 年 7 月 13 日到 19 日在上海召开）的大会主席，我诚挚的邀请读过次专访的人员能来上海参会，或者告诉你们的朋友来参会。