华为云AI峰会揭示大模型实践难题

12月23日，在云南丽江举办的2023华为云AI院长峰会上，华为云大数据与人工智能领域总裁尤鹏指出大模型实践面临的十大挑战：首先是训练难题，需要面对大规模计算和可信度的困境；其次是推理挑战，包括如何有效对LLM长文进行解码；再次就是如何充分利用碎片化的AI资源和全局规划效率；以及如何实现高质量的模型压缩，包括量化方法及测评标准等问题。

除此之外，还存在行业训练数据安全控制、大模型幻觉缓解消除及可解释性、构建具有强大逻辑推理规划能力的大模型、基于图数据的知识增强技术、通用结构化数据特性对齐和预训练，以及视觉领域下一个token预测任务建模等挑战。

针对这些问题，尤鹏给出了相应对策，将相关技术问题划分为大模型基础性能和工程化能力、L0基础大模型能力以及L1行业/领域大模型能力提升三部分，以期携手学术界共同攻破关键技术，加速大模型技术的落地应用。