ChatGPT及大语言模型开发应用的常见困惑

近日，万里红“荟聚·赋能·创未来”第十期在京举办，该沙龙是面向公司全员，特别是研发技术人员开展的系列技术交流活动，旨在分享前沿知识，加强技术沟通，鼓励技术创新，在行业不断迭代创新的过程中为员工提供赋能平台，活动以线下分享+线上会议的方式同步进行。

就在并不遥远的2017年时，即使是专家也秉持“几乎所有的AI，到现在为止都是胡扯”的观点。短短五六年间，2023年的当下，普罗大众已经开始焦虑,“你是愿意让你的孩子成为第一代被AI替代的人，还是成为第一代使用AI工具的人"。这种观念的巨变，正是源自于AI技术的一次飞跃——ChatGPT的横空出世，生成式AI 技术以及大模型已成为当前最新技术热点，本期沙龙有幸邀请到人工智能专家杜海潇博士带来ChatGPT原理浅析及应用趋势的精彩分享。

杜海潇清华大学电子工程系博士，中信云网有限公司高级算法工程师。曾参与中信集团业态内多项人工智能项目，涉及智能制造业、农业、医疗等行业领域。主要负责针对客户业务场景完成单领域人工智能算法原型开发以及前沿技术产业应用调研以及产学研合作事宜。

人工智能，智在何处？

人工智能(Artificial lntelligence，简称AI) 是计算机科学中的一个分支，致力于研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。沙龙上，杜海潇博士指出，人工智能包含非常广泛的领域：

① 计算机视觉：研究如何使机器感知和理解视觉世界；

② 自然语言处理：研究如何使机器理解和生成人类语眼；

③ 认知与推理：研究使机器基于物理和社会常识推理、规划和做出决策；

④ 机器人学：研究如何设计开发能与物理世界互动的机器人，包括机械、控制、设计、运动规划、任务规划等技术与领域；

⑤ 博弈与伦理：研究多机代理人交互、对抗与合作，以及机器人与社会融合等议题；

⑥ 机器学习：研究如何使机器能够从数据中学习内在规律，包含无监督学习、有监督学习、深度学习、强化学习等技术概念。

自20世纪50年代起，人工智能领域经历了起步期、机器学习时期以及深度学习时期三次发展浪潮。随着深度学习逐渐成熟，生成式AI技术取得突破，人工智能技术逐渐转向实用化和商业化，涌现出了许多具有代表性的应用场景和商业模式，广泛应用到了安防、医疗、互联网、交通、金融、制造业等各行各业。

2022年人工智能技术成熟度曲线

最新AI技术发展趋势——AIGC元年

伴随ChatGPT的横空出世，生成式AI 技术以及大模型当前已成为最新技术热点，国内外各类大模型如雨后春笋般不断涌现……沙龙上，杜海潇博士详细讲解了ChatGPT原理及其技术演进。

从 2018 年首次提出GPT模型开始，经过了开源、上游解码模型(特征提取器)，下游根据具体场景任务进行有监督finetune的初代目，到二代目、三代目等后续一系列快速迭代升级，如今的 ChatGPT已进化成为能够使用工具的AI。

大语言模型的应用实践与信息安全

沙龙上，杜海潇博士重点从如何让通用型的大语言模型成为领域专才解锁特定任务、大语言模型精调的方式，如何低成本的开发大模型应用，以及如何构建优质的Prompt提示词等方面详细讲解了大语言模型的开发应用，并以国产大模型ChatGLM 微调等案例，呈现了大语言模型的应用实践。

与此同时，他强调大模型带来的信息安全问题不容忽视：① AIGC内容鉴别：包括AI欺诈、造谣、冒充等；② 隐私泄露：训练数据包含敏感信息，比如姓名、住址等；③ prompt注入：中间人攻击，修改用户prompt，行为诱导有毒性注入引发伦理道德及输出合法性问题等。

沙龙最后，杜海潇博士与万里红参会人员就ChatGPT及大语言模型开发应用的常见困惑和具体实践等相关问题进行了热烈探讨，沙龙活动圆满结束。