0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

推理王者o1到底怎么落地?

脑极体 来源:脑极体 作者:脑极体 2024-11-08 16:12 次阅读

wKgaomctx9qAH2xgAAmwwEbReL4616.jpg

完整版o1“被泄露”,成了上周AI界的大新闻。

9月13日,OpenAI发布了传说中代号“草莓”的全新模型系列的预览版o1 preview,随后又上线了o1 mini。o1模型系列,能够模仿人类思维过程“慢思考”,提升了AI的逻辑推理能力,成为AI模型领域的王炸,牵动着整个行业的神经。

而就在上周,有不少用户突然发现,能在ChatGPT官网上用到完整版o1了。奥特曼更是不小心“登错账号”,在社交媒体宣布“o2即将登场”。

从o1 preview到o2,这一系列模型,炸裂归炸裂,但所谓的推理能力好像并没有真正融入产业应用,以至于大家都有种狼来了的感觉,开始猜测这不过是奥特曼的又一次宣传噱头。

比如,就有网友觉得完整版o1被释放,并不是“不小心”,而是“精心策划”的炒作,奥特曼“登错号剧透o2”也是装的。

wKgZomctx96AGT1DAAH56gyTNvw630.jpg

如何避免真实的技术价值沦为“狼来了”的戏码?答案就是,别让模型能力成为空中楼阁,而是加速落地到产业中。

到底哪些场景才能充分发挥o1“慢思考”的技术潜力呢?本文就来找找产业化落地的路子。

wKgaomctx96AHAUUAAJIDPalWUY927.jpg

落地产业,前提是正确认识到技术的价值。o1模型系列与老前辈们的最大区别和价值究竟是啥呢?就是慢思考。

我们都知道GPT-4o啥的处理些日常琐事还行,但时不时就会犯点小迷糊,算个小学数学题加减法都错漏百出。而o1就像是经过严格训练的学霸,专克逻辑推理、复杂任务难题。前不久的OpenAI伦敦开发者日上,完整版o1的五大能力包括:函数调用、开发者message、流式传输、结构化输出、图像理解。

如果说4o的数学水平是高中生程度,那么9月发布的o1-preview就有大学生水平了,即将发布的o2在GPQA研究生级别基准中取得了105%的成绩,未来是妥妥的研究生了。

wKgZomctx9-AcnMpAAUy4oBIE0s094.jpg

而上述能力靠的就是o1的独门秘籍——慢思考。

已知人脑有两种模式:一种是快思考,就是咱们平时“一拍脑门”那种凭直觉、靠经验的快速决策;另一种是慢思考,指的是在解数学题、进行科学推理需要花时间、费精力去琢磨的思考模式,更注重逻辑和理性分析。

o1通过学习人脑深思熟虑、稳扎稳打的思考模式,o1采用强化学习+思维链,把复杂问题拆成小块,一步步来,直到得出最准确的答案,极大地提高了模型的推理能力。

研究生级别的学霸o1模型系列,给AI界带来了全新的可能。但如何将“慢思考”的技术潜力真正转化为实际应用,让o1成为推动产业进步的重要力量?还是一个需要进一步探索的话题

产业大不同,落地有先后。按照落地的难易程度,我们可能会看到类o1的“慢思考”能力,在以下产业逐步应用开来。

wKgaomctx-CAcGOpAAGgBkIeeJw903.jpg

坚实的数字化基础、对新技术的高接受度、强大的付费能力,这些特性使得金融成为大模型技术落地的理想场所。

几乎所有的大模型厂商,都将金融行业作为业务开拓的第一站。然而,在金融与大模型的结合过程中,由于大模型的推理能力不强,加上幻觉问题,导致大模型在金融领域的复杂应用中表现并不理想。

此前,大模型在金融行业的应用范围,主要是一些容错率较高的浅层应用上,如智能客服、报表文档助手。而风控、信贷、投资分析等的严肃生产力场景,需要对多种模态的数据,进行深入分析和推理,决策质量要求极高。这些核心业务中,大模型在工作流中发挥的价值相对有限,主要还是得靠人类专家来做。

一位银行从业者表示,客户需要我们的理财分析师给出犀利、专业的观点来帮助决策,而大模型只会泛泛而谈,没什么参考价值。

人人都希望由专业的金融从业人员来服务,如果AI模型能够在一些容错率低的严肃场景中应用,只需要少量人工干预、监督和验证,那么专业人士的时间精力,不就可以解放出来了吗?随着“慢思考”逻辑推理能力的出现,这一期待真的有可能实现。

wKgaomctx-GAFWGgAALGw7YAoDE184.jpg

基于类o1的逻辑推理能力,我们有望看到AI在金融核心业务中承担起专家角色,发挥更重要的作用。比如像专业审核员一样读征信报告、看账单流水,甚至能解读网络大数据,思考和捕捉数据之间的关联,并生成风险判断的依据和结论。

又或者像专业分析师一样,根据用户需求进行个性化的产品设计,缜密分析投资策略,给出理财、投资、投保等建议。

慢思考可以让AI从浅层、边缘、单一的场景,进入到复杂、核心、高价值的核心业务中,突破大模型在金融行业的价值上限。

wKgZomctx-GAZIDnAAIJ-ihygtc503.jpg

“o1实在太强了……我的博士作业做了20个小时,被它3分钟思考就拿下了。刚读博就出这个,感觉人生都灰暗了[流泪] 。”逻辑推理能力达到研究生水平的o1模型系列,让不少人类研究生、博士生感到了切实的危机。

但用一句流行语来说,“o1不是来拆散科研这个家,而是来加入这个家的”。

近几十年来,神经网络算法已经被广泛应用于科研领域,从宏观世界的天文探索、引力波探测,到微观世界的蛋白质折叠、同步光源等,数据科学和算法工程提供了大量的操作手段,帮助科学领域的探索性课题取得突破。AI技术已经成为科学研究不可或缺的一部分,AI4S的大趋势不可阻挡。

面对这个过程,一位高校力学老师曾对我们说过一个比喻:AI和力学的结合,就像是成功的婚姻才刚刚开始,会有甜蜜期,也会有磨合期。

传统模型算法虽然有强大的计算能力和手段,但缺乏深入的逻辑推理能力和对科学原理的深刻理解,面对复杂的科学问题时,往往力不从心,难以提供准确且可靠的解决方案。思考方式跟追求严谨的科学家们大相径庭,此前的AI4S全靠人类迁就。

而o1慢思考强调的逐步分析、深入推理,这种思考方式与科学研究的本质不谋而合。具备慢思考能力的AI模型,相当于掌握了硕博们的学习方法,可以逐步拆解问题、分析数据、反复验算、推导结论。

wKgZomctx-KAJ3NCAAMgIEUf-ac625.jpg

在科研领域,类o1模型可以作为科学家们的“科研伴侣”,扮演好几种角色:

1.灵感缪斯。在一些经典的科学问题,或者已经成熟的科研结果上,科学家们往往还要开发新方法、新理论。这个过程中,AI的逻辑推理能力可以发现数据之间的潜在联系和规律,提出新的假设和预测,为科学研究开辟新的道路。

2.科研助理。随着科学领域“低垂的果实”被摘完,科学家们要去解决更复杂的问题。以力学为例,在深水探索任务中,不仅要做简单的维度对比,还需要做更细节的探索研究,包括复杂的洋流环境、水下潜入等复杂动作,这些是传统的流体控制方法所难以预测的。而逻辑推理大模型可以在这类非线性、高维度的科学问题与科研应用上,有更好的性能表现。比如马克思普朗克研究所的量子物理学者Mario Krenn,就展示了o1-preview正确完成计算的复杂量子物理问题。

3.工程师助理。科研目的不是简单地开发新方法、新理论,最终成果要转化到工业界,去解决工业、生活中的现实问题,这就不单单需要新颖的想法,还需要技术的安全性、成熟度、容错率等。这时候,具备逻辑推理能力的大模型,可以在工业场景中处理复杂问题,降低幻觉,如同工程师助理一样,减少实际应用中的故障率。

无论是容错率较高的创造型任务,还是容错率较低的工程类任务,拥有“慢思考”能力的大模型,都会是一名更得力的助手,与科学长相厮守。

wKgaomctx-KAPAcvAAGnxc45Lk4854.jpg

ChatGPT的第一个应用案例,就是帮学生写作业,为此遭到了各国多所学校的严格限制。这种应用场景虽然不可取,但说明了一个道理:充斥着大量文本、重复任务的教育行业,是大模型落地的绝佳场景。

过去一年多来,“大模型+教育”这个新风口的爆发,也证实了教育产业AI化的价值切实存在。但真正落地的应用,主要还是以AI口语对话、AI批改作文、LLM翻译、中英文写作等功能为主。

一旦覆盖到复杂的学科内容,比如数学、物理、化学等,连“9.9跟9.11谁大”都搞不清楚的GPT们就集体熄火了。国产大模型也同样如此,一位国产数学大模型的工作人员告诉我,做数学题的正确率是60%。试问哪个家长敢让数学成绩刚及格,还热爱“胡说八道”的AI给孩子当家教呢?

逻辑推理,限制了模型的能力边界。而模型的能力限制,又进一步影响了智能教育硬件、个性化AI在线辅导服务的市场化推广步伐。可以说,解决大模型+教育的商业化问题,最关键的是问技术要出路,这也是慢思考模型的价值所在。

首先,具备慢思考的大模型,数学推理的能力飞跃,数学正确率更是肉眼可见地高涨。在刚刚结束的2024 IOI信息学奥赛题目中,o1的微调版本在每题尝试50次条件下取得了213分,属于人类选手中前49%的成绩。如果允许它每道题尝试10000次,能获得362.14分,可以获得金牌。对于有算力、有开发能力的教育大模型公司来说,完全有可能开发出数学能力很强的垂类大模型,提供面向复杂学科或高年龄学段的AI辅导功能。

其次,叠加了多模态的推理大模型,进一步开拓教育应用。在泄露出来的完整版o1,已经具备多模态能力了,支持上传附件,或直接识图。有网友将一道普特南数学竞赛的证明题截图发给o1,就被具有图像推理能力的o1成功搞定。这意味着教育类大模型不再局限于文本、语言对话类的功能,可以跟物理世界产生交互,比如拍照答题、实时视频问答等,不管学生问的是现实世界中的什么问题,AI都能大概率找出正确答案。

更为关键的是,由于慢思考的模型不再一味追求参数、追求scaling law,而是着重于提高推理能力和认知效率。也就是说,面对一个复杂问题或任务,AI大模型开始以“更聪明”的方法,而非“力大飞砖”的笨办法,模型的参数规模更小,更便于在硬件终端上部署,在同样的终端配置下,推理大模型可以表现更出色,这有利于AI学习机等教育类智能硬件的普及,为教育行业带来新的增长点。

wKgaomctx-aAfPCgAAImf_lzI-Y441.jpg

虽然慢思考的类o1大模型还是个新鲜事物,OpenAI噱头大于实际的营销手段也招人吐槽,但可以肯定的是,更强逻辑推理能力的大模型,将成为模厂与行业在智能化领域所必须拿下的高地,去解决此前LLM+行业的结合止于浅层应用、难以应对复杂业务的产业化痛点,进而打开大模型的商业化空间。

究其核心,是AI大模型开始走出语言类任务的局限,可以在容错率低、专业性强的严肃工作中发挥价值。

专家型人才稀缺的行业场景,往往也是高价值所在。懂得慢思考的大模型,正慢慢行业专家化,这让大模型更有价值,也让会思考的人更有价值了。

wKgaomctx-iANiPtAAHbiV04LzM348.jpg

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30403

    浏览量

    268648
  • OpenAI
    +关注

    关注

    9

    文章

    1058

    浏览量

    6435
收藏 人收藏

    评论

    相关推荐

    OpenAI发布o1大模型,数理化水平比肩人类博士,国产云端推理芯片的新蓝海?

    电子发烧友网报道(文/吴子鹏)9月12日晚,OpenAI正式对外发布一款名为o1的新模型。OpenAI o1的内部代号为“草莓”,具备超强的逻辑推理能力。和传统大模型不同,OpenAI o1
    发表于 09-14 00:04 1376次阅读
    OpenAI发布<b class='flag-5'>o1</b>大模型,数理化水平比肩人类博士,国产云端<b class='flag-5'>推理</b>芯片的新蓝海?

    阿里云开源推理大模型QwQ

    推理能力,尤其在数学和编程方面表现突出。其整体推理水平已经可以与OpenAI的o1模型相媲美,这充分展示了QwQ的强大实力和潜力。 QwQ(Qwen with Questions)是通义千问Qwen大模型系列中的最新实验性研究模
    的头像 发表于 11-29 11:30 479次阅读

    昆仑万维推出“天工大模型4.0”o1版(Skywork o1)邀请测试

    近日,昆仑万维正式向外界推出了其最新研发的“天工大模型4.0”o1版(Skywork o1)。该系列模型以其独特的复杂思考推理能力,吸引了众多业内人士的关注。 据悉,Skywork o1
    的头像 发表于 11-28 10:33 198次阅读

    昆仑万维天工大模型4.0 O1版即将邀测

    昆仑万维公司近日宣布,其自主研发的天工大模型4.0 O1版(英文名:Skywork O1)将于11月27日正式启动邀请测试。这款模型是国内首款具备中文逻辑推理能力的o1模型,具有里程碑
    的头像 发表于 11-19 17:24 477次阅读

    Kimi发布新一代推理模型k0-math

    近日,Kimi国产大模型正式推出了其首款强化推理能力的模型——k0-math。该模型在多项数学基准能力测试中展现出了出色的表现,成功对标了OpenAI的o1系列模型。
    的头像 发表于 11-19 17:18 565次阅读

    天工大模型4.0 O1版即将启动邀测

    昆仑万维公司近日宣布,其自主研发的“天工大模型4.0 O1版”(Skywork O1)将于2024年11月27日正式启动邀请测试。这款模型是国内首款具备中文逻辑推理能力的O1模型,其发
    的头像 发表于 11-18 15:08 508次阅读

    Kimi发布新一代数学推理模型k0-math

    近日,Kimi正式推出了其新一代数学推理模型k0-math。据基准测试显示,该模型的数学能力可与全球领先的OpenAI o1系列中的o1-mini和o1-preview模型相媲美。 在
    的头像 发表于 11-18 11:38 369次阅读

    高效大模型的推理综述

    大模型由于其在各种任务中的出色表现而引起了广泛的关注。然而,大模型推理的大量计算和内存需求对其在资源受限场景的部署提出了挑战。业内一直在努力开发旨在提高大模型推理效率的技术。本文对现有的关于高效
    的头像 发表于 11-15 11:45 274次阅读
    高效大模型的<b class='flag-5'>推理</b>综述

    FPGA和ASIC在大模型推理加速中的应用

    随着现在AI的快速发展,使用FPGA和ASIC进行推理加速的研究也越来越多,从目前的市场来说,有些公司已经有了专门做推理的ASIC,像Groq的LPU,专门针对大语言模型的推理做了优化,因此相比GPU这种通过计算平台,功耗更低、
    的头像 发表于 10-29 14:12 238次阅读
    FPGA和ASIC在大模型<b class='flag-5'>推理</b>加速中的应用

    李开复:中国擅长打造经济实惠的AI推理引擎

    10月22日上午,零一万物公司的创始人兼首席执行官李开复在与外媒的交流中透露,其公司旗下的Yi-Lightning(闪电模型)在推理成本上已实现了显著优势,比OpenAI的GPT-4o模型低了31倍。他强调,中国擅长打造经济实惠的AI
    的头像 发表于 10-22 16:54 333次阅读

    OpenAl发布o1推理模型物化生水平比肩人类博士

    行业资讯
    电子发烧友网官方
    发布于 :2024年09月13日 15:14:57

    S8393独立三路电子按键开关芯片中文手册

    S8393 应用于三路按键开关分别控制三路输出驱动IC。Power On=OFF 三路开关对GND触发有效:按一下ON,再按一下OFF。三路独立互不干扰。2脚S1控制7脚O1输出,高电平输出有效3脚S1控制6脚
    发表于 07-24 11:44 1次下载

    深度探讨VLMs距离视觉演绎推理还有多远?

    通用大型语言模型(LLM)推理基准:研究者们介绍了多种基于文本的推理任务和基准,用于评估LLMs在不同领域(如常识、数学推理、常识推理、事实推理
    发表于 03-19 14:32 345次阅读
    深度探讨VLMs距离视觉演绎<b class='flag-5'>推理</b>还有多远?

    ChatGPT是一个好的因果推理器吗?

    因果推理能力对于许多自然语言处理(NLP)应用至关重要。最近的因果推理系统主要基于经过微调的预训练语言模型(PLMs),如BERT [1] 和RoBERTa [2]。
    的头像 发表于 01-03 09:55 825次阅读
    ChatGPT是一个好的因果<b class='flag-5'>推理</b>器吗?

    HarmonyOS:使用MindSpore Lite引擎进行模型推理

    如下图所示。**图 1 **使用 MindSpore Lite 进行模型推理的开发流程 进入主要流程之前需要先引用相关的头文件,并编写函数生成随机的输入,具体如下: #include <
    发表于 12-14 11:41