0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

李开复:中国擅长打造经济实惠的AI推理引擎

要长高 2024-10-22 16:54 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

10月22日上午,零一万物公司的创始人兼首席执行官李开复在与外媒的交流中透露,其公司旗下的Yi-Lightning(闪电模型)在推理成本上已实现了显著优势,比OpenAI的GPT-4o模型低了31倍。他强调,中国擅长打造经济实惠的AI推理引擎,这是推动AI应用快速发展的关键因素。

根据加州大学伯克利分校SkyLab和LMSYS研究人员最新发布的大模型排名,零一万物与Grok-2和马斯克创立的xAI一同位列全球第三,仅次于OpenAI和谷歌的最新模型。李开复透露,Yi-Lightning的推理成本仅为每百万token 0.99元人民币(14美分),而OpenAI的较小模型o1-mini则需26美分每百万token,其更大的GPT-4o模型更是高达4.40美元每百万token。

此外,李开复还提到,Yi-Lightning的“预训练”成本为300万美元,仅为OpenAI训练GPT-4成本的3%,但性能却超越了后者。

面对尖端AI芯片供应紧张的现状,国内AI企业过去一年纷纷致力于开发高质量数据集,以训练出具有特色的“混合专家”模型。李开复指出,零一万物采用了优于传统网络抓取的数据收集方法,如扫描书籍、爬取深网数据以及使用创新的合成数据技术等。

他进一步强调,中国在数据标注和排序方面拥有大量技术精湛且勤奋的工程师,这使得中国在AI应用落地方面更具优势。“中国的优势不在于无预算限制的突破性研究,而在于能够以更好、更快、更可靠和更低成本的方式实现AI技术的实际应用。”李开复表示。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38161

    浏览量

    296838
  • OpenAI
    +关注

    关注

    9

    文章

    1238

    浏览量

    9816
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    AI推理的存储,看好SRAM?

    电子发烧友网报道(文/黄晶晶)近几年,生成式AI引领行业变革,AI训练率先崛起,带动高带宽内存HBM一飞冲天。但我们知道AI推理的广泛应用才能推动A
    的头像 发表于 03-03 08:51 2428次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>的存储,看好SRAM?

    什么是AI模型的推理能力

    NVIDIA 的数据工厂团队为 NVIDIA Cosmos Reason 等 AI 模型奠定了基础,该模型近日在 Hugging Face 的物理推理模型排行榜中位列榜首。
    的头像 发表于 09-23 15:19 843次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    ②Transformer引擎③NVLink Switch系统④机密计算⑤HBM FPGA: 架构的主要特点:可重构逻辑和路由,可以快速实现各种不同形式的神经网络加速。 ASIC: 介绍了几种ASIC AI芯片
    发表于 09-12 16:07

    端侧AI推理赋能效率革命,美格智能多领域落地打造行业范本

    产业进阶:端侧AI推理助手成为应用刚需作为人工智能技术最普遍的产品形式之一,“AI助手”已成为各类软件、终端的重要组成部分,成为AIAgent的主要外在呈现和功能入口。随着端侧算力的提升和端侧小模型
    的头像 发表于 08-25 17:06 3470次阅读
    端侧<b class='flag-5'>AI</b><b class='flag-5'>推理</b>赋能效率革命,美格智能多领域落地<b class='flag-5'>打造</b>行业范本

    华为亮相2025金融AI推理应用落地与发展论坛

    近日,2025金融AI推理应用落地与发展论坛在上海举行。中国银联执行副总裁涂晓军、华为数字金融军团CEO曹冲出席本次论坛并发表致辞。论坛上,华为公司副总裁、数据存储产品线总裁周跃峰博士发布AI
    的头像 发表于 08-15 09:45 958次阅读

    AI推理芯片赛道猛将,200亿市值AI芯片企业赴港IPO

    设计及商业化。公司推出了面向企业级、消费级、行业级三大类应用场景的行业领先的NPU驱动AI推理芯片相关产品及服务,成功打造了从AI推理基础设
    的头像 发表于 08-04 09:22 4096次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>芯片赛道猛将,200亿市值<b class='flag-5'>AI</b>芯片企业赴港IPO

    积算科技上线赤兔推理引擎服务,创新解锁FP8大模型算力

    北京2025年7月30日 /美通社/ -- 近日,北京积算科技有限公司(以下简称"积算科技")宣布其算力服务平台上线赤兔推理引擎。积算科技PowerFul-AI应用开发平台与赤兔合作,打造
    的头像 发表于 07-30 21:44 730次阅读

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    DeepSeek-R1:强大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基础技术研究有限公司开发的新一代AI大模型。其核心优势在于强大的
    发表于 07-16 15:29

    联想携手火山引擎中国消费者和企业打造安全可信的AI新未来

    近日,2025火山引擎FORCE春季原动力大会在京举办。联想集团执行副总裁兼中国区总裁刘军通过视频发表演讲,首度透露与火山引擎联合打造的联想“可信混合计算方案”。他表示,该方案使得天禧
    的头像 发表于 06-14 09:49 943次阅读

    谷歌新一代 TPU 芯片 Ironwood:助力大规模思考与推理AI 模型新引擎

    Cloud 客户开放,将提供 256 芯片集群以及 9,216 芯片集群两种配置选项。   在核心亮点层面,Ironwood 堪称谷歌首款专门为 AI 推理精心设计的 TPU 芯片,能够有力支持大规模思考
    的头像 发表于 04-12 00:57 3231次阅读

    AI大模型在汽车应用中的推理、降本与可解释性研究

    佐思汽研发布《2024-2025年AI大模型及其在汽车领域的应用研究报告》。 推理能力成为大模型性能提升的驱动引擎 2024下半年以来,国内外大模型公司纷纷推出推理模型,通过以CoT为
    的头像 发表于 02-18 15:02 1839次阅读
    <b class='flag-5'>AI</b>大模型在汽车应用中的<b class='flag-5'>推理</b>、降本与可解释性研究

    使用NVIDIA推理平台提高AI推理性能

    NVIDIA推理平台提高了 AI 推理性能,为零售、电信等行业节省了数百万美元。
    的头像 发表于 02-08 09:59 1334次阅读
    使用NVIDIA<b class='flag-5'>推理</b>平台提高<b class='flag-5'>AI</b><b class='flag-5'>推理</b>性能

    生成式AI推理技术、市场与未来

    OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相继发布,预示着生成式AI研究正从预训练转向推理(Inference),以提升AI逻辑推理
    的头像 发表于 01-20 11:16 1258次阅读
    生成式<b class='flag-5'>AI</b><b class='flag-5'>推理</b>技术、市场与未来

    什么是AI查询引擎

    AI 查询引擎可高效处理、存储和检索大量数据,以增强生成式 AI 模型的输入。
    的头像 发表于 01-10 10:00 2404次阅读

    智谱GLM-Zero深度推理模型预览版正式上线

    。 GLM-Zero-Preview专注于提升AI推理能力,擅长处理数理逻辑、代码以及需要深度推理的复杂问题。据官方介绍,与同基座模型相比,GLM-Zero-Preview在不显著降
    的头像 发表于 01-02 10:55 805次阅读