0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔大模型全适配,大语言模型已成功部署于CPU

微云疏影 来源:综合整理 作者:综合整理 2023-12-11 15:41 次阅读

据媒体报道,美当地时间12月8日,联想集团举办了“AI PC产业创新论坛”活动,在会议中,英特尔中国区技术总经理高宇强调新一代酷睿Ultra处理器已适配超过10款中国国内的大型计算机模型。

他进一步指出,英特尔作为芯片制造商,始终致力于对“合适尺寸”模型的全面适配。面对大模型领域激烈的市场竞争,每个季度大约有4-5款新模型上市,一旦发现任何新的模型,英特尔承诺将立即派遣技术团队与相关模型厂商展开联合研究,推动目标模型在平台上的移植工作。

此外,在AI算力解决方案方面,英特尔采取XPU策略,即GPU、NPU和CPU并行使用。高宇也提到,目前在英特尔CPU上已成功应用大语言模型,且运行速度流畅;未来,这一模型也将在英特尔NPU上完成部署。展望未来,英特尔将持续深化与其包括联想集团在内的国内产业链的合作关系。

英特尔曾在上文提及的文章中明确表示,AI PC是指具备完整AI功能的PC设备。通过让AI在云端和PC之间协同工作,或者使大语言模型在单机环境下独立运行,实现对PC用户体验的根本性改造以及生产能力和创造力的充分释放。

值得一提的是,随着12月15日在国内的酷睿Ultra系列处理器发布会日益临近,这款新品同样拥有集成式NPU,能够提供低延时的Al计算服务。同时,英特尔表态自MeteorLake开始,将把Al广泛引入PC,引领全球数亿台PC迈入Al时代。此外,基于强大的x86生态系统,英特尔为广大用户提供丰富多样的软件模型和工具。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    447

    文章

    47821

    浏览量

    409207
  • 英特尔
    +关注

    关注

    60

    文章

    9428

    浏览量

    168899
  • 大模型
    +关注

    关注

    2

    文章

    1543

    浏览量

    1139
收藏 人收藏

    评论

    相关推荐

    基于北京迅为iTOP-RK3588大语言模型部署测试

    基于北京迅为iTOP-RK3588大语言模型部署测试
    的头像 发表于 04-25 14:35 268次阅读
    基于北京迅为iTOP-RK3588大<b class='flag-5'>语言</b><b class='flag-5'>模型</b><b class='flag-5'>部署</b>测试

    联发科旗舰芯片部署阿里云大模型

    全球智能手机芯片出货量领先的半导体公司联发科近日宣布,已成功在天玑9300等旗舰芯片上集成阿里云通义千问大模型,实现了大模型在手机芯片端的深度适配,此举尚属业界首次。
    的头像 发表于 03-28 13:59 149次阅读

    浪潮信息与英特尔合作推出一种大模型效率工具“YuanChat”

    3月26日,浪潮信息与英特尔正式宣布,浪潮信息“源2.0系列基础大模型”已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理速度提升100%。
    的头像 发表于 03-27 13:50 206次阅读
    浪潮信息与<b class='flag-5'>英特尔</b>合作推出一种大<b class='flag-5'>模型</b>效率工具“YuanChat”

    使用CUBEAI部署tflite模型到STM32F0中,模型创建失败怎么解决?

    看到CUBE_AI已经支持到STM32F0系列芯片,就想拿来入门嵌入式AI。 生成的模型很小,是可以部署到F0上的,但是一直无法创建成功。 查阅CUBE AI文档说在调用create函数前,要启用
    发表于 03-15 08:10

    用OpenVINO™在英特尔13th Gen CPU上运行SDXL-Turbo文本图像生成模型

    本文基于第 13 代英特尔 酷睿 i5-13490F 型号 CPU 验证,对于量化后模型,你只需要在 16G 的笔记本电脑上就可体验生成过程(最佳体验为 32G 内存)。
    的头像 发表于 01-18 17:13 484次阅读

    英特尔CPU部署Qwen 1.8B模型的过程

    本文介绍了在英特尔 13 代酷睿 CPU i5 - 13490F 设备上部署 Qwen 1.8B 模型的过程,你需要至少 16GB 内存的机器来完成这项任务,我们将使用
    的头像 发表于 01-12 10:28 1448次阅读

    #高通 #英特尔 #Elite 高通X Elite芯片或终结苹果、英特尔的芯片王朝

    高通英特尔苹果
    深圳市浮思特科技有限公司
    发布于 :2023年10月27日 16:46:07

    软硬协同优化,地平线旭日3成功部署14亿参数大语言模型

    近日,地平线成功在旭日3中的BPU®️计算单元上,部署运行参数规模高达14亿的大语言模型(Large Language Model , LLM)。这不仅是业界在端侧
    的头像 发表于 09-12 13:36 1003次阅读
    软硬协同优化,地平线旭日3<b class='flag-5'>成功</b><b class='flag-5'>部署</b>14亿参数大<b class='flag-5'>语言</b><b class='flag-5'>模型</b>

    地平线旭日3成功部署运行参数规模高达14亿的大语言模型

    近日,地平线成功在旭日3中的BPU计算单元上,部署运行参数规模高达14亿的大语言模型(Large Language Model , LLM)。这不仅是业界在端侧
    的头像 发表于 09-12 09:24 515次阅读

    使用OpenVINO优化并部署训练好的YOLOv7模型

    在《英特尔锐炫 显卡+ oneAPI 和 OpenVINO 实现英特尔 视频 AI 计算盒训推一体-上篇》一文中,我们详细介绍基于英特尔 独立显卡搭建 YOLOv7 模型的训练环境,并
    的头像 发表于 08-25 11:08 927次阅读
    使用OpenVINO优化并<b class='flag-5'>部署</b>训练好的YOLOv7<b class='flag-5'>模型</b>

    酷睿轻薄本也能运行大语言模型英特尔推动 PC 生成式 AI 落地

    展示了他们在 AIGC 上的技术方向,并进行了多个应用的演示。 首先,英特尔介绍了他们在大语言模型方面的优化和支持。在我们传统的认知里,运行类似 ChatGPT 这种大语言
    的头像 发表于 08-25 09:26 757次阅读
    酷睿轻薄本也能运行大<b class='flag-5'>语言</b><b class='flag-5'>模型</b>,<b class='flag-5'>英特尔</b>推动 PC 生成式 AI 落地

    AI大模型引发算力变革,英特尔与百度联合发起飞桨+文心大模型硬件生态共创计划 ,加速大模型开发与落地

    ,与众多人工智能专家学者和开发者深入交流,展示了英特尔AI的端到端能力。 同时,英特尔正式宣布与百度联合发起飞桨+文心大模型硬件生态共创计划,双方将共同推进在英特尔硬件上与飞桨+文心大
    的头像 发表于 08-19 11:15 649次阅读
    AI大<b class='flag-5'>模型</b>引发算力变革,<b class='flag-5'>英特尔</b>与百度联合发起飞桨+文心大<b class='flag-5'>模型</b>硬件生态共创计划 ,加速大<b class='flag-5'>模型</b>开发与落地

    为什么无法使用POT优化Tensorflow (TF)或MXNet模型

    无法使用 POT 优化 Tensorflow (TF) 或 MXNet 模型,以便在 英特尔凌动® 平台上使用 OpenVINO™ 工具套件进行推理。 运行 pot -h。 接收错误消息: 非法指令例外
    发表于 08-15 08:05

    英特尔媒体加速器参考软件Linux版用户指南

    英特尔媒体加速器参考软件是用于数字标志、交互式白板(IWBs)和亭位使用模型的参考媒体播放器应用软件,它利用固定功能硬件加速来提高媒体流速、改进工作量平衡和资源利用,以及定制的图形处理股(GPU)管道解决方案。该用户指南将介绍和解释如何为Linux* 使用
    发表于 08-04 06:34

    如何在英特尔® 平台上实现高效的大语言模型训练后量化

    本文介绍了可提升大语言模型的训练后量化表现的增强型 SmoothQuant 技术,说明了这项技术的用法,并证明了其在准确率方面的优势。此方法已整合至 英特尔  Neural Compressor
    的头像 发表于 07-14 20:10 568次阅读
    如何在<b class='flag-5'>英特尔</b>® 平台上实现高效的大<b class='flag-5'>语言</b><b class='flag-5'>模型</b>训练后量化