0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

闪存破局“内存焦虑”,AI微调训练增加闪存消耗

晶芯观察 来源:电子发烧友 作者:黄晶晶 2025-03-26 09:28 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/黄晶晶)面对蓬勃发展的AI,在MemoryS 2025上,群联电子执行长潘健成表示,面对AI服务器成本太高、数据上云端不安全等挑战,在地端的AI微调训练对于解决问题而言是必须的。若一味增加GPU和内存数量,无疑将导致本地AI训练的成本奇高,无法获得普及效应。

wKgZO2fiDHGASBv9AAJO4VKl5Gc569.jpg
图:群联电子执行长潘健成


群联电子推出了独家发明且也是全球第一家将NAND应用于AI服务器中的满血版AI训推一体机平价方案aiDAPTIV+。通过aiDAPTIV+,企业可以在本地边缘环境中执行AI模型后微调训练,确保数据安全的同时显著降低AI训练成本。

群联电子aiDAPTIV+ 技术通过动态缓存,结合基于NAND 闪存“aiDAPTIVCache”缓存技术,扩展 HBM 和 GDDR 内存,显著提升性能。据悉,在 GTC 2025 大会上,群联携手 Maingear 公司推出了搭载 aiDAPTIV+ 技术的全球首款支援 LLMOps (Large Language Model Operations; 大型语言模型运作) 的消费级笔电,用户将可使用自身企业或个人资料来微调(Post-training/Fine-tuning) 最多 80亿 (8B) 参数的大型语言模型 (LLM),让预训练 (Pre-trained) 的AI模型能依据边缘应用场景与使用者需求进行客制化 (Post-training),以达到真正的AI落地普及化;此外,通过 aiDAPTIVLink 3.0 新版中间件 (Middleware),负责 SSD 的 NAND 和 GPU 之间的数据传输,提供更快的首个 Token 时间(TTFT)回调响应,并支持更大的 LLM(大型语言模型)提示上下文。

“我们的地端AI模型微调方案aiDAPTIV+,与NVIDIA创办人黄仁勋于CES演讲中提及的地端推论 (Inference) 机器设备策略相呼应,将为AI应用的地端模型微调训练以及推论带来更广泛的应用场景及SSD有很大帮助。”潘健成说道,本地AI微调训练将进一步增加英伟达GPU的销量,也将为闪存产业链打开新的市场空间,尤其是企业级SSD需求将从云端下沉到边缘端市场。

群联电子2024年业绩表现亮眼,总营收金额达新台币589.36亿元,较2023年增长达22%,创下历史第三高纪录。潘健成表示,2024年虽然面临全球消费市场疲软的挑战,但群联凭借坚强的技术实力与多样的产品布局,依旧在业界交出亮眼成绩。我们的存储解决方案在各大应用领域持续受到市场肯定,展现出群联的灵活应对能力与市场竞争力。

潘健成在演讲中指出,2024年群联电子研发支出近30亿元人民币,巨额研发支出带来了巨大压力,同样的,盈利难也导致NAND原厂资本支出开始放缓。

在他看来,若谈NAND产业未来路在何方,如何协助NAND原厂创造价值是重要课题之一。渠道市场存储产品需求快速下滑,“要能够生存就要长进”,系统整合厂要做NAND存储差异化、要创造价值。如在PC应用上,群联开发了PQC防伪方案,安装于PC的存储,可辨识AI合成图片、视频、文件,强化PC资料防护,价值是原来SSD的3倍。

他进一步认为,电子产业经历三大周期,从90年代的PC、到2000年左右的智能手机,再到现在的AI走入端侧,回看过去每一次的产业大爆发都带动半导体产业链10多年的成长动能。而这一次AI的到来也将产生新的长周期的半导体繁荣。毋庸置疑,端侧AI将带给存储巨大的机会。




声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 闪存
    +关注

    关注

    16

    文章

    1916

    浏览量

    117466
  • AI
    AI
    +关注

    关注

    91

    文章

    40982

    浏览量

    302533
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    如何使用 SPI NOR 闪存启动电路板?

    尝试从 SPI NOR 闪存启动自定义 T2080 板 我能够使用 CW IDE 中的闪存编程器将自定义 RCW bin 文件加载到串行 NOR 闪存中,但在使用 SPI 启动模式打开电路板电源后
    发表于 04-21 09:07

    AI大模型微调企业项目实战课

    业、守规矩、可完全掌控的专属 AI 底座,已经成为头部企业的隐性共识。 二、 核心微调——用极低成本撬动专业能力 很多企业对“自主训练
    发表于 04-16 18:48

    如何为 S32DS 中的特定变量(RAM、闪存、数据闪存)强制使用特定内存区域?

    remain 不受固件重新编程的影响或部分重新定位——功能类似于 EEPROM。 My Questions 如何配置S32DS 中的项目设置为变量(RAM、闪存或数据闪存)保留和分配特定内存地址? 我该
    发表于 04-16 06:52

    S32DS 3.5 内存映射视图在闪存擦除/写入后不更新问题怎么解决

    我将 S32 Design Studio 3.5 与 RDT 环境和 GHS 工具链一起使用,但我遇到了内存映射视图的问题。 当我在从 RAM 运行时执行闪存擦除和写入作时,实际内存内容会正确更新
    发表于 04-15 08:26

    深入剖析RX64M/RX71M组闪存内存:特性、配置与操作指南

    深入剖析RX64M/RX71M组闪存内存:特性、配置与操作指南 在电子工程领域,微控制器(MCU)的闪存内存是关键组件之一,它直接影响着设备的存储能力、数据安全性和操作效率。本文将详细
    的头像 发表于 03-31 17:15 338次阅读

    Renesas RX64M/RX71M 系列闪存内存硬件接口深度解析

    Renesas RX64M/RX71M 系列闪存内存硬件接口深度解析 引言 在嵌入式系统设计中,闪存内存的高效使用和管理至关重要。Renesas 的 RX64M 和 RX71M 系列微
    的头像 发表于 03-02 16:50 359次阅读

    深入解析RX64M/RX71M组闪存内存:特性、操作与安全保障

    深入解析RX64M/RX71M组闪存内存:特性、操作与安全保障 引言 在嵌入式系统设计中,闪存内存是关键的存储组件,其性能和可靠性直接影响着整个系统的运行。Renesas的RX64M和
    的头像 发表于 02-10 10:50 529次阅读

    闪存新标杆

    增加。芯天下技术股份有限公司凭借领先的存储技术和丰富的应用经验,倾力推出了 XT25F64F 3.3V Quad I/O 串行闪存产品。本文将详细介绍该产品的核心技术、优势特点、应用场景以及未来的发展趋势,帮助工程师和决策者全面了解这一高性能存储器件。 一、产品概述与背景
    的头像 发表于 10-15 10:40 700次阅读

    请问在单个DAVE™项目中是否支持16kb闪存大小的 MCU 和 32kb 闪存大小的 MCU?

    我有一个应用程序,有时为 14KB,有时为 18KB,这取决于我们是否启用或禁用某些功能。18KB 应用程序应加载到 XMC1302t028x0032(32KB 闪存 MCU),14KB 应用程序
    发表于 07-30 08:02

    紫光闪芯亮相2025全球闪存峰会

    近日,由DOIT传媒主办的“存力觉醒 AI未来——2025全球闪存峰会”在南京盛大召开。此次峰会汇聚了全球存储领域精英,深入探讨在人工智能浪潮中,闪存技术如何赋能数字化转型,推动产业发展迈向新高度。
    的头像 发表于 07-15 13:55 1927次阅读

    紫光国芯亮相2025全球闪存峰会

    近日,由DOIT传媒主办的2025全球闪存峰会(FMW 2025) 在南京盛大开幕。本届峰会以“存力觉醒 AI未来”为主题,聚焦以闪存内存芯片为核心的存储器产业生态创新与变革。作为国
    的头像 发表于 07-11 16:12 1725次阅读

    什么是Flash闪存以及STM32使用NAND Flash

    NAND 文章目录 NAND 一、FLASH闪存是什么? 二、SD NAND Flash 三、STM32例程 一、FLASH闪存是什么? 简介 FLASH闪存是属于内存器件的一种,“F
    发表于 07-03 14:33

    15%成本撬动100%体验!国产闪存如何改写AI玩具竞争规则

    AI玩具还被应用于早教、学习等领域,例如AI智能早教机等产品,这些应用场景需要存储大量的教育资源和数据,进一步增加了对闪存的需求。   并且不同类型的
    的头像 发表于 06-25 00:22 7385次阅读

    Flash闪存技术是什么?创世SD NAND Flash又有何独特之处?#嵌入式开发 #存储芯片 #闪存

    闪存
    深圳市雷龙发展有限公司
    发布于 :2025年06月05日 17:58:25

    海思SD3403边缘计算AI数据训练概述

    AI数据训练:基于用户特定应用场景,用户采集照片或视频,通过AI数据训练工程师**(用户公司****员工)** ,进行特征标定后,将标定好的训练
    发表于 04-28 11:11