0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

从决策式AI进阶到生成式AI,SSD将变得更为重要

话说科技 来源:话说科技 作者:话说科技 2024-03-29 15:02 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

AI概念没有火热之前,无论手机还是PC都已经悄然引入人工智能加速相关的硬件和技术,目的是在部分功能上获得更好的体验,比如手机相册中的人脸智能识别和分类,PC和NAS在算力闲暇时对图像、视频的整理,以及视频通话时的背景虚化等等都是很好的例子。

这个时期的AI计算我们通常称为决策式AI,即在成熟的底层技术框架内,通过数据分类标签和辨别的形式,通过CPUGPU、NPU等处理器合力,它们的特点是,具备一套成熟的判断机制,通过夜以继日的训练识别,不断提升精度,并具有很强的针对性。

随着大模型的火爆,另一种AI也推向了大众视野,即被称为生成式AI。无论是云端AI服务加速,还是近期能够本地运行200亿参数大语言模型的AI PC,它们的思维是发散且具有创造性的,同时对硬件也提出了更高的要求。

生成式AI背后的海量数据

生成式AI与决策式AI最大的不同在于模型的规模,大模型计算本身意味着高算力、高存储需求。正因为如此,LLM大语言模型才会成为推向应用层面的首要选择,原因很简单,相对于图像、视频而言,抽象的文字已经是最好整理的了。

但即便如此,大语言模型本身占用的数据量仍然巨大,以GPT-3为例,光是训练参数就达到了1750亿个,训练数据达到45TB,每天会产生45亿字内容,每次训练费用需要460万美元。而进阶到GPT-4之后,训练参数从1750亿个增加到1.8万亿个,训练成本进一步提升到6300万美元,训练数据量信息虽然没有公布,但可想而知增长也是指数级的。

有意思的是,大语言模型训练在当下似乎已经变成了日常,头部厂商已经将目光投向了图像生成和视频生成,近段时间火热的文字生成视频应用Sora,以及文生图Midjourney都是很好的例子。现在我们知道光是文字内容就可以占据海量的存储空间,如果将训练模型换成图像、视频,对内容存储和读写性能需求也注定指数级攀升。

SSD很重要

随着生成式AI深入到不同领域,能够提供高速存储性能的SSD变得至关重要。不仅如此,对于企业和数据中心而言,存储的可靠性、能效、性价比,以及对前沿技术的支持都变得至关重要。比如,企业级用户会考虑在有限的机房空间内获得更多的容量,即提升单位存储密度,并且还要考虑机架和机房的散热能力和供电能力,这时候EDSFF规格似乎就成为了不错的选择。

wKgZomYGZ36Ado_eAAGs5eII26c246.png

EDSFF,即企业与数据中心标准外形规格,特点是由头部企业引领并获得行业认可,针对物理尺寸、散热、性能、布局、安装便捷性等特性优化,从而达到更好的效果。

比如铠侠CD8P就配备了前瞻性的EDSFF E3.S版本,支持PCIe®5.0和NVMe™ 2.0,可提供高达30.72TB的存储容量,拥有可达12,000MB/s顺序读取性能,并具备2000K IOPS的4K随机读取能力,在能耗与应用性能表现之间做到很好的平衡,为数据中心和企业级用户提供合理的扩容选择。

wKgZomYGZ36ASMQRAAGrrknpWcs679.png

如果希望性能更进一步,铠侠CM7系列作为高性能企业级双端口固态硬盘同样值得参考,事实上CM7系列是较早提供PCIe®5.0和NVMe™ 2.0支持,并已经充足释放PCIe®5.0性能的产品,最大容量同样也达到了30.72TB。拥有高吞吐量和高密度存储的性能表现,非常适合大模型计算,大数据,深度学习加速、AIGC等人工智能应用场景。

而随着生成式AI的硬件需求越来越高,同时也不能忽视庞大的数据量需要高性能接口、大容量存储支持,铠侠企业级和数据中心级固态硬盘则早已为其做好了充足的准备。未来AI的发展路径中,也注定少不了铠侠SSD承担起存储与加速的重要角色。

*容量的定义:铠侠定义1兆字节(MB)为1,000,000字节,1千兆字节(GB)为1,000,000,000字节,1兆兆字节(TB)为1,000,000,000,000字节。但是计算机操作系统记录存储容量时使用2的幂数进行表示,即定义1GB = 230= 1,073,741,824字节,因此会出现存储容量变小的情况。可用存储容量(包括各种媒体文件的示例)将根据文件大小、格式、设置、软件和操作系统(例如Microsoft®操作系统和/或预安装的软件应用程序)或媒体内容而异。实际格式化的容量可能有所不同。

*1千位字节 (KiB) 指210, 或1,024字节,1兆字节(MiB) 指220,或1,048,576 字节,1千兆字节(GiB)指230, 或1,073,741,824字节。

*IOPS:每秒输入输出(或每秒I/O操作数)

*读写速度可能因主机设备、读写条件和文件大小的不同而不同。

*信息随时可能更改:虽然铠侠在发布时已努力确保此处提供信息的准确性,但产品规格、配置、价格、系统/组件/选项等的可用性都可能发生更改,恕不另行通知。

*产品图像可以代表设计模型。图像仅用于说明目的。产品外观可能与实际产品不同。闪存组件的实际数量因硬盘容量而不同。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • SSD
    SSD
    +关注

    关注

    21

    文章

    3152

    浏览量

    122620
  • AI
    AI
    +关注

    关注

    91

    文章

    41295

    浏览量

    302667
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    [完结15章]Java转 AI高薪领域必备-01打通生产级AI Agent开发

    一种特殊的外部依赖进行深度治理。当你能够用Java的严密架构去驯服AI的不确定性,RAG与Agent真正嵌入企业的核心业务流中时,便完成了传统码农
    发表于 04-30 13:46

    Java转 AI高薪领域必备 01打通生产级AI Agent开发 教程资料

    了高昂的试错成本。经济学角度看,任何转型都必须算清“转换成本”。 “一站吃透AI Agent开发”的底层逻辑,就是学习路径的边际成本降到最低。它要求学习者不要去和算法工程师抢夺显
    发表于 04-29 17:08

    嵌入AI开发必看:杜绝幻觉,才是工业级IDE的核心底气

    、 PPEC Workbench全流程校验调试解决方案 PPEC Workbench 以“工业级可靠性”为核心,构建了覆盖代码生成部署落地的全流程校验调试体系,根源上杜绝AI幻觉,
    发表于 03-18 13:49

    AI辅助编程设计之道:SpecCode工程实践

    大语言模型正在重塑软件开发的日常。Copilot各种编程助手,AI生成代码的能力已经渗透许多开发者的工作流中。但在实际应用中,一个现象
    发表于 03-16 13:33

    使用NORDIC AI的好处

    不依赖持续联网,整体系统可靠性更高。[Edge AI 概述; Nordic Edge AI 技术页] 覆盖“小 MCU”“高性能 SoC”的完整产品线 Neuton 模型 :超
    发表于 01-31 23:16

    生成AI如何变革机器人工作流程

    非常激动地和大家分享我们最近的一些酷炫成果:我们正在利用生成 AI,让机器人变得更加灵活,使用起来也更加便捷!
    的头像 发表于 12-02 15:06 1796次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>如何变革机器人工作流程

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片AGI芯片

    解决人类智能无法解决的复杂问题。实现AGI的AI相关研究机构和企业的主要目标。 一、生成AI点燃AGI之火 CHatGPT就是已经取得成功的生成
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的科学应用

    和量子计算的两项新兴的技术,将在生产假说方面发挥重要作用,从而改变科学发现的范式。 生成AI: 2、穷举搜索 3、分析排错与组合优化 分析排错是
    发表于 09-17 11:45

    【「AI芯片:科技探索与AGI愿景」阅读体验】+可期之变:AI硬件AI湿件

    生物化学计算机,它通过离子、分子间的相互作用来进行复杂的并行计算。因而未来可期的前景是AI硬件走向AI湿件。 根据研究,估算出大脑的功率是20W,在进行智力活动时,其功率会增大25
    发表于 09-06 19:12

    智能体化AI生成AI的区别

    生成 AI 的核心是“生成内容” —— 比如用大模型写报告,是对输入指令的被动响应。而智能体化 AI(Agentic
    的头像 发表于 08-25 17:24 1923次阅读

    生成AI代理式AI:半导体技术赋能下一波创新浪潮

    AI领域始终在不断演进,我们正见证一场生成AI”时代“代理式
    的头像 发表于 08-21 17:59 1700次阅读
    <b class='flag-5'>从</b><b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b><b class='flag-5'>到</b>代理式<b class='flag-5'>AI</b>:半导体技术赋能下一波创新浪潮

    【书籍评测活动NO.64】AI芯片,过去走向未来:《AI芯片:科技探索与AGI愿景》

    到AGI,一起来探索AI芯片 本书创新视角出发,系统梳理了AI芯片的前沿技术与未来方向,串联起算法系统的实现路径,全景
    发表于 07-28 13:54

    SAP生成AI助手Joule是什么?虚拟同事智能团队全面提升企业生产力!

    SAP Joule 作为前沿生成 AI 助手,化身企业「数字员工」,以自动化流程处理、智能决策支持打破业务增长瓶颈。
    的头像 发表于 06-27 17:45 924次阅读
    SAP<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>助手Joule是什么?<b class='flag-5'>从</b>虚拟同事<b class='flag-5'>到</b>智能团队全面提升企业生产力!

    谷歌新一代生成AI媒体模型登陆Vertex AI平台

    我们在 Vertex AI 上推出新一代生成 AI 媒体模型: Imagen 4、Veo 3 和 Lyria 2。
    的头像 发表于 06-18 09:56 1316次阅读

    Gartner报告看Atlassian在生成AI领域的创新路径与实践价值

    Atlassian入选Gartner 2025生成AI技术"新兴领导者"!其核心AI产品Rovo依托Teamwork Graph,支持
    的头像 发表于 06-05 15:59 1279次阅读
    <b class='flag-5'>从</b>Gartner报告看Atlassian在<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>领域的创新路径与实践价值