0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

从决策式AI进阶到生成式AI,SSD将变得更为重要

话说科技 来源:话说科技 作者:话说科技 2024-03-29 15:02 次阅读

AI概念没有火热之前,无论手机还是PC都已经悄然引入人工智能加速相关的硬件和技术,目的是在部分功能上获得更好的体验,比如手机相册中的人脸智能识别和分类,PC和NAS在算力闲暇时对图像、视频的整理,以及视频通话时的背景虚化等等都是很好的例子。

这个时期的AI计算我们通常称为决策式AI,即在成熟的底层技术框架内,通过数据分类标签和辨别的形式,通过CPUGPU、NPU等处理器合力,它们的特点是,具备一套成熟的判断机制,通过夜以继日的训练识别,不断提升精度,并具有很强的针对性。

随着大模型的火爆,另一种AI也推向了大众视野,即被称为生成式AI。无论是云端AI服务加速,还是近期能够本地运行200亿参数大语言模型的AI PC,它们的思维是发散且具有创造性的,同时对硬件也提出了更高的要求。

生成式AI背后的海量数据

生成式AI与决策式AI最大的不同在于模型的规模,大模型计算本身意味着高算力、高存储需求。正因为如此,LLM大语言模型才会成为推向应用层面的首要选择,原因很简单,相对于图像、视频而言,抽象的文字已经是最好整理的了。

但即便如此,大语言模型本身占用的数据量仍然巨大,以GPT-3为例,光是训练参数就达到了1750亿个,训练数据达到45TB,每天会产生45亿字内容,每次训练费用需要460万美元。而进阶到GPT-4之后,训练参数从1750亿个增加到1.8万亿个,训练成本进一步提升到6300万美元,训练数据量信息虽然没有公布,但可想而知增长也是指数级的。

有意思的是,大语言模型训练在当下似乎已经变成了日常,头部厂商已经将目光投向了图像生成和视频生成,近段时间火热的文字生成视频应用Sora,以及文生图Midjourney都是很好的例子。现在我们知道光是文字内容就可以占据海量的存储空间,如果将训练模型换成图像、视频,对内容存储和读写性能需求也注定指数级攀升。

SSD很重要

随着生成式AI深入到不同领域,能够提供高速存储性能的SSD变得至关重要。不仅如此,对于企业和数据中心而言,存储的可靠性、能效、性价比,以及对前沿技术的支持都变得至关重要。比如,企业级用户会考虑在有限的机房空间内获得更多的容量,即提升单位存储密度,并且还要考虑机架和机房的散热能力和供电能力,这时候EDSFF规格似乎就成为了不错的选择。

wKgZomYGZ36Ado_eAAGs5eII26c246.png

EDSFF,即企业与数据中心标准外形规格,特点是由头部企业引领并获得行业认可,针对物理尺寸、散热、性能、布局、安装便捷性等特性优化,从而达到更好的效果。

比如铠侠CD8P就配备了前瞻性的EDSFF E3.S版本,支持PCIe®5.0和NVMe™ 2.0,可提供高达30.72TB的存储容量,拥有可达12,000MB/s顺序读取性能,并具备2000K IOPS的4K随机读取能力,在能耗与应用性能表现之间做到很好的平衡,为数据中心和企业级用户提供合理的扩容选择。

wKgZomYGZ36ASMQRAAGrrknpWcs679.png

如果希望性能更进一步,铠侠CM7系列作为高性能企业级双端口固态硬盘同样值得参考,事实上CM7系列是较早提供PCIe®5.0和NVMe™ 2.0支持,并已经充足释放PCIe®5.0性能的产品,最大容量同样也达到了30.72TB。拥有高吞吐量和高密度存储的性能表现,非常适合大模型计算,大数据,深度学习加速、AIGC等人工智能应用场景。

而随着生成式AI的硬件需求越来越高,同时也不能忽视庞大的数据量需要高性能接口、大容量存储支持,铠侠企业级和数据中心级固态硬盘则早已为其做好了充足的准备。未来AI的发展路径中,也注定少不了铠侠SSD承担起存储与加速的重要角色。

*容量的定义:铠侠定义1兆字节(MB)为1,000,000字节,1千兆字节(GB)为1,000,000,000字节,1兆兆字节(TB)为1,000,000,000,000字节。但是计算机操作系统记录存储容量时使用2的幂数进行表示,即定义1GB = 230= 1,073,741,824字节,因此会出现存储容量变小的情况。可用存储容量(包括各种媒体文件的示例)将根据文件大小、格式、设置、软件和操作系统(例如Microsoft®操作系统和/或预安装的软件应用程序)或媒体内容而异。实际格式化的容量可能有所不同。

*1千位字节 (KiB) 指210, 或1,024字节,1兆字节(MiB) 指220,或1,048,576 字节,1千兆字节(GiB)指230, 或1,073,741,824字节。

*IOPS:每秒输入输出(或每秒I/O操作数)

*读写速度可能因主机设备、读写条件和文件大小的不同而不同。

*信息随时可能更改:虽然铠侠在发布时已努力确保此处提供信息的准确性,但产品规格、配置、价格、系统/组件/选项等的可用性都可能发生更改,恕不另行通知。

*产品图像可以代表设计模型。图像仅用于说明目的。产品外观可能与实际产品不同。闪存组件的实际数量因硬盘容量而不同。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • SSD
    SSD
    +关注

    关注

    20

    文章

    2689

    浏览量

    115493
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264044
收藏 人收藏

    评论

    相关推荐

    铠侠:PCIe Gen5 SSD袭卷2024年,闪存技术创新,加速生成AI落地

    电子发烧友网报道(文/黄晶晶)生成AI是最近行业最火的话题,作为存储芯片国际大厂的铠侠,对于闪存在生成AI时代的技术和应用有着前瞻的理解和举措。与此同时,铠侠也一直引领着PCIe
    的头像 发表于 04-02 18:03 3973次阅读

    NanoEdge AI的技术原理、应用场景及优势

    NanoEdge AI 是一种基于边缘计算的人工智能技术,旨在人工智能算法应用于物联网(IoT)设备和传感器。这种技术的核心思想是数据处理和分析云端转移到设备本身,从而减少数据传
    发表于 03-12 08:09

    嵌入系统发展前景?

    应用领域。随着汽车电子化和智能化程度的不断提高,嵌入系统将在汽车控制、安全系统、自动驾驶等方面发挥更为重要的作用。 工智能和机器学习技术的发展为嵌入系统提供了新的发展机遇。嵌入
    发表于 02-22 14:09

    亚马逊云科技助力沐瞳应用生成AI技术打造卓越游戏体验 赋能业务决策

    体验并赋能业务决策。沐瞳旗下游戏产品《Mobile Legends: Bang Bang》(以下简称《MLBB》)基于亚马逊云科技和其合作伙伴在生成AI领域的创新技术与解决方案,显著提升辱骂识别与舆情分析的响应速度与准确率,辱
    发表于 02-22 11:20 123次阅读
    亚马逊云科技助力沐瞳应用<b class='flag-5'>生成</b>式<b class='flag-5'>AI</b>技术打造卓越游戏体验 赋能业务<b class='flag-5'>决策</b>

    亚马逊云科技助力沐瞳应用生成AI技术打造卓越游戏体验 赋能业务决策

    决策。沐瞳旗下游戏产品《Mobile Legends: Bang Bang》(以下简称《MLBB》)基于亚马逊云科技和其合作伙伴在生成AI领域的创新技术与解决方案,显著提升辱骂识别与舆情分析的响应速度与准确率,辱骂识别准确率达
    的头像 发表于 02-22 09:25 251次阅读

    生成AI在物联网的行业应用及机遇

    生成AI将给物联网带来极大的机遇。”Yasser Alsaied表示,“客户要想构建一个物联网解决方案,需要涉及网关、摄像头、传感器、软件等诸多设备和环节,为此我们投入了很多资源,包括为客户提供生成
    发表于 12-19 14:27 134次阅读

    生成AI技术的应用前景

    生成AI(人工智能)与我们熟知的 AI 有何不同?这篇文章将为我们一探究竟!
    的头像 发表于 11-29 12:20 693次阅读

    理性理解AI决策过程

    随着人工智能(AI)的发展,其在各个领域的应用越来越广泛,从医疗诊断到金融交易,从自动驾驶到智能家居。然而,尽管AI的能力在不断提升,但其决策过程却常常让人感到困惑和不安。那么,我们应该如何理解
    的头像 发表于 11-22 09:39 262次阅读

    【KV260视觉入门套件试用体验】五、VITis AI (人脸检测和人体检测)

    都已编译预构建的 Vitis AI 开发板镜像中。您可直接运行示例。如有新程序,请在主机侧对其进行编译并将可执行程序复制目标。 1. 使用 scp 命令
    发表于 09-26 16:22

    AI:重新定义Intel

    英特尔公司首席执行官帕特·基辛格(Pat Gelsinger)在开幕主题演讲上表示:“AI代表着新时代的到来。AI正在催生全球增长的新时代,在新时代中,算力起着更为重要的作用,让所有人迎来更美好的未来。
    的头像 发表于 09-22 16:42 711次阅读

    AI智能呼叫中心

    、数据驱动决策以及人力成本节约,旨在深入剖析其核心优势和对企业的重要意义。一、自动化处理AI智能呼叫中心通过引入自然语言处理(NLP)、机器学习和自动化技术,使得呼叫中心的处理过程更加高效和准确,
    发表于 09-20 17:53

    NVIDIA Omniverse让AI训练变得更加简单易用

    Rendered.ai 将 NVIDIA Omniverse Replicator 集成到其合成数据生成平台,使 AI 训练变得更加简单易用。
    的头像 发表于 07-24 09:14 830次阅读
    NVIDIA Omniverse让<b class='flag-5'>AI</b>训练<b class='flag-5'>变得</b>更加简单易用

    虹软图像深度恢复技术与生成AI的创新 生成AI助力

    当前,生成式人工智能(AI)技术的快速发展令人瞩目。它能够理解人类的描述,并在短时间内生成逼真的图像和视频。在生成AI的应用中,图像深度信
    发表于 06-21 09:06 309次阅读

    国产生成AI,不能仅仅看向前方#生成AI #信息无障碍

    AI
    脑极体
    发布于 :2023年06月15日 19:06:36

    什么是生成AI生成AI的四大优势

    生成AI是一种特定类型的AI,专注于生成新内容,如文本、图像和音乐。这些系统在大型数据集上进行训练,并使用机器学习算法生成与训练数据相似的
    发表于 05-29 14:12 2730次阅读