gpu

主流GPU/TPU集群组网方案深度解析

用于连接 GPU 服务器中的 8 个 GPU 的 NVLink 交换机也可以用于构建连接 GPU 服务器之间的交换网络。Nvidia 在 2022 年的...

2024-04-24 标签：gpu服务器InfiniBand 50 0

AI训练，为什么需要GPU？

随着由ChatGPT引发的人工智能热潮，GPU成为了AI大模型训练平台的基石，甚至是决定性的算力底座。为什么GPU能力压CPU，成为炙手可热的主角呢？要...

2024-04-24 标签：gpuAI人工智能 380 0

深度剖析AI网络中GPU与光模块配比及需求

市场上存在多种计算光模块与GPU比例的方法，导致结果不相同。造成这些差异的主要原因是不同网络结构中光模块数量的波动。所需的光模块的准确数量主要取决于几个...

2024-04-23 标签：gpu交换机光模块 68 0

未来轻量级深度学习技术探索

除了轻量级架构设计外，作者提到了可以应用于压缩给定架构的各种高效算法。例如，量化方法 旨在减少数据所需的存储空间，通常是通过用8位或16位数字代替32位...

2024-04-23 标签：神经网络gpu深度学习 35 0

全面解读英伟达NVLink技术

NVLink是一种解决服务器内GPU之间通信限制的协议。与传统的PCIe交换机不同，NVLink带宽有限，可以在服务器内的GPU之间实现高速直接互连。第...

2024-04-22 标签：gpu服务器交换机 69 0

RDMA在高速网络中的应用及其实现策略

在大型模型应用领域，要获得最佳性能，关键在于精密配置，特别是当GPU与InfiniBand网卡协同工作时。这里参考了合作伙伴NVIDIA推出的DGX系统...

2024-04-22 标签：cpugpu适配器 68 0

一文解析AI驱动光模块变革

传统的三层架构已不再适应日益增长的数据中心流量需求，叶脊架构的出现解决了这一问题。叶脊架构下，光模块数量可高达数十倍，以满足大规模AI集群对大带宽、低时...

2024-04-22 标签：gpu数据中心光通信 65 0

英伟达GPU垄断局面下，开源能否成为颠覆市场的关键力量？

开源是AMD AI软硬件生态系统的一大卖点，虽然ROCm软件自 2016 年推出以来一直是开源的，但是固件的开源也很重要，AMD GPU 上的MES固件...

2024-04-18 标签：amd寄存器gpu 88 0

一、二、三代半导体的区别

在5G和新能源汽车等新市场需求的驱动下，第三代半导体材料有望迎来加速发展。硅基半导体的性能已无法完全满足5G和新能源汽车的需求，碳化硅和氮化镓等第三代半...

2024-04-18 标签：半导体cpugpu 96 0

基于生物识别的门禁系统解决方案

在生物识别访问控制系统发展过程中，物联网（IoT）和人工智能（AI）的融合为该技术的市场推广注入了新的活力。物联网设备可以与接入系统通信，实现远程控制和监控。

2024-04-17 标签：cpu门禁系统gpu 60 0

GPU：量化理论计算的新引擎

在过去的几十年里，量化理论计算一直是化学研究的关键工具。密度泛函理论（DFT）、分子力学（MM）、耦合簇（CC）等方法在预测分子结构、能量、光谱性质等方...

2024-04-16 标签：处理器gpuDFT 83 0

GPU/TPU集群网络组网间的连接方式

用于连接 GPU 服务器中的 8 个 GPU 的 NVLink 交换机也可以用于构建连接 GPU 服务器之间的交换网络。Nvidia 在 2022 年的...

2024-04-16 标签：以太网gpu服务器 146 0

什么是NVIDIA？InfiniBand网络VSNVLink网络

NVSwitch物理交换机将多个NVLink GPU服务器连接成一个大型Fabric网络，即NVLink网络，解决了GPU之间的高速通信带宽和效率问题。

2024-04-16 标签：以太网gpu交换机 145 0

常用的RGB-D SLAM解决方案

BundleFusion是一种稠密的实时室内场景三维重建算法框架。输入为RGB-D相机采集的并且是对齐好的RGB图像和深度图的数据流。输出为重建好的稠密...

2024-04-16 标签：机器人gpuSLAM 127 0

AI服务器异构计算深度解读

AI服务器按芯片类型可分为CPU+GPU、CPU+FPGA、CPU+ASIC等组合形式，CPU+GPU是目前国内的主要选择（占比91.9%）。

2024-04-12 标签：gpu服务器异构计算 82 0

NuLink PHY技术：突破计算芯片内存瓶颈

NuLink PHY技术通过双向传输功能和灵活的设计，为构建更优越的计算引擎提供了新的途径。相比传统的硅中介层封装技术，NuLink PHY能够提高计算...

2024-04-11 标签：gpu人工智能网络传输 87 0

一文带你了解NVIDIA Jetson

计算机发展成为今天的机器有着悠久的历史，今天看到的许多计算机都遵循类似的设计结构，至少包含CPU、GPU、内存和存储。迄今为止，我们对计算机设计的了解大...

2024-04-09 标签：NVIDIAgpu人工智能 122 0

探究GPGPU体系结构优化策略

GPU Warp内，32个线程（NVIDIA）锁步lock step执行时，如果遇到每个分支走上了不同分支，比如20个线程if，12个执行else，那么...

2024-04-09 标签：gpu内存线程 216 0

为什么GPU适用于AI？AI服务器产业链格局分析

GPT模型对比BERT模型、T5模型的参数量有明显提升。GPT-3是目前最大的知名语言模型之一，包含了1750亿（175B）个参数。在GPT-3发布之前...

2024-04-09 标签：cpugpu人工智能 100 0

全面解读英伟达AI芯片发展蓝图

　基于B100双Die架构，采用双Socket板级3D扩展可以实现与X100同等的算力。类似的方法也可以应用到X100中进一步扩展算力。

2024-04-09 标签：NVIDIAgpu英伟达 176 0