gpu

芯片封装：向上堆叠，翻越内存墙

AMD 在代号 Milan-X 的 EPYC 7003X 系列处理器上应用了第一代 3D V-Cache 技术。这些处理器采用 Zen 3 架构核心，每...

2023-10-27 标签：处理器amdgpu 1.8k 0

一文详解多模态大模型发展及高频因子计算加速GPU算力 | 英伟达显卡被限，华为如何力挽狂澜？

近年来，全球范围内的芯片禁令不断升级，给许多企业和科研机构带来了很大的困扰，需要在技术层面进行创新和突破。一方面，可以探索使用国产芯片和其他不受限制的芯...

2023-10-26 标签：gpuAI算力 2.8k 0

大语言模型Fine-tuning踩坑经验分享

当然 MPT-7B-StoryWriter-65k+ [5] 模型也有较长的外推能力，主要在于，注意力这块使用了 ALIBI [6]。要拥有什么样的长度...

2023-10-26 标签：gpu数据处理ChatGPT 1k 0

集成显卡、核芯显卡和独立显卡的区别分析

显卡行业是计算机硬件产业中的一个重要分支，主要涉及图形处理器（GPU）的研发、生产和销售。显卡行业的竞争极为激烈，主要厂商包括英伟达、AMD、英特尔等。

2023-10-26 标签：英特尔gpu显卡 3.1k 0

深度解读各种人工智能加速器和GPU上的LLM性能特征

在不同的硬件平台上评估LLM对于理解传统和非传统体系结构的能力和局限性至关重要。先前的工作已经在超级计算机上研究了LLM，并使用传统的深度学习基准来提供...

2023-10-25 标签：神经网络gpu人工智能 1.7k 0

如何使用Rust创建一个基于ChatGPT的RAG助手

如今，ChatGPT 已经成为家喻户晓的名字，每个开发者都主动或被动地使用过 ChatGPT 或者是基于 ChatGPT 的产品。ChatGPT 很好，...

2023-10-24 标签：机器人gpupython 2.6k 0

智算中心网络架构设计及组网实践案例

智算服务器可以满配 8 张 GPU 卡，并预留 8 个 PCIe 网卡插槽。在多机组建 GPU 集群时，两个 GPU 跨机互通的突发带宽有可能会大于 5...

2023-10-20 标签：gpu数据中心网络架构 9.7k 0

锐龙7000G APU实现跨越三代的飞跃式升级

AMD APU处理器是很多追求高性价比的主流和入门用户的首选，但是近几年，AMD APU的发展重心放在了笔记本上，对于桌面平台意兴阑珊，产品换代速度很慢...

2023-10-19 标签：cpugpuAPU 1.3k 0

AI网络未来十年以太网交换机市场的增长动力吗？

根据 IDC 的数据，2022 年，AI 网络市场已达到 20亿美元，其中 InfiniBand 贡献了 75% 的收入。

2023-10-19 标签：以太网gpu交换机 2.1k 0

AR/VR热管理方案

VR/AR一体机是将独立运算系统、光学显示系统、音频系统、感知交互系统高度集成在一体空间的头戴式智能装备。在逐渐智能化发展的同时，也在向轻薄化、高性能和...

2023-10-17 标签：gpuAr石墨烯 8.3k 0

GPU在雷达信号处理算法中的优势

雷达信号处理算法对计算机架构提出了很高的实时性要求。好在这些算法具有数据并行性，可以在大规模并行架构（如图形处理单元（GPU））上获得出色的性能。

2023-10-17 标签：gpu算法雷达信号 2.9k 0

深度学习经典的自动标注软件介绍

该项目可以自动生成基于激光雷达的运动对象分割的训练数据。该工具通过批量离线处理数据来实现这一点。

2023-10-17 标签：gpu激光雷达深度学习 3.7k 0

一文详解CPU、内存、GPU知识

CPU通常被称为计算机的大脑，是一台计算机的运算核心（Core）和控制核心（ Control Unit），也是整个计算机系统中最重要的组成部件。主要包括...

2023-10-15 标签：cpugpu服务器 5.2k 0

什么是卷积神经网络？如何MATLAB实现CNN？

卷积神经网络（CNN 或 ConvNet）是一种直接从数据中学习的深度学习网络架构。 CNN 特别适合在图像中寻找模式以识别对象、类和类别。它们也能很...

2023-10-12 标签：滤波器gpu深度学习 2.6k 0

芯片行业基础知识概述

芯片行业的设计领域，指的是规格制定、架构设计到tape out的所有流程。tape out是什么，可能很多朋友不清楚，那换个说法，对于芯片设计而言，简单...

2023-10-11 标签：处理器gpu射频前端 6.2k 0

NVLink的演进

2014年，NVLink 1.0发布，并应用在P100芯片上，如下图所示。两颗GPU之间有4条NVlink, 每个link中包含8个lane, 每条la...

2023-10-11 标签：gpuPCIePHY 4.8k 0

QT在Linux嵌入式设备上的系统配置

QT是目前主流的UI界面设计软件之一，Linux系统也支持QT应用，并且提供了很多方便的接口。所以有必要记录一下基于QT，在LCD屏幕上实现UI界面功能...

2023-10-11 标签：嵌入式lcdgpu 2.9k 0

主流大模型推理框架盘点解析

vLLM是一个开源的大模型推理加速框架，通过PagedAttention高效地管理attention中缓存的张量，实现了比HuggingFace Tra...

2023-10-10 标签：神经网络gpu服务器 7.6k 0

探索闪存内存如何应对“内存墙”的可行性

首先，内存请求与闪存内存之间存在颗粒度不匹配。这导致了在闪存上需要存在明显的流量放大，除了已有的闪存间接性需求[23,33]之外：例如，将64B的缓存行...

2023-10-09 标签：闪存DRAMgpu 2.2k 0

深度学习模型部署与优化：策略与实践；L40S与A100、H100的对比分析

随着生成式AI应用的迅猛发展，我们正处在前所未有的大爆发时代。在这个时代，深度学习模型的部署成为一个亟待解决的问题。尽管GPU在训练和推理中扮演着关键角...

2023-10-07 标签：gpuAI深度学习 3.2k 0