gpu

为什么选择Caffe深度学习框架Caffe的安装和程序概述

Caffe是一个深度学习框架，具有表达力强、速度快和模块化的思想，由伯克利视觉学习中心（BVLC）和社区贡献

2018-04-29 标签：IOGPUCaffe 4.7k 0

一文详解LLM模型基本架构

LLM 中非常重要的一个概念是 Token，我们输入给 LLM 和它输出的都是 Token。Token 在这里可以看做语言的基本单位，中文一般是词或字（...

2023-12-25 标签：gpurust语言LLM 4.7k 0

如何创建TensorFlow Server集群，及如何在该集群中发布计算图

一个常见的训练配置，被称为 “数据并行”，它涉及在不同的小批量数据上训练相同的模型额 worker 作业中的多个任务，更新在 ps 作业中的一个或多个任...

2019-01-25 标签：gpu函数tensorflow 4.7k 0

一、二、三代半导体的区别

在5G和新能源汽车等新市场需求的驱动下，第三代半导体材料有望迎来加速发展。硅基半导体的性能已无法完全满足5G和新能源汽车的需求，碳化硅和氮化镓等第三代半...

2024-04-18 标签：半导体cpugpu 4.7k 0

教你如何用两行代码搞定YOLOv8各种模型推理

大家好，YOLOv8 框架本身提供的API函数是可以两行代码实现 YOLOv8 模型推理，这次我把这段代码封装成了一个类，只有40行代码左右，可以同时支...

2023-06-18 标签：gpupythonpyqt5 4.7k 0

使用OpenVINO在Stable Diffusion V2.1上实现AI硬件加速的方法

随着 AIGC 模型越来越强大，并取得了更惊人的结果，任意运行 AIGC 模型, 比如 Stable Diffusion，对于开发人员来说仍然面临一些挑...

2023-07-21 标签：英特尔gpuAI 4.7k 0

NSDI '23热点论文：可编程、RDMA、数据中心、GPU有哪些新动态？

NSDI常年录取率非常低，稳定在20%以下，有的年份甚至低于15%。投稿量来看，在早几年中呈现出缓慢上升的趋势，从16年的228到2021年的369篇，...

2023-05-25 标签：gpu可编程网络通信 4.6k 0

Arm神经超级采样 以ML进一步强化性能 实现卓越的移动端图形性能

作者：Arm 战略与生态部主任工程师 Sergio Alapont 为满足用户对于手游体验的期望，例如更清晰的画面、更流畅的游戏体验，以及更长的电池续航...

2025-08-14 标签：ARMgpuML 4.6k 0

虚拟GPU为每位用户提供极佳体验

虚拟 GPU通过将数据中心 GPU 进行虚拟化，用户可在多个虚拟机中共享该GPU。这大大提高了应用程序和桌面的性能，并支持组织构建虚拟桌面基础架构 (V...

2018-06-26 标签：NVIDIAGPU 4.6k 0

OpenCL编程语言可以帮助我们使用GPU或者多核处理器的并行能力

按照串行的处理方式，处理一帧图像需要串行的经过6个处理单元，假设需要300us的延迟，每一个处理单元消耗50us。这是一种组合逻辑的实现过程，我们只需要...

2019-04-19 标签：处理器gpu编程语言 4.6k 0

在动态环境中使用CUDA图提高实际应用程序性能

具有许多小 CUDA 内核的应用程序通常可以使用 CUDA 图进行加速，即使内核启动模式在整个应用程序中发生变化。鉴于这种动态环境，最佳方法取决于应用程...

2022-04-01 标签：NVIDIAgpu 4.6k 0

NIVDIA和AMD GPU的LINUX电源管理框架讲解

Management PCI-Express Runtime D3 (RTD3) Power Management是一种用于管理PCI-Express设...

2023-08-08 标签：处理器电源管理gpu 4.5k 0

Rust目前在GPU编程生态方面的现状和前景

各种 GL API 的纯软实现，当没有可用的硬件时，它可以提供纯软件的 GL API 的实现； 它可以用于 Linux/Windows/Mac 等...

2023-11-21 标签：gpu编译器Rust 4.5k 0

在AMD GPU上如何安装和配置triton？

最近在整理python-based的benchmark代码，反过来在NV的GPU上又把Triton装了一遍，发现Triton的github repo已经...

2024-02-22 标签：amdgpuTriton 4.5k 0