电子发烧友App

硬声App

0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示
电子发烧友网>电子资料下载>电子资料>FBGEMM服务器端推理优化库

FBGEMM服务器端推理优化库

2022-06-22 | zip | 0.80 MB | 次下载 | 免费

资料介绍

授权协议 BSD
开发语言 C/C++
软件类型 开源软件

软件简介

Facebook 开源了 FBGEMM,一个针对服务器推理优化的高性能核心库。 与其他库不同,FBGEMM 最大程度优化了 CPU 性能,通过降低精度计算来加速深度学习模型。 目前 Facebook 已经在自己的服务中使用该库,与目前的生产基准相比,它带来了两倍的性能提升。

FBGEMM 的最大特点是优化低精度数据。 与科学计算中使用的传统线性代数库不同,FBGEMM 不使用 FP32 或 FP64 精度,可以为小批量提供有效的低精度通用矩阵乘法(GEMM)运算,并支持精确损失最小化技术,例如行式(Row-wise)量化和异常值感知量化。

FBGEMM 已在 Facebook 上大规模部署,加速了许多端到端人工智能服务,包括将英语翻译成西班牙语的速度提高 1.3 倍,减少了 40% 的推荐系统信息源动态内存带宽的使用 ,并将机器学习系统 Rosetta 的字符检测速度提升2.4倍(Rosetta 是 Facebook 用来理解文本,图像和视频内容的系统。)

pYYBAGKn5xCAMCZwAAGrawdgjsk926.jpg

 

下载该资料的人也在下载 下载该资料的人还在阅读
更多 >

评论

查看更多

下载排行

本周

  1. 1PFC电路与BOOST电路设计实例分享
  2. 1.83 MB   |  12次下载  |  4 积分
  3. 2世平基于灵动微 SPIN560C 的低压无刷电机应用方案
  4. 10.93 MB  |  11次下载  |  免费
  5. 3电源测试报告-基于 国民技术 N32L406 和杰华特 JW3376+3330 的 BMS 方案
  6. 6.47 MB  |  11次下载  |  免费
  7. 4PWM控制器的控制方法
  8. 0.39 MB   |  3次下载  |  4 积分
  9. 5电流检测芯片FP135应用说明
  10. 1.24 MB   |  3次下载  |  免费
  11. 6全面解读被动式与主动式PFC电路
  12. 1.27 MB   |  1次下载  |  4 积分
  13. 7HC88L051F4低功耗芯片规格书
  14. 4.76 MB  |  1次下载  |  免费
  15. 8CIU32D655x5数据手册
  16. 2.14 MB   |  1次下载  |  免费

本月

  1. 1常用电子元器件使用手册
  2. 2.40 MB   |  52次下载  |  免费
  3. 2高功率密度碳化硅MOSFET软开关三相逆变器损耗分析
  4. 2.27 MB   |  33次下载  |  10 积分
  5. 3PFC电路与BOOST电路设计实例分享
  6. 1.83 MB   |  12次下载  |  4 积分
  7. 4世平基于灵动微 SPIN560C 的低压无刷电机应用方案
  8. 10.93 MB  |  11次下载  |  免费
  9. 5电源测试报告-基于 国民技术 N32L406 和杰华特 JW3376+3330 的 BMS 方案
  10. 6.47 MB  |  11次下载  |  免费
  11. 6USB拓展坞PCB图资料
  12. 0.57 MB   |  11次下载  |  免费
  13. 7MS1826 HDMI 多功能视频处理器数据手册
  14. 4.51 MB   |  9次下载  |  免费
  15. 8HAL9303线性霍尔效应传感器技术手册
  16. 0.70 MB   |  9次下载  |  免费

总榜

  1. 1matlab软件下载入口
  2. 未知  |  935134次下载  |  10 积分
  3. 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
  4. 1.48MB  |  420064次下载  |  10 积分
  5. 3Altium DXP2002下载入口
  6. 未知  |  233089次下载  |  10 积分
  7. 4电路仿真软件multisim 10.0免费下载
  8. 340992  |  191424次下载  |  10 积分
  9. 5十天学会AVR单片机与C语言视频教程 下载
  10. 158M  |  183352次下载  |  10 积分
  11. 6labview8.5下载
  12. 未知  |  81600次下载  |  10 积分
  13. 7Keil工具MDK-Arm免费下载
  14. 0.02 MB  |  73818次下载  |  10 积分
  15. 8LabVIEW 8.6下载
  16. 未知  |  65991次下载  |  10 积分