瀚博发布首款面向边缘大算力场景推理卡载天VE1系列

9月3日，作为立足中国、服务全球的高端芯片设计公司，瀚博半导体参加2022世界人工智能大会，并同期举办“用‘芯’赋能 虚实无界——人工智能大芯片产业落地论坛”。会上，瀚博半导体创始人兼CEO钱军发布了瀚博统一计算架构、全新数据中心推理卡载天VA10、边缘AI推理加速卡载天VE1和瀚博软件平台VastStream扩展版，并预览了国产7nm云端GPU芯片SG100。

统一计算架构、AI芯片和软件平台

强大的芯片性能，源自优秀的计算架构。会上，瀚博发布了自主研制的统一计算架构（Vastai Unified Compute Architecture）。该架构整合了多款高性能计算引擎，拥有高效统一的存储管理、一致性接口和低链接延迟、完整的虚拟化功能、统一的底层软件设计、模块化的上层计算算子库和功能模块。瀚博统一架构让计算密集型的AI、视频、渲染任务性能得到最大化硬件加速，同时端到端缩小延时，一体化助力云端实时图形渲染、AI增强处理、视频编解码等需求。

瀚博还发布了数据中心推理卡载天VA10。这款加速卡搭载瀚博自研的超低延时、超高吞吐AI引擎，最大的亮点在于，Int8峰值算力达400TOPS，再次刷新业界纪录。载天VA10功耗150瓦，整体最高推理性能达到同功耗主流GPU的2倍以上，且延时低至后者的6%。在低延时场景（低于4毫秒的YoloV3检测算法场景）下，载天VA10的推理性能，更达到同功耗市场主流GPU的3倍以上。载天VA10适合多种需要高实时性的云端AI应用部署，如直播视频增强、智慧交通管理、实时语义理解等场景。

边缘算力产品也是此次产品发布的创新之处，瀚博发布了首款面向边缘大算力场景推理卡载天VE1系列。值得关注的是，载天VE1兼具超低时延与超高吞吐率，吞吐率达到主流GPU的2倍，但时延仅为其的1/5。

更重要的是，载天VE1功耗低、算力大，在 40~65瓦功耗下，INT8峰值算力达100 TOPS，这款加速卡支持60路1080P视频实时解码，支持主流AI框架的模型，提供从模型编译到推理优化的全流程低代码开发框架VastPipe，软硬结合为客户提供端到端的AI推理解决方案。

基于超高吞吐率和超低时延的优势，载天VE1可在众多关键场景发挥重要作用，比如高速公路事件检测、“人、车、非机动车”视频结构化、大数据研判等超高数据量并发场景；再比如，道路实时动态信息交互、工业的缺陷检测等低延时要求场景。载天VE1非常适用于智慧交通、车路协同、工业质检等边缘大算力场景。

硬件要发挥最佳性能，更需要软件的同步支持。因此，瀚博的软件平台VastStream应运而生，这一软件平台功能强大，可加速各类AI应用部署，包括计算机视觉、视频处理、自然语言处理、搜索与推荐、算子自定义扩展等。

VastStream的全新软件组件，提供系统管理等三大管理工具，方便客户部署，同时其基础软件栈功能更加丰富，特性包括统一接口、灵活调度、通用AI计算、多路高效视频转码+AI增强、易编程快迁移、工具链完备等。

至此，瀚博已形成一条涵盖了芯片、推理加速卡、一体机的硬件产品线和软件整合的系统解决方案。

国产7nm云端GPU：瀚博SG100

会上，钱军还展示了国产7nm云端GPU芯片SG100，这款芯片具备业界领先的图形渲染性能，拥有世界领先的超高吞吐、超高质量、低延时的编码能力，集渲染、AI、视频于一体，为云游戏、云手机、云桌面、云计算等元宇宙关键性应用场景提供深度优化。同时，SG100还提供世界一流的SR-IOV虚拟化支持，端到端整体提升用户视觉体验。

据悉，瀚博CEO钱军曾是AMD高管，在创办瀚博半导体之前，他曾带领AMD中国团队设计量产了业界第一颗 7 纳米图形处理器和第一颗 7 纳米 GPGPU 架构的 AI 芯片。同时，瀚博的核心研发团队也都拥有18年以上高端芯片设计和量产的经验。SG100的成功研制正是基于上述深厚且独一无二的技术背景和底蕴。

因为SG100的到来，瀚博正式进入了GPU市场。未来瀚博将基于GPU、AI和视频核心技术带来更多产品组合，更好地满足市场、客户的需求。

携手合作伙伴产业落地

产学研联盟打造应用生态

在人工智能、元宇宙新时代，AI芯片作为新型算力基础设施，将发挥至关重要的作用。瀚博半导体在积极研制业界领先的AI芯片的同时，一直在积极部署产业落地，助推数字经济发展。

2022年以来，瀚博先后与福建大数据集团、国宁瑞能、高新兴、超聚变等行业领先企业，在智慧城市、智慧政务、智慧交通、智慧园区、智慧能源等多元场景，开展深入合作，为企业智能化、数据化提供国产AI算力解决方案。

打造生态是瀚博半导体战略版图中的头等大事，为了促进技术生态的发展，瀚博一直在联合全球顶级的技术、人才、机构和高校建立合作。

会上，瀚博与上海交通大学人工智能研究院签约，开展校企合作，瀚博希望通过产学研用联盟的方式，让更多优秀的人才、资源参与进来，推动技术进步、人才培养、科研成果转化，建立智能芯片生态。

未来，瀚博将持续发挥自身产品超强算力、高效适配等优势， 携手合作伙伴，加速在各地、各类场景的产业化落地的步伐，赋能更多企业和政府机构实现智能化升级，用浩瀚算力助推中国数字经济发展。

审核编辑：彭静