0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

千卡算力破局:科通技术以"AI大模型+AI芯片"重构智算底座

科技见闻网 来源:科技见闻网 作者:科技见闻网 2025-03-17 11:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

2025年,随着DeepSeek大模型的开源迭代,AI技术云计算领域的应用加速渗透,市场对高性能AI芯片的需求迎来爆发式增长。作为AI算力供应链的核心供应商,深圳市科通技术股份有限公司(以下简称“科通技术”)推出的“DeepSeek+AI芯片”全场景方案,在云AI领域取得重大突破。除了GPU的算力总量,云AI的一大挑战来源于GPU集群的数据互联效率。某大型互联网集团为解决云AI系统中千卡级GPU集群的高性能需求,面临服务器与加速卡间数据交换带宽和延迟的严苛挑战。科通技术联合全球顶尖设备原厂,基于Infiniband技术打造了叶-脊(Leaf-Spine)架构的服务器网络集群方案,成为云场景算力升级的标杆案例。

Infiniband技术是一种高性能的计算机网络技术,它在数据传输方面具备高带宽、低延迟的显著优势,能够快速处理大量数据,满足AI计算对数据传输速度的严苛要求。而叶-脊架构是一种常用于数据中心网络的拓扑结构,相较于传统网络架构,它有着更高的扩展性和更低的网络延迟,非常适合大规模集群的应用场景。

在技术细节上,科通技术采用高性能服务器CPU与高端GPU卡的组合,通过芯片级优化实现千块GPU卡池的高带宽、低延时数据交换。方案设计中,叶-脊架构的网络拓扑不仅满足了当前千卡级集群的数据吞吐需求,还通过预留充足的接口容量支持未来业务扩展,确保系统具备长期适应性。此外,科通技术为集群配置了100G/200G/400G高速网卡及智能网关设备。经测试,与传统方案相比,该方案可提供3.2倍以上数据交换吞吐量,不仅使AI推理效率提升了15%以上,还降低36%的功耗。这一方案的成功实施,科通在高速网络设备业务的显著提升直接带动了科通技术代理的各原厂专业GPU、服务器CPU及相关存储产品的销量增长。

在市场成效方面,该案例不仅帮助客户实现了大参数模型(如千亿级参数)的高并发训练与推理应用指标,还推动了科通技术在云AI基础设施领域的深度布局。通过代理全球80余家芯片原厂的核心产品,科通技术构建了覆盖云端训练、推理、存储、网络的全栈芯片矩阵,能够为不同规模客户提供定制化解决方案。随着DeepSeek大模型对算力需求的持续攀升,云场景的AI芯片采购量呈现指数级增长。科通技术已与多家头部互联网企业达成长期合作,预计未来云场景相关业务将持续带动公司营收增长。

可以预见,DeepSeek大模型的技术迭代将持续催化AI芯片在云端的应用需求。科通技术凭借全场景方案的技术整合能力和全球供应链优势,在AI算力供应链中占据重要地位。随着AI模型复杂度的提升和云服务规模的扩大,科通技术有望凭借其技术优势和市场布局,在行业中持续发展,为AI芯片应用产业的发展贡献重要力量。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53550

    浏览量

    459282
  • AI
    AI
    +关注

    关注

    89

    文章

    38153

    浏览量

    296819
  • 大模型
    +关注

    关注

    2

    文章

    3446

    浏览量

    4973
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    运营商新赛道,软通华方如何提供"通用+智"的全景答案?

    随着5G、网络和数字化转型的深入,服务器在运营商的各类场景中扮演着关键角色。在IT数字化转型的初期,通用的占比很大,但是随着人工智能的迅速发展,智能计算产品开始逐步地崭露头角,
    的头像 发表于 11-26 16:02 275次阅读
    运营商<b class='flag-5'>算</b><b class='flag-5'>力</b>新赛道,软通华方如何提供&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;通用+智<b class='flag-5'>算</b>&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;的全景答案?

    安谋发布“周易”X3 NPU,AI,智绘未来蓝图

    优化,为基础设施、智能汽车、移动终端及智能物联网四大关键领域,提供坚实而澎湃的AI基石,从而描绘出一幅清晰而广阔的智能未来图景。 一、夯实智能社会底座:基础设施的
    的头像 发表于 11-17 11:47 138次阅读
    安谋发布“周易”X3 NPU,<b class='flag-5'>破</b><b class='flag-5'>局</b><b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>,智绘未来蓝图

    国产AI芯片真能扛住“内卷”?海思昇腾的这波操作藏了多少细节?

    最近行业都在说“AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思昇腾910B,实测下来有点超出预期——7nm工艺下
    发表于 10-27 13:12

    什么是AI模组?

    未来,腾视科技将继续深耕AI模组领域,全力推动AI边缘计算行业的深度发展。随着AI技术的不断
    的头像 发表于 09-19 15:26 1156次阅读
    什么是<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>模组?

    什么是AI模组?

    未来,腾视科技将继续深耕AI模组领域,全力推动AI边缘计算行业的深度发展。随着AI技术的不断
    的头像 发表于 09-19 15:25 433次阅读
    什么是<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>模组?

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    能力 2)内存带宽 3)边缘设备的AI 2、架构与形态 1)AGI芯片的基本架构 设计AGI芯片需考虑哪些因素: ①具身智能的大部分功能
    发表于 09-18 15:31

    睿海光电领航AI光模块:超快交付与全场景兼容赋能智时代——创新实力助力全球客户构建高效底座

    到全场景兼容,从800G量产突破到1.6T前瞻布局,睿海光电始终客户需求为导向,技术创新为引擎,为全球AI基础设施建设提供坚实底座。凭借
    发表于 08-13 19:03

    腾视科技TS-NV-P100系列AI边缘盒子综合算高达157TOPS:重新定义AI边缘,赋能行百业智能化升级

    技术架构到场景落地,腾视科技TS-NV-P100系列AI边缘盒子 &quot;
    的头像 发表于 07-02 10:24 1480次阅读
    腾视科技TS-NV-P100系列<b class='flag-5'>AI</b>边缘<b class='flag-5'>算</b><b class='flag-5'>力</b>盒子综合算<b class='flag-5'>力</b>高达157TOPS:重新定义<b class='flag-5'>AI</b>边缘<b class='flag-5'>算</b><b class='flag-5'>力</b>,赋能<b class='flag-5'>千</b>行百业智能化升级

    腾视科技TS-NV-P100系列AI边缘盒子综合算高达157TOPS:重新定义AI边缘,赋能行百业智能化升级

    技术架构到场景落地,腾视科技TS-NV-P100系列AI边缘盒子 &quot;
    的头像 发表于 07-02 10:16 769次阅读

    网络的“神经突触”:AI互联技术如何重构分布式训练范式

      电子发烧友网综合报道 随着AI技术迅猛发展,尤其是大型语言模型的兴起,对于的需求呈现出爆炸性增长。这不仅推动了智
    的头像 发表于 06-08 08:11 7082次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>网络的“神经突触”:<b class='flag-5'>AI</b>互联<b class='flag-5'>技术</b>如何<b class='flag-5'>重构</b>分布式训练范式

    加速是什么东西?它真能在AI战场上干掉GPU和TPU!

    随着AI技术火得一塌糊涂,大家都在谈&quot;大模型&quot;、&quot;
    的头像 发表于 06-05 13:39 1295次阅读
    智<b class='flag-5'>算</b>加速<b class='flag-5'>卡</b>是什么东西?它真能在<b class='flag-5'>AI</b>战场上干掉GPU和TPU!

    边缘计算时代,技术AI方案重构分配格局

    随着AI模型技术的快速发展,其在终端设备中的应用正成为行业突破的关键方向。深圳市技术股份有限公司(以下简称“
    的头像 发表于 05-28 14:23 412次阅读

    用一套Linux系统,撑起整个芯片设计平台?CFA团队教你如何搭好EDA智平台的技术底座

    在半导体行业,Linux 是我们再熟悉不过的操作系统。作为芯片研发者日常工作的主战场,它承载着EDA工具、AI训练环境、脚本自动化流程的运转。而随着AI和EDA
    发表于 05-07 14:44

    DeepSeek推动AI需求:800G光模块的关键作用

    随着人工智能技术的飞速发展,AI需求正以前所未有的速度增长。DeepSeek等大模型的训练与推理任务对
    发表于 03-25 12:00

    国产化新标杆!卓怡恒通EPC-S4450边缘AI工控机开启工业智能新纪元

    在工业4.0与数字化转型浪潮的推动下,边缘计算正加速重构工业智能化版图。国内信创工业计算领域领军企业卓怡恒通今日正式发布EPC-S4450边缘AI工控机,&quot;全栈国产化+
    的头像 发表于 03-06 17:30 964次阅读
    国产化<b class='flag-5'>算</b><b class='flag-5'>力</b>新标杆!卓怡恒通EPC-S4450边缘<b class='flag-5'>AI</b>工控机开启工业智能新纪元