0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

千卡算力破局:科通技术以"AI大模型+AI芯片"重构智算底座

科技见闻网 来源:科技见闻网 作者:科技见闻网 2025-03-17 11:14 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

2025年,随着DeepSeek大模型的开源迭代,AI技术云计算领域的应用加速渗透,市场对高性能AI芯片的需求迎来爆发式增长。作为AI算力供应链的核心供应商,深圳市科通技术股份有限公司(以下简称“科通技术”)推出的“DeepSeek+AI芯片”全场景方案,在云AI领域取得重大突破。除了GPU的算力总量,云AI的一大挑战来源于GPU集群的数据互联效率。某大型互联网集团为解决云AI系统中千卡级GPU集群的高性能需求,面临服务器与加速卡间数据交换带宽和延迟的严苛挑战。科通技术联合全球顶尖设备原厂,基于Infiniband技术打造了叶-脊(Leaf-Spine)架构的服务器网络集群方案,成为云场景算力升级的标杆案例。

Infiniband技术是一种高性能的计算机网络技术,它在数据传输方面具备高带宽、低延迟的显著优势,能够快速处理大量数据,满足AI计算对数据传输速度的严苛要求。而叶-脊架构是一种常用于数据中心网络的拓扑结构,相较于传统网络架构,它有着更高的扩展性和更低的网络延迟,非常适合大规模集群的应用场景。

在技术细节上,科通技术采用高性能服务器CPU与高端GPU卡的组合,通过芯片级优化实现千块GPU卡池的高带宽、低延时数据交换。方案设计中,叶-脊架构的网络拓扑不仅满足了当前千卡级集群的数据吞吐需求,还通过预留充足的接口容量支持未来业务扩展,确保系统具备长期适应性。此外,科通技术为集群配置了100G/200G/400G高速网卡及智能网关设备。经测试,与传统方案相比,该方案可提供3.2倍以上数据交换吞吐量,不仅使AI推理效率提升了15%以上,还降低36%的功耗。这一方案的成功实施,科通在高速网络设备业务的显著提升直接带动了科通技术代理的各原厂专业GPU、服务器CPU及相关存储产品的销量增长。

在市场成效方面,该案例不仅帮助客户实现了大参数模型(如千亿级参数)的高并发训练与推理应用指标,还推动了科通技术在云AI基础设施领域的深度布局。通过代理全球80余家芯片原厂的核心产品,科通技术构建了覆盖云端训练、推理、存储、网络的全栈芯片矩阵,能够为不同规模客户提供定制化解决方案。随着DeepSeek大模型对算力需求的持续攀升,云场景的AI芯片采购量呈现指数级增长。科通技术已与多家头部互联网企业达成长期合作,预计未来云场景相关业务将持续带动公司营收增长。

可以预见,DeepSeek大模型的技术迭代将持续催化AI芯片在云端的应用需求。科通技术凭借全场景方案的技术整合能力和全球供应链优势,在AI算力供应链中占据重要地位。随着AI模型复杂度的提升和云服务规模的扩大,科通技术有望凭借其技术优势和市场布局,在行业中持续发展,为AI芯片应用产业的发展贡献重要力量。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    463

    文章

    54389

    浏览量

    469056
  • AI
    AI
    +关注

    关注

    91

    文章

    40982

    浏览量

    302534
  • 大模型
    +关注

    关注

    2

    文章

    3753

    浏览量

    5268
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    边缘AI临界点:深度解析176TOPS香橙派AI Station的产业价值

    310P芯片的底层架构,深度剖析这款产品的技术细节、门槛及其在实际产业落地中的真实价值。 一、176TOPS的产业门槛:为何这是边缘
    发表于 03-10 14:19

    Hailo-8 + RK3588实测!26TOPS加持,助力AI视觉升级!

    近年来,AI视觉在边缘端应用广泛,行业对AI推理硬件的要求也日益提升。传统CPU在CNN等视觉模型推理任务中逐渐显露瓶颈,而专用AI加速器成为
    的头像 发表于 03-02 16:46 394次阅读
    Hailo-8<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>卡</b> + RK3588实测!26TOPS加持,助力<b class='flag-5'>AI</b>视觉升级!

    RISC-V+类TPU架构:国产实现从&amp;quot;堆砌&amp;quot;到&amp;quot;精耕&amp;quot;的范式跃迁

    电子发烧友网报道(文/吴子鹏)在AI模型技术迅猛发展的今天,已成为决定模型性能与商业价值的
    的头像 发表于 02-11 09:29 5016次阅读
    RISC-V+类TPU架构:国产<b class='flag-5'>算</b><b class='flag-5'>力</b>实现从&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;堆砌&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;到&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;精耕&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;的范式跃迁

    机械臂越复杂越&amp;amp;quot;顿&amp;amp;quot;?别让控制器拖了后腿

    工业机器人动作越复杂,传统控制器越&quot;顿&quot;?ZMC900E用4核A55跑Linux轨迹,3核R5F硬件级专管EtherCAT通信,实现±1.5μs微秒级抖动,破解
    的头像 发表于 02-02 11:40 743次阅读
    机械臂越复杂越&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;<b class='flag-5'>卡</b>顿&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;?别让控制器拖了后腿

    中国芯片的拐点时刻

    作者|Taylor出品|芯片技术与工艺当OpenAI的GPT-5在得克萨斯州的机房中昼夜轰鸣,当Nvdia的H200芯片被炒至数十万美元仍一难求,中国的
    的头像 发表于 01-31 07:00 1974次阅读
    中国<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>的拐点时刻

    墨芯人工智能千卡集群正式签约入驻新疆中心

    在“东数西”国家工程全面推进的大背景下,新疆凭借其丰富的清洁能源和独特的区位优势,正迅速崛起为国家级网络的关键枢纽。近日,墨芯人工智能(以下简称“墨芯”)的千卡集群正式签约入驻新
    的头像 发表于 12-30 17:27 915次阅读

    运营商新赛道,软通华方如何提供&amp;amp;quot;通用+智&amp;amp;quot;的全景答案?

    随着5G、网络和数字化转型的深入,服务器在运营商的各类场景中扮演着关键角色。在IT数字化转型的初期,通用的占比很大,但是随着人工智能的迅速发展,智能计算产品开始逐步地崭露头角,
    的头像 发表于 11-26 16:02 665次阅读
    运营商<b class='flag-5'>算</b><b class='flag-5'>力</b>新赛道,软通华方如何提供&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;通用+智<b class='flag-5'>算</b>&<b class='flag-5'>amp</b>;<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;的全景答案?

    国产AI芯片真能扛住“内卷”?海思昇腾的这波操作藏了多少细节?

    最近行业都在说“AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思昇腾910B,实测下来有点超出预期——7nm工艺下
    发表于 10-27 13:12

    睿海光电领航AI光模块:超快交付与全场景兼容赋能智时代——创新实力助力全球客户构建高效底座

    到全场景兼容,从800G量产突破到1.6T前瞻布局,睿海光电始终客户需求为导向,技术创新为引擎,为全球AI基础设施建设提供坚实底座。凭借
    发表于 08-13 19:03

    腾视科技TS-NV-P100系列AI边缘盒子综合算高达157TOPS:重新定义AI边缘,赋能行百业智能化升级

    技术架构到场景落地,腾视科技TS-NV-P100系列AI边缘盒子 &quot;
    的头像 发表于 07-02 10:24 1941次阅读
    腾视科技TS-NV-P100系列<b class='flag-5'>AI</b>边缘<b class='flag-5'>算</b><b class='flag-5'>力</b>盒子综合算<b class='flag-5'>力</b>高达157TOPS:重新定义<b class='flag-5'>AI</b>边缘<b class='flag-5'>算</b><b class='flag-5'>力</b>,赋能<b class='flag-5'>千</b>行百业智能化升级

    腾视科技TS-NV-P100系列AI边缘盒子综合算高达157TOPS:重新定义AI边缘,赋能行百业智能化升级

    技术架构到场景落地,腾视科技TS-NV-P100系列AI边缘盒子 &quot;
    的头像 发表于 07-02 10:16 1312次阅读

    网络的“神经突触”:AI互联技术如何重构分布式训练范式

      电子发烧友网综合报道 随着AI技术迅猛发展,尤其是大型语言模型的兴起,对于的需求呈现出爆炸性增长。这不仅推动了智
    的头像 发表于 06-08 08:11 7699次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>网络的“神经突触”:<b class='flag-5'>AI</b>互联<b class='flag-5'>技术</b>如何<b class='flag-5'>重构</b>分布式训练范式

    加速是什么东西?它真能在AI战场上干掉GPU和TPU!

    随着AI技术火得一塌糊涂,大家都在谈&quot;大模型&quot;、&quot;
    的头像 发表于 06-05 13:39 1871次阅读
    智<b class='flag-5'>算</b>加速<b class='flag-5'>卡</b>是什么东西?它真能在<b class='flag-5'>AI</b>战场上干掉GPU和TPU!

    边缘计算时代,技术AI方案重构分配格局

    随着AI模型技术的快速发展,其在终端设备中的应用正成为行业突破的关键方向。深圳市技术股份有限公司(以下简称“
    的头像 发表于 05-28 14:23 726次阅读

    用一套Linux系统,撑起整个芯片设计平台?CFA团队教你如何搭好EDA智平台的技术底座

    在半导体行业,Linux 是我们再熟悉不过的操作系统。作为芯片研发者日常工作的主战场,它承载着EDA工具、AI训练环境、脚本自动化流程的运转。而随着AI和EDA
    发表于 05-07 14:44