0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

国产纯自研、100+行业实践,探秘速石核心调度器Fsched

架构师技术联盟 来源:架构师技术联盟 2023-09-01 15:38 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

这是一篇推荐我们速石自研调度器——Fsched的文章。

看起来在专门写调度器,但又不完全在写。 往下看,你就懂了。

介绍一下主角速石自研调度器Fsched

fastone Scheduler,简称Fsched,是速石科技所有产品的核心调度组件。Ta是面向HPC集群的操作系统,是HPC集群的“大脑”,用于对HPC集群内的计算资源进行管理、监控,对用户提交的任务进行统一管理、分发和远程执行。

Fsched是速石科技基于开源的Slurm版本进化而来的全新产品。

01

我们的Fsched调度器到底厉害在哪?

先看一组我们在半导体领域用户的真实验证数据:

5个月时间内:

CPU调度峰值达到5万核;

提交了超过8000万Jobs;

构建超过700台机器组成的大规模集群;

使用量约3000万核时。

0356202a-47c0-11ee-97a6-92fbcf53809c.jpg

Fsched性能指标

吞吐量:

1000 jobs/second

响应时间:

1 ms

集群规模:

单个Fsched集群能够支持的最大节点数:1000

单个Fsched集群能够支持的最大CPU核数:30000

总结一下,Fsched调度器优势:

1. 完全由速石独立开发,性能卓越;

2. 我们能提供代码级技术支持;

3. 支持市面上几乎所有EDA工具

4. 服务了100+家不同类型的半导体行业用户;

5. 兼容LSF/SGE等调度器,使用体验不变。

关于调度器科普和不同流派近二十年的发展历程,可以点击回顾:亿万打工人的梦:16万个CPU随你用

02

代码级技术支持有什么不一样?

代码级技术支持的特别之处主要体现在解决问题的路径上。

一句话,我们能做很多人做不到的事情。

一般问题:我们站在产品视角来解决

特殊问题:我们以开发者身份来解决

比如一些特殊调度策略的改造与优化,我们是开发者,所以能做。包括各种调度器日志的监控分析,优化调度器的提交方式和脚本等等。

DEBUG:深入代码级的技术支持

举一个典型例子:当研发提交任务出现异常状态,怎么办?

我们首先需要定位与任务相关的日志。日志分为:基础设施层日志、中间件层日志、应用层日志等。IT和研发工程师的关注点不一样:IT工程师一般看基础设施层日志,CAD和研发工程师看中间件层日志和应用层日志。不同角色各看各的,定位问题效率低。

036c2ab4-47c0-11ee-97a6-92fbcf53809c.jpg

我们通过Fsched调度器:1. 把调度任务的异常日志分类,找出是哪一层的问题;

2. 任务状态跟踪,通过异常应用找出相应进程和IO信息,方便判断;

3. 通过数据分析抓取日志中的关键信息。

找到问题,over。

03

Slurm之上,我们还做了什么?

Slurm是厉害的:全球60%的TOP500超算中心和超大规模集群(包括我国的天河二号等)都采用Slurm作为调度系统。它拥有容错率高、支持异构资源、高度可扩展等优点,适用性相当强。

那么,基于Slurm之上,我们还做了些什么?

从0到1,帮助用户更快,更简单地用起来

1.产品级IT自动化管理,标准化地调用资源,保证环境一致性,降低用户配置复杂度和出错率,上手更容易;

2. 从业务出发,Fsched与底层资源的联动性强,根据任务需求自动伸缩,更符合云上使用方式。

038ab826-47c0-11ee-97a6-92fbcf53809c.png

从1到10,让用户用得稳定,用得放心1.对Slurm开源版进行修复与增强。修复Slurm开源版在复杂环境下任务异常崩溃等问题,增加了混合云智能调度能力; 2. 基于Wrapper组件,Fsched对上层EDA应用进行了兼容与优化,保证用户使用体验不变;

PS:同样是Wrapper,水平也是有高下的。要达到多年战斗在一线的专业高级口译的经验和水平,只能说:有难度。

3. 根据最佳实践经验总结的流程与规则,能优化EDA Workflow,提高调度器使用效率;

4.代码级支持能力让用户无后顾之忧。

只要有个调度器就够了吗?

答案自然是否定的。

为什么?

或许,我们可以换个角度来回答这个问题。

就像汽车出现之前,用户的期望永远是——1匹更快的马一样。

在当下芯片设计研发领域,我们如果把调度器类比马,那么汽车是什么呢?

我们给大家简单描绘一下:

一个站在整个芯片设计研发体系和架构视角来满足EDA行业用户性能、功能、体验的产品。

1. Ta是完整的一体化产品,功能紧密耦合,且经过层层实战考验;

2. Ta解决的是完整生命周期的芯片设计业务问题,调度器只是其中一个模块;

3. Ta具有对企业未来发展的弹性,能扩展至不同规模和更多业务路线,比如AI

03dc7daa-47c0-11ee-97a6-92fbcf53809c.jpg

而这,正是我们与其他很多产品最大的区别之一。

我们的产品在设计之初就是面向EDA应用,服务芯片设计研发业务场景的。这也决定了我们解决问题的出发点永远是:是否满足研发业务需求,然后从上至下地解决问题。

01

一整套上中下层联动的芯片研发环境

我们提供的是一整套上中下层联动的芯片设计研发环境:

1. 连接上层EDA应用,对应用本身的运行提供支持和优化;

2. 连接底层资源,给用户提供更灵活,更高效使用资源的能力;

3. 结合EDA应用和底层资源的联动和适配,给出最佳实践经验。

02

功能面向实际业务场景设计和提供

我们的功能都是面向实际业务场景设计和提供的:

1.License调度优化,可帮助企业用户最大化提升License利用率,更好地规划License购买策略,控制整体使用成本;

2. 我们能多维度监控任务状态,提供基于EDA任务层的监控、告警、数据统计分析功能与服务,让团队管理者监控各个重要指标变化,从全局角度掌握项目的整体任务及资源情况,为未来项目合理规划、集群生命周期管理、成本优化提供支持;

04018802-47c0-11ee-97a6-92fbcf53809c.jpg

3.日常数据统计与运营分析管理,实现问题可追溯,可追踪,降低成本,提升整体项目管理效率。

03

交互方式不改变EDA用户使用习惯

我们的交互方式不改变EDA用户的使用习惯。原来怎么用,现在还怎么用。

速石研发平台

VS

LSF Suite

半导体行业用户最熟悉的调度器是LSF,就不多介绍了。

不过,它背后的LSF Suite大家就不一定熟悉了。

来来,我们盘一下,我们速石研发平台跟LSF Suite的区别是什么?

01

根本区别:设计理念不一样

我们是站在整个芯片设计研发体系和架构视角来设计的一体化产品,解决的是完整生命周期的芯片设计业务问题,功能紧密耦合,且经过层层实战考验。

而Fsched调度器只是其中一个模块,不单独售卖,在我们的全线企业级产品均属内置,且与产品其他功能深度绑定。

这正是我们上一节提到的面向EDA业务的产品定位决定的。 而LSF Suite里的核心调度器LSF与其他组件是不关联的,属于可选项。这也导致了用户大多只接触过LSF,而对它的其他组件没有什么概念。

而且,因为各种功能组件之间独立存在的,用户使用的时候需要根据自己业务需要进行二次开发组装,从零开始进行功能模块需求评估、采购、对接、开发和测试验证兼容性,才能搭建出一个完整的研发环境,时间周期也会比较长。 另外还有期间的运维、后续的更新升级和功能扩展等事项。

02

性价比:速石研发平台TCO更低

下图是我们研发平台与LSF Suite的横向对比图,可以清楚地看到,两者的收费模式差别很大。

04486916-47c0-11ee-97a6-92fbcf53809c.jpg

我们Fsched调度器是包含在平台费用里的,相关组件也都是随产品一起内置的,不单独收费。

而LSF Suite除了核心调度器按使用核数收费以外,所有功能组件都需要额外收费。

从总拥有成本来看,对用户来说,速石研发平台付出的成本更低,获得的东西更多。还有很多隐性成本没有列在表格里,比如对接调试时间成本,人工成本,售后支持成本等等。

总结一下,我们跟LSF Suite的五大主要区别:

1.核心调度器Fsched完全国产自研,有代码级支持能力; 2. 我们的产品设计初衷就是提供面向EDA业务的一整套研发环境,可扩展性强;3.各功能模块紧密耦合,不单独收费,整体性价比高;4.我们的CAD能力与经验,能有效提高上中下层整体联动效率; 5. 我们兼容LSF/SGE等调度器,使用体验不变。

如果你想尝试AI——

目前,AI在芯片设计领域的应用主要有两条路线:

路线一:AI+EDA工具

Synopsys、Cadence与Siemens等公司纷纷在其最新工具中使用了AI技术,覆盖先进数字与模拟芯片的设计、验证、测试和制造环节,让开发者在芯片开发的每一个阶段都可以采用借助AI的自主学习能力,提供芯片设计生产力。

当然,越来越多EDA工具也支持借助GPU进行运算加速。

路线二:AI算法模型训练

Google研究人员使用10,000个芯片布局图来训练他们的深度学习模型——PRIME,人工智能生成的芯片的设计时间不到六个小时。

而NVIDIA设计了另一种用于芯片设计的深度学习方法——PrefixRL模型,NVIDIA使用其RL工具设计的电路比人类使用当今EDA工具设计的电路小25%,但性能相似。

路线一需要支持全流程EDA工具的一整套研发环境,以及构建异构资源(CPU+GPU、本地+云上)的调度及管理平台的能力。

路线二需要的支持企业从ML/LLM模型构建、大规模训练到最终部署需求的MLOps模块。

我们都有。

另外,我们刚刚发布的一款行业知识库聊天应用Megrez,面向企业客户提供大语言模型的私有化部署能力,允许用户自定义行业知识库,实现领域知识的问答

045bd168-47c0-11ee-97a6-92fbcf53809c.png

Megrez基于芯片设计领域提供的支持

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 操作系统
    +关注

    关注

    37

    文章

    7437

    浏览量

    129615
  • HPC
    HPC
    +关注

    关注

    0

    文章

    350

    浏览量

    25071
  • 调度器
    +关注

    关注

    0

    文章

    99

    浏览量

    5718

原文标题:国产纯自研、100+行业实践,探秘速石核心调度器Fsched

文章出处:【微信号:架构师技术联盟,微信公众号:架构师技术联盟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    基于米尔RK3576核心板的国产割草机器人解决方案

    核心主控方案需求日益迫切。 米尔电子基于瑞芯微RK3576处理推出的 MYC-LR3576核心板 ,凭借其 国产自主芯片架构、6 TOPS独立NPU算力、工业级宽温特性以及丰富的接
    发表于 04-24 17:31

    为什么100+吸尘厂家都选其利天下13万转无刷PCBA方案?3个核心优势揭秘

    其利天下依托高端芯片系列KY32DS024,从芯片底层、算法调校到量产落地全链路优化,成为行业头部厂家打造高端爆款的首选方案。本文揭
    的头像 发表于 04-17 09:00 181次阅读
    为什么<b class='flag-5'>100+</b>吸尘<b class='flag-5'>器</b>厂家都选其利天下13万转无刷PCBA方案?3个<b class='flag-5'>核心</b>优势揭秘

    汽车行业在阿里云使用平头哥真武PPU超10万卡

    4月11日,在2026智能电动汽车发展高层论坛上,阿里云智能集团公共云事业部副总裁、AI汽车行业总经理李强透露,目前已有30多家车企和智驾方案提供商在阿里云上开展智驾研发,实际使用的平头哥真武PPU已突破10万卡,创下汽车
    的头像 发表于 04-14 09:13 569次阅读

    深圳南柯电子|EMC摸底测试整改:这套标准流程已被100+企业验证

    深圳南柯电子|EMC摸底测试整改:这套标准流程已被100+企业验证
    的头像 发表于 01-19 09:51 299次阅读

    曙光存储连续斩获两个行业奖项

    近期,曙光存储连续斩获两个行业奖项,技术产品在国产突破、AI行业应用等方面的成果获得广泛关注。
    的头像 发表于 01-15 16:28 2719次阅读

    真原厂,全新850nm高速光纤发射正式发布!全兼容安华高(AVAGO)AFBR-1715

    型驱动芯片,由观岩科技自主研发,实现了从芯片到成品的100%全国产化与供应链安全可控!核心芯片的能力,全链可控的技术底气作为NRS171
    的头像 发表于 01-09 17:09 479次阅读
    真原厂,全新<b class='flag-5'>自</b><b class='flag-5'>研</b>850nm高速光纤发射<b class='flag-5'>器</b>正式发布!全兼容安华高(AVAGO)AFBR-1715

    季丰电子PCB管理系统的简单介绍

    季丰电子的PCB管理系统,整合报价+投板+Release三大核心模块,覆盖从设计发布、订单对接到生产交付的全业务流程。
    的头像 发表于 11-11 14:51 1391次阅读

    腾聚创全栈数字激光雷达芯片通过AEC-Q认证

    10月14日,腾聚创宣布旗下数字激光雷达的两款核心芯片通过AEC-Q102车规级可靠性认证,成为全球率先实现数字激光雷达发射、接收、处理全链路芯片均达车规标准的科技企业。   据
    的头像 发表于 10-15 17:12 704次阅读

    华推动AIoT技术与产业实践的深度融合

    近日,由中国自动化学会主办、华科技承办的首届“华AIoT创新应用大赛”决赛顺利举办,来自全国38所高校的49支复赛晋级团队同台竞技、激烈角逐,最终两大核心赛道共诞生16支获奖队伍,标志着赛事
    的头像 发表于 10-12 14:56 2451次阅读

    众达科技以“自主可控”生态,在国产嵌入式领域交出超200款产品、100+专利的硬核答卷

    14年深耕!众达科技以“自主可控”生态,在国产嵌入式领域交出超200款产品、100+专利的硬核答卷 在电力调度的实时监控、工业产线的智能管控、金融系统的安全防护等关键场景中,北京众达精电科技有限公司
    的头像 发表于 10-10 21:49 999次阅读

    国产高性能图形 GPU 重磅发布:跑分超 RTX4060,畅玩《黑神话・悟空》

    系列。   砺算科技创始人、CEO 宣以方表示,砺算 7G100 系列 GPU 从计算核心到指令集完全由自主设计,基于 “天图” 架构,并配备
    发表于 07-26 21:45 6216次阅读
    <b class='flag-5'>国产</b>真<b class='flag-5'>自</b><b class='flag-5'>研</b>高性能图形 GPU 重磅发布:跑分超 RTX4060,畅玩《黑神话・悟空》

    华工业AI Agent的发展态势及实践思考

    工业 4.0 风起云涌之际,AI Agent 产业化落地成为各界竞逐焦点。华科技凭借深厚的行业积淀,勇于创新、积极探索,在企业级工业 AI Agent 方面积累了扎实的实践经验。本期访谈邀请到
    的头像 发表于 06-23 09:31 1225次阅读

    又一颗国产GPU芯片成功点亮!6nm制程,TrueGPU架构

    款GPU芯片G100采用6nm制程,基于的TrueGPU架构,这是全球首个融合高性能图形渲染与AI推理能力的GPU架构。其核心优势在于通过unified shader+tensor
    发表于 05-29 00:48 2795次阅读

    高端芯片,服务芯片传来好消息!

    电子发烧友网报道(文/黄晶晶)当前,处理已经跨过了能用的阶段,逐渐走向好用,但无论是消费级还是服务级都面临着如何在性能上接近国外高端产品,以及生态上如何更加完善的问题。国内厂商
    的头像 发表于 05-18 09:25 8529次阅读
    高端芯片<b class='flag-5'>自</b><b class='flag-5'>研</b>,服务<b class='flag-5'>器</b>芯片传来好消息!

    智慧基于亚马逊云科技构建医药行业专属大模型 推动药物研发创新

    人工智能辅助药物设计(AIDD)过程的效率,实现人工智能在医药行业创新应用场景的落地。在亚马逊云科技的技术赋能下,望智慧的多个医药项目依托该模型已收获显著成果,在成功构建多条管线
    发表于 05-13 14:21 1125次阅读