微软已经为深度学习优化库 DeepSpeed 申请了商标保护。该商标于2020年12月8日提交,其中提到“为人工智能处理和深度学习提供临时使用的在线不可下载的计算机软件”,这表明微软可能在考虑通过在线云服务提供 DeepSpeed。
该库于今年 2 月发布,可以在适度的硬件上训练大规模的人工智能模型。它只需要使用 800 块 Nvidia V100 显卡就可以创建具有万亿参数的深度学习模型,是目前世界上最大的模型的 5 倍多。如果没有DeepSpeed,同样的任务需要 4000 块 Nvidia A100(性能比 V100 快2.5倍),而且事件缩短了 100 多天。
在 GPT-3 显示模型在神经网和数据集越大的情况下继续改进后,这个工具特别有用。然而,这确实有可能将最新的创新推到资源较少的小型团队的范围之外,但DeepSpeed已经允许这些团队以最小的硬件与更大的服务竞争。转移到云处理可能会使大型模型AI训练更容易获得。
责任编辑:PSY
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
微软
+关注
关注
4文章
6248浏览量
103078 -
商标
+关注
关注
0文章
13浏览量
10405 -
云服务
+关注
关注
0文章
751浏览量
38629
发布评论请先 登录
相关推荐
阿里云调整商标代理服务,停接知域互联科技订单,建议关注
阿里云仅作为平台运营方,保护并提升合作服务商的服务质量。为了保障注册记录与订单管理的连续性,阿里云将保留商标智能注册产品的登记及订单管理等核心功能。
特斯拉申请赛博中文商标 Cybertruck或将进入中国市场
特斯拉申请赛博中文商标 Cybertruck或将进入中国市场 此前在2023年11月特斯拉已开始向美国用户交付特斯拉旗下的赛博越野旅行车。但是按照马斯克此前的预计博越野旅行车(Cybertruck
中兴通讯申请星云OS商标
中兴通讯在商标领域动作频频,近日申请注册了多枚涉及“星云”、“星云OS”以及“ZTE NEBULA OS”的商标,这些商标的国际分类覆盖了科学仪器和通讯
吉利申请星睿大模型商标
近日,浙江吉利控股集团有限公司向国家知识产权局申请注册两枚“吉利星睿大模型”商标,其国际分类为科学仪器和网站服务。目前,这两枚商标均处于等待实质审查的状态。
华为再申请“界”系列商标 华为申请“合界”商标
华为再申请“界”系列商标 华为申请“合界”商标 问界火爆之后,“界”开始被更多关注,华为再申请“界”系列
华为申请“合界”商标
华为技术有限公司近日向商标局申请注册一枚“合界”商标,国际分类为运输工具,当前商标状态为等待实质审查。这一举动引起了业界的广泛关注。
华为申请注册“引望”商标
华为技术有限公司近日申请注册了多枚商标,其中包括“引望”、“引看”、“引众”、“INVISOL”、“INNOWARD”等,涵盖了科学仪器、运输工具等多个国际分类。这些商标的申请引发了市
华为最新消息一览 华为申请“遥遥领先”商标
华为申请“遥遥领先”商标 华为余承东的标志语言“遥遥领先”已经成为网络热词;或者说是一个标签、一种情怀,小编甚至在苹果发布会的转播中看到满屏的“遥遥领先”,现在华为申请“遥遥领先”商标
Profile工作判断模型的计算以及内存瓶颈
和DeepSpeed运行时一起使用 在Megatron-LM中使用 在 DeepSpeed 运行环境之外的使用方法 训练工作流例子 0x0. 前言 这篇翻译是对 https://www.deepspeed
DeepSpeed安装和使用教程
本文翻译了 Getting Started 和 Installation Details 和 CIFAR-10 Tutorial 三个教程,可以让新手安装和简单使用上 DeepSpeed 来做模型训练。
DeepSpeed结合Megatron-LM训练GPT2模型笔记
是如何结合DeepSpeed的特性进行训练Megatron GPT2,由于篇幅原因这篇文章只写了第一部分,主要是非常细致的记录了跑起来Megatron GPT2训练流程碰到的一些问题和如何解决的。本文主要以这里的codebase展开写作。
Vision Pro惨了,华为四年前就注册了商标
但另据中国商标网的查询结果,华为公司早在 2019 年 5 月 16 日就成功申请了 Vision Pro 的商标,专用权期限长达 10 年,即 2021 年 11 月 28 日至 2031
DeepSpeed里面和Zero相关技术教程
使用原始的 Megatron-LM 训练 GPT2 设置训练数据 运行未修改的Megatron-LM GPT2模型 开启DeepSpeed DeepSpeed 使用 GPT-2 进行评估 Zero
评论