Graphcore发布基于IPU开发者云，适用于AI模型的训练和推理

7月8日消息，Graphcore今日正式发布基于IPU的开发者云，面向中国的客户、大学、研究机构和个人研究者免费使用，使得前沿的机器智能创新者可以轻松获取IPU进行前沿AI模型的云端训练与推理，从而在新的一波机器智能浪潮中取得关键突破。该开发者云是中国首款IPU开发者云，部署在金山云上，使用了IPU PCIe卡适配完成的浪潮NF5568M5服务器和戴尔DSS8440服务器。

中国众多的机器智能创新者活跃在各个AI领域的世界前端，通过IPU开发者云，前沿机器智能创新者可以快速便捷地获取IPU云，避开自建机房或者申购IPU服务器等繁琐内部流程，专注于在IPU上快速运行自己的AI模型结果。

“我们在与创新者交流时，很多创新者想要使用IPU来运行自己的算法模型，以期获得更好的运行结果，但受制于各种条件限制，难以达成。”Graphcore高级副总裁兼中国区总经理卢涛表示，“因此我们推出了IPU开发者云，开发者们可以很方便地使用IPU进行训练与推理任务，探索自己的算法模型的极致表现，并且它是免费的，我们的本地工程支持团队还会和开发者们一同制定工程计划，全程提供咨询与支持。”

开发者在运行先进的AI算法模型时，最常遇到两大困扰：一是他们将要求提供给算力平台部门时，经常得到的反馈是GPU目前不能够支持他们想要的低时延和高吞吐量；二是他们的算法模型在GPU上跑的速度非常慢，经常产生有可能是算法本身问题的误导。这是由于GPU从来不是为了满足机器学习的计算需求而设计的。而与当今的CPU和GPU完全不同，Graphcore从零设计的IPU是一种高度灵活、易于使用的并行处理器，专门适用于算力密集型的机器学习和深度学习任务，能在目前用于训练和推理的机器智能模型上实现最先进的性能。

借助IPU开发者云，创新者可以使自己的算法任务直达IPU，避开传统硬件的限制陷阱，使得自己的算法模型不用因硬件受阻而妥协。创新者们可以在IPU上最大程度地释放算法模型的潜能，使结果值抵达最优，并在IPU上探索更多的可能性，全方位触发创新。

• 对于商业客户来说，在较短的时间内（通常为三周或者按需适度延长），可以通过IPU极大优化现有模型，了解到模型现在及未来的性能提升空间，从而迅速行动，早竞争对手一步实现产品化和市场化，获得最大时间窗口优势，赢取市场先机。

• 大学、研究机构和个人研究者可以在较长的时间内（通常为6个月）免费访问，直至完成研究项目并发表结果。在IPU上，用于研究的算法模型得以极大优化，充分释放潜能，帮助缩短研究成果面世的时间，并触发新的研究方向，探索新领域。

• 专注于在机器智能方面取得新突破以扩大人类潜能的研究者可获得优先访问使用权。另外，全球范围内正在进行COVID-19相关研究的机构和个人可以获得最先使用权。

在收到使用请求并完成评估后，Graphcore工程团队会和商业客户、大学和研究者一起制定开发计划和使用周期，并全程提供技术咨询和支持。

Graphcore IPU开发者云使用了金山云提供的托管服务，金山云独特灵活的云物理机服务可以使Graphcore布置多种机型，目前已上线IPU PCIe卡配置完成的浪潮NF5568M5服务器和戴尔DSS8440服务器。如使用者有本地测试需求，金山云还会将机器运送到使用者本地配合测试，之后再返还数据中心。这为使用IPU的开发者提供了极高的灵活度、极大的创新空间和很好的本地技术支持。

金山云合伙人刘涛先生表示：“很高兴Graphcore IPU开发者云入驻金山云，期望看到越来越多的开发者在IPU开发者云上实现AI模型加速创新。金山云将和Graphcore共同为广大开发者提供助力，推动AI应用的产业化落地。”

IPU开发者云适用于先进和复杂的AI模型的训练和推理，按照场景大致分为五类：

1. 自然语言处理类，比如BERT；

2. 高级计算机视觉应用类，即以分组卷积为代表的一些机器视觉类的应用，比如ResNeXt、EfficientNet、ResNet；

3. 时序分析类，比如LSTM、RNN、GRU等大量应用于语音应用、广告推荐、金融算法等模型;

4. 排名与推荐类，比如Deep Autoencoder;

5. 概率模型，比如MCMC等用于算法交易的模型；

除了上述模型，IPU还非常适合在稀疏化的应用场景里进行前沿探索。

为了更好地赋能中国AI创新者，配合开发者云，Graphcore的创新社区现已全面正式上线，社区平台包含微信、知乎、微博以及Graphcore即将上线的中文创新社区网站。创新者们可以在自己常用的社交平台上轻松向Graphcore全球的科学家提问，获取IPU硬件产品与软件更新的最新资讯、阅读深度技术文章、并与其他创新者们一起交流成长。

“在中国建立IPU开发者云，是Graphcore对于中国创新社区的承诺。Graphcore积极拥抱中国的AI生态系统，通过IPU开发者云的免费使用和源源不断的知识输出，赋能尖端AI创新者，从而将中国最具有创新能力和求知精神的机器智能创新者们汇聚在一起，共同在社区中探索与收获。”Graphcore高级副总裁兼中国区总经理卢涛表示。

Graphcore联合创始人兼CEO Nigel Toon表示：“Graphcore非常专注于中国市场。机器智能方面的许多新突破将非常适用于中国客户和研究机构。通过为进行AI研究的创新者免费提供云计算中的IPU支持以及运营在中国的创新社区，我们可以支持中国最具创新精神的人才解决世界上最棘手的AI问题。”

责任编辑：gt