墨芯人工智能发布大模型算力方案的最新成果

7月6日，在世界人工智能大会WAIC上，墨芯人工智能发布了大模型算力方案的最新成果，宣告进入“千亿”时代：墨芯AI计算平台率先支持高达千亿参数的大语言模型，并在吞吐、延时等多项指标上表现优异，创下又一里程碑。

在活动现场，墨芯展台成为全场热点：1760亿参数的大语言模型Bloom在墨芯AI计算平台的推理引擎支持下，能够快速、流畅地回答各类问题，并完成诗歌创作、文案撰写等多项语言生成任务，赢得现场观众的关注与赞叹。

墨芯在千亿参数大模型上的卓越表现，不仅再次彰显出众的产品技术优势，更是意义重大的行业性突破：

当前，算力瓶颈已成为大模型落地应用的普遍痛点。墨芯针对大模型打造更高性能、更优化的方案，缓解算力之困，为AIGC等大模型应用释放巨大空间，真正带来“好用”、“用得起”的大模型算力方案。

千亿参数大模型在墨芯AI计算平台支持下的

推理效果

这对AIGC产业发展具有重要意义——

表明墨芯能够为行业带来新的前景：为企业、科研机构提供高效的算力支持，有力助推AIGC等大模型成果走向社会、走向更多行业；同时帮助AI企业建立先发优势，加入AIGC潮流。

一起来了解，墨芯的“千亿时刻“，所包含的重要突破——

在WAIC现场，墨芯还展示了MLPerf冠军产品——墨芯AI卡计算卡、AI集成架构方案等众多展品，吸引了众多嘉宾、观众与媒体的好评。

墨芯在千亿参数大模型上的突破，再次显示出稀疏计算的巨大优势，有效解决算力资源不足、功耗等运营成本巨大等行业痛点。墨芯率先将稀疏化算法与硬件结合落地，深度挖掘与释放了稀疏计算在大模型上的潜力与价值，为行业带来大模型算力的“最佳实践”。

这不仅为AI算力的未来发展带来了可行的创新路径，为将来更大模型、更复杂应用的发展奠定基础，更为AIGC等大模型应用的广泛落地打开了空间，为新一轮智能革命提供加速引擎，推动AIGC的发展迎来新天地。