近日,物联网与智能计算领域的知名企业美格智能正式对外宣布,已经在旗下MT200 AI BOX边缘智能硬件上,顺利完成DeepSeek Harness大模型推理框架的全流程部署验证,整套系统运行稳定,各项性能指标都达到了预设要求。这次验证的顺利完成,意味着端侧AI硬件的实际能力边界得到了进一步拓展,更多轻量化的大模型应用可以直接在边缘侧硬件上流畅运行,不用完全依赖云端算力支撑。
美格智能推出的MT200 AI BOX,是一款专门面向工业、商业场景打造的边缘智能计算硬件,体积紧凑,部署灵活,不需要复杂的机房环境,直接在普通的车间、门店、园区里就能通电运行。这款硬件搭载了高性能的边缘计算芯片,内置的AI算力核心专门针对端侧大模型运行做了硬件层面的优化,同时配备了丰富的外设接口,可以直接对接摄像头、传感器、工业PLC等各类现场设备,能快速接入到现有的各类线下业务系统里,不用对原有系统做大规模改造。
这次部署验证的核心对象DeepSeek Harness,是一款专门面向端侧、边缘侧场景打造的轻量化大模型推理框架,它的核心特点就是能在有限的硬件算力资源下,把大模型的运行效率拉到最高,大幅降低大模型对硬件配置的门槛要求。以往很多大模型只能在配置高端GPU的云端服务器上才能流畅运行,很难直接跑到边缘侧的低功耗硬件上,DeepSeek Harness通过针对性的模型压缩、算子优化、内存调度优化等技术,让原本只能在云端运行的大模型,也能在边缘侧的中等算力硬件上稳定运行,同时还能保持不错的响应速度和输出效果。
在这次全流程部署验证过程中,美格智能的技术团队完成了从底层硬件驱动适配、推理框架移植、模型量化压缩,到上层应用接口封装的全链条调试工作。经过多轮反复测试,最终在MT200 AI BOX硬件上,实现了DeepSeek系列大模型的稳定流畅运行,哪怕是在硬件算力资源有限的情况下,大模型的文本生成速度、响应延迟都能满足实际业务场景的使用需求,整套系统长时间连续运行也没有出现卡顿、崩溃的情况,完全达到了实际商用落地的标准。
这次部署验证完成之后,MT200 AI BOX这款边缘硬件的适用场景被进一步拓宽。在工业场景里,工程师可以直接把它部署在生产车间里,对接现场的工业设备运行数据,不用把大量数据传回云端,直接在本地就能完成设备故障智能分析、生产报表自动生成、异常工况实时预警等AI功能,既降低了数据传输的带宽成本,也避免了工业数据外传带来的合规风险。在连锁门店场景里,门店的运营人员可以直接通过本地部署的AI BOX,完成门店经营数据的智能分析、客群行为统计、营销方案自动生成等工作,不用依赖云端服务器,哪怕门店网络临时中断,相关的AI功能也能正常运行。在园区运维场景里,它可以直接对接园区的监控摄像头和各类传感器,在本地完成智能安防巡检、异常事件实时识别等功能,响应速度比依赖云端的方案快很多。
作为长期深耕智能硬件和边缘计算领域的企业,美格智能此前已经推出了多款面向不同场景的边缘AI硬件产品,在工业互联网、智能零售、智慧园区等多个行业积累了大量落地经验。这次顺利完成DeepSeek Harness在MT200 AI BOX上的部署验证,相当于给下游行业客户提供了一个开箱即用的成熟参考方案,开发者不用再从零开始摸索框架移植和模型适配的复杂流程,直接基于美格智能封装好的标准化接口,就能快速开发出适配自身业务需求的端侧AI应用,大幅缩短了端侧AI项目的落地周期。
接下来美格智能还会基于这次验证完成的成熟方案,推出更多面向不同行业的端侧AI参考应用,进一步降低行业客户落地端侧大模型应用的门槛,让更多轻量化的AI智能能力直接下沉到各类线下边缘场景里,推动端侧AI技术在更多实际业务中落地普及。
-
物联网
+关注
关注
2953文章
48983浏览量
426306 -
AI
+关注
关注
92文章
45718浏览量
306425 -
智能计算
+关注
关注
0文章
211浏览量
17214 -
智能硬件
+关注
关注
205文章
2485浏览量
113309 -
美格智能
+关注
关注
2文章
355浏览量
12662
发布评论请先 登录
集聚算力设备与技术,2027甘肃绿色算力展会,兰州AI算力展
2027亚洲消费电子展AI算力侧端智能展区开放招商,芯片、模组、终端企业速来
美格智能完成 DeepSeek Harness 在 MT200 AI BOX 的部署验证,端侧 AI 能力边界将重新定义
从云AI 走向端侧智能,Nordic 芯片如何打开轻量化 AI 硬件落地路径
[已完结]DeepSeek+SpringAI实战AI家庭医生应用
HarmonyOS NEXT 携手 AI,以 DeepSeek 赋能智能助手 APP 新体验
帝奥微战略投资光羽芯辰以加速端侧AI产业落地
SDD ,Harness驾驭工程AI全栈教程
移远发布联发科平台旗舰AI算力模组,端侧智能算力再进阶
伟创力与AMD进一步深化战略合作
边缘AI算力临界点:深度解析176TOPS香橙派AI Station的产业价值
美格智能高算力AI模组+Qwen3.5,打造端侧最强AI智能体
美格智能完成DeepSeek Harness部署验证 端侧AI算力落地再进一步
评论